KI-Forschung KI und Gesellschaft KI in der Praxis
KI in der Praxis
Short

Es gibt zwei neue WormGPT-Varianten, die auf Grok und Mixtral basieren. WormGPT taucht erstmals im Juni 2023 als zensurfreies LLM-Tool für Cyberkriminelle auf, basierend auf dem Open-Source-Modell GPT-J. Laut Cato CTRL wurden inzwischen zwei leistungsfähigere Varianten im BreachForums veröffentlicht: "keanu-WormGPT" nutzt Grok von xAI (via API!), "xzin0vich-WormGPT" basiert auf Mixtral von Mistral AI. Beide Versionen werden über Telegram angeboten und umgehen Schutzmechanismen der zugrunde liegenden Sprachmodelle durch manipulierte System-Prompts. Sie können unter anderem Phishing-Mails und Schadcode generieren. Cato sieht darin eine neue Stufe in der missbräuchlichen Nutzung großer Sprachmodelle.

xzin0vich-WormGPT schreibt eine Phishing-Mail. | Bild: Screenshot via Cato CTRL
Anzeige
KI in der Praxis
Short

Google hat Magenta RealTime (Magenta RT) vorgestellt, ein Open-Source-Modell für die Erstellung und Steuerung von Musik in Echtzeit. Es hört auf Textbefehle, Audiobeispiele oder eine gewichtete Kombination aus Text und Audio. Magenta RT basiert auf einem 800 Millionen Parameter großen Transformer-Modell, das auf rund 190.000 Stunden vorwiegend instrumentaler Musik trainiert wurde. Eine technische Grenze: Das Modell kann nur auf die letzten zehn Sekunden der generierten Musik zugreifen, da sein Audio-Kontextfenster maximal zehn Sekunden umfasst.

External media content (www.youtube.com) has been blocked here. When loading or playing, connections are established to the servers of the respective providers. Personal data may be communicated to the providers in the process. You can find more information in our privacy policy.

Das Modell und der Quellcode sind auf GitHub und Hugging Face unter offenen Lizenzen verfügbar. Nutzer können das Modell aktuell kostenlos auf Colab TPUs testen, lokale Nutzung, eigene Anpassungen und das Paper sollen bald folgen.

KI in der Praxis
Short

Thinking Machines Lab, das KI-Startup der ehemaligen OpenAI-Technikchefin Mira Murati, hat eine Finanzierungsrunde von zwei Milliarden Dollar abgeschlossen. Das erst sechs Monate alte Unternehmen wird mit zehn Milliarden Dollar bewertet. Ähnlich wie bei Safe Super Intelligence, dem Start-up des Ex-OpenAI-Chefwissenschaftlers Ilya Sutskever, das mit mehr als 30 Milliarden bewertet wird, basiert die Bewertung wohl in erster Linie auf den handelnden Personen: Beide Unternehmen haben keine öffentlich bekannten Produkte oder Umsätze, dafür aber einen namhaften Ruf. Anders als SSI verspricht Muratis Start-up keine Superintelligenz; stattdessen soll es um eine Mensch-KI-Zusammenarbeit und anpassbare KI-Systeme gehen. Murati verließ OpenAI im Herbst 2024 nach internen Streitigkeiten.

Anzeige
Anzeige
KI in der Praxis
Short

Die BBC droht dem US-KI-Start-up Perplexity mit rechtlichen Schritten wegen angeblich unerlaubter Nutzung von BBC-Inhalten zum Training von KI-Systemen. In einem Schreiben fordert die BBC unter anderem das Ende des sogenannten "Scrapings", die Löschung gespeicherter Inhalte und eine finanzielle Entschädigung. Die BBC kritisiert, dass Perplexity Inhalte wortwörtlich übernommen habe, damit eigene Angebote unterlaufe und sein Standard-KI-Modell Sonar mit BBC-Inhalten trainiert zu haben. Laut BBC wiesen zudem 17 Prozent der Antworten des Perplexity-Chatbots in einer internen Analyse erhebliche Fehler auf. Perplexity weist die Vorwürfe zurück, ist aber bereits in Rechtsstreit mit anderen Medien und führt mit ausgewählten Verlagen Lizenzgespräche.

Google News

Bankverbindung

IBAN: DE87 1203 0000 1086 0070 75
Kontoinhaber: DEEP CONTENT GbR
Verwendungszweck: Unterstützung THE DECODER
KI-Forschung

Othello-Experiment stützt erneut Weltmodell-Hypothese für große Sprachmodelle

KI in der Praxis

MIT-Studie zeigt "kognitive Schuld" durch ChatGPT - was das für die Praxis bedeutet

KI-Forschung

Metas KI-Chef nennt generative KI eine Sackgasse - und liefert mit V-JEPA 2 die Alternative

Google News