Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
OpenAI-CEO Sam Altman bekräftigt seine Forderung nach einer Verlangsamung der KI‑Entwicklung. Altman fordert einen einheitlichen bundesweiten Rahmen für Sicherheitsanforderungen bei fortschrittlicher KI, betont aber, dass die Branche nicht auf Gesetze warten müsse. OpenAI formuliere inzwischen vorab explizite Sicherheitsnachweise vor KI-Trainingsläufen, die die Fähigkeiten deutlich steigern könnten. Altman ruft andere Unternehmen auf, gemeinsame Standards für Sicherheit und Überwachung zu entwickeln. Mit "Drosseln" meine er nicht "Stoppen": Der Fortschritt werde rasant weitergehen, aber langsamer als technisch möglich.
Das Drosseln wird diese Kosten wert sein; kein noch so großer amerikanischer Wettbewerbsdruck sollte Leichtsinn rechtfertigen oder zulassen, dass die Fähigkeiten der Modelle der Ausrichtung und Überwachung davonlaufen.
Sam Altman, OpenAI
Die Welt müsse darauf vertrauen können, dass amerikanische KI-Unternehmen verantwortungsvoll handeln, besonders angesichts des steileren Fortschritts. Für internationale Koordination benötige man die Hilfe der US‑Regierung. Über das Wochenende hatten sich Anthropic-CEO Dario Amodei, Ex-Deepmind-CEO Demis Hassabis, Microsoft-Chef Satya Nadella und Elon Musk ebenfalls für eine besser kontrollierte KI-Entwicklung ausgesprochen.
Laut The Information laufen zwischen OpenAI, Anthropic und Google schon seit Monaten Hintergrundgespräche über eine Selbstregulierung der KI-Industrie, insbesondere durch eine unabhängige Kontrollinstanz. Meta war offenbar bislang nicht in die Gespräche nicht involviert. Kleinere Anbieter wie Cohere befürchten eine Kartellbildung.
Elevenlabs hat Music v2.5 für ElevenMusic veröffentlicht. Laut Elevenlabs klingen die erzeugten Songs dichter und natürlicher: In einem Blindtest mit 47.885 Vergleichspaaren wurde v2.5 meist gegenüber dem Vorgänger gewählt, besonders bei R&B, Soul, Hip-Hop, Rock und Orchestermusik. Nutzer behalten laut Unternehmen die Rechte an ihren erstellten Stücken. Im kostenlosen Tarif sind fünf verlustfreie Herunterladungen pro Tag enthalten, im Pro-Tarif 400 pro Monat.
Die kommerzielle Nutzung ist je nach Branche und Zweck erlaubt, im kostenlosen Tarif mit Quellenangabe. Gesperrt werden Herunterladungen von Stücken, die auf Songs anderer Künstler basieren; auch das Nachahmen bestehender Musiker ist untersagt. Music v2.5 ist zudem über die Programmierschnittstelle von Elevenlabs nutzbar, während v2 weiter verfügbar bleibt.
Elevenlabs hat kürzlich eine Lizenzvereinbarung mit Universal Music Group geschlossen, die laut dem Unternehmen aber nicht für Music v2.5 gilt, sondern für künftige, separate Produkte. Die bisherigen Music-Modelle hat Elevenlabs nach eigenen Angaben mit lizenzierter Musik und lizenzierten Einzelspuren trainiert. Anders als Konkurrent Suno, das wegen des Trainings auf geschützten Inhalten ohne Zustimmung der Rechteinhaber angeklagt wurde. Auch Suno hat diese Woche neue Modelle veröffentlicht.
Altman und Amodei sind sich einig: KI-Labore sollten unabhängig evaluiert werden. | Bild: via X
OpenAI wird laut Altman zudem in diesem Jahr aus Sicherheitsgründen nicht an die Börse gehen, sagte er gegenüber Fortune. Das hatte er schon im Juni intern mitgeteilt. Eine Lesart: OpenAIs Zahlen passen für den Börsengang schlicht nicht, speziell im Vergleich zu Anthropic; freilich kann beides stimmen.
Dass die KI-Branche keinen grundlegenden Konsens hat, zeigt ein Beitrag des Google-Forschers Peyman Milanfar. Selbstverbessernde KI (RSI) sei eine naive Annahme, da die Rückkopplungsschleifen instabil seien. Je stärker sich ein System optimiere, desto tiefer gerate es in Lücken. Verlässliche Evidenz komme nur aus dem Kontakt mit der realen Welt, nicht aus Benchmarks. Amodeis "Speedlimit" brauche es daher nicht: "Systeme, die sich zuverlässig selbst verbessern, werden reguliert, gedämpft, langsam und durch Margen begrenzt sein, die verschwenderisch wirken. Denn Stabilität ist die Geschwindigkeitsbegrenzung."
Anthropic-Chef Dario Amodei fordert eine kontrollierte Verlangsamung der KI‑Entwicklung. Rekursive Selbstverbesserung könne in sechs bis zwölf Monaten das gesamte Internet gefährden. Er schlägt eingebettete Prüfer in KI-Firmen, gemeinsame Sicherheitsstandards und globale Abkommen nach Vorbild der SALT‑Abrüstungsverträge vor, und das kurz vor dem größten Börsengang der Geschichte.
GPT-6-Astra ist wohl auch ein großer Sprung beim räumlichen Verständnis. Ein neuer Robotik-Benchmark namens StationeryBench vergleicht OpenAIs GPT-6 Astra mit Ai2s MolmoAct2 bei fünf Aufgaben mit Schreibtischgegenständen, etwa einen Marker öffnen, Büroklammern umschütten oder ein Lineal zwischen zwei Roboterarmen übergeben. Beide Modelle steuerten dieselben zweiarmigen YAM-Roboterarme in insgesamt 200 Versuchen. GPT-6 Astra erledigte 7 von 100 Aufgaben vollständig, MolmoAct2 keine einzige. Der mittlere Fortschrittswert lag bei Astra bei 46 von 100, bei MolmoAct2 bei 12. Alle Ergebnisse, Videos und der Code sind auf GitHub verfügbar. OpenAI plant langfristig, eigene Alltagsroboter zu bauen.
Auch Yoav Artzi, KI-Forscher an der Cornell University und bei Google Deepmind, sieht in Astra einen klaren Sprung beim räumlichen Verständnis. Im noch unveröffentlichten Benchmark REMAP erreicht GPT-Astra eine Genauigkeit nahe dem menschlichen Niveau. Artzi vermutet, dass OpenAI das Modell mit großen Mengen an 3D-Trainingsdaten wie Blender-Szenen trainiert haben könnte. Zu dieser These passt, dass Astra insbesondere bei der 3D-Entwicklung Fortschritte erzielte.
Nvidia verhandelt laut Reuters über eine Investition von bis zu zehn Milliarden Dollar in den geplanten Börsengang von Anthropic. Das KI-Unternehmen hinter dem Chatbot Claude will bei dem IPO bis zu 100 Milliarden Dollar einsammeln und strebt eine Bewertung von rund 2 Billionen Dollar an. Es wäre der größte Börsengang aller Zeiten. Nvidia würde als sogenannter Ankerinvestor auftreten, der vor dem breiten Marktstart Anteile zusichert.
Beide Unternehmen sind bereits eng verbunden: Anthropic nutzt massiv Nvidia-GPUs und hat sich 2025 zum Kauf von 30 Milliarden Dollar Azure-Rechenkapazität mit Nvidia-Chips verpflichtet. Anthropics Jahresumsatz stieg laut Unternehmensangaben von etwa 9 Milliarden Dollar Ende 2025 auf mehr als 65 Milliarden Dollar bis Juli 2026. Der Börsengang soll wohl vor den US-Zwischenwahlen im November abgeschlossen werden.
Nvidia fungiert also weiter als eine Art Zentralbank der KI-Branche: Der Chipkonzern senkt die Finanzierungskosten der gesamten Branche, indem er in Kunden wie Anthropic und OpenAI investiert und über Garantien im Umfang von rund 300 Milliarden Dollar dafür sorgt, dass Rechenzentren überhaupt Kredite bekommen. Das eingesammelte Geld fließt großteils zurück in den Kauf von Nvidia-Chips.
OpenAI-Entwickler Eric Provencher warnt, dass aufgeblähte Skill-Beschreibungen, pauschale Lesepflichten und starre Freigaberegeln GPT-6 Astra in Codex ausbremsen können. Leistungsfähigere Modelle brauchen weniger kleinteilige Anleitung. Entwickler sollen Anweisungen aufgabenbezogen kürzen und klare Fertigstellungskriterien definieren.
