Anthropic-Chef Dario Amodei fordert eine kontrollierte Verlangsamung der KI‑Entwicklung. Rekursive Selbstverbesserung könne in sechs bis zwölf Monaten das gesamte Internet gefährden. Er schlägt eingebettete Prüfer in KI-Firmen, gemeinsame Sicherheitsstandards und globale Abkommen nach Vorbild der SALT‑Abrüstungsverträge vor, und das kurz vor dem größten Börsengang der Geschichte.
GPT-6-Astra ist wohl auch ein großer Sprung beim räumlichen Verständnis. Ein neuer Robotik-Benchmark namens StationeryBench vergleicht OpenAIs GPT-6 Astra mit Ai2s MolmoAct2 bei fünf Aufgaben mit Schreibtischgegenständen, etwa einen Marker öffnen, Büroklammern umschütten oder ein Lineal zwischen zwei Roboterarmen übergeben. Beide Modelle steuerten dieselben zweiarmigen YAM-Roboterarme in insgesamt 200 Versuchen. GPT-6 Astra erledigte 7 von 100 Aufgaben vollständig, MolmoAct2 keine einzige. Der mittlere Fortschrittswert lag bei Astra bei 46 von 100, bei MolmoAct2 bei 12. Alle Ergebnisse, Videos und der Code sind auf GitHub verfügbar. OpenAI plant langfristig, eigene Alltagsroboter zu bauen.
Auch Yoav Artzi, KI-Forscher an der Cornell University und bei Google Deepmind, sieht in Astra einen klaren Sprung beim räumlichen Verständnis. Im noch unveröffentlichten Benchmark REMAP erreicht GPT-Astra eine Genauigkeit nahe dem menschlichen Niveau. Artzi vermutet, dass OpenAI das Modell mit großen Mengen an 3D-Trainingsdaten wie Blender-Szenen trainiert haben könnte. Zu dieser These passt, dass Astra insbesondere bei der 3D-Entwicklung Fortschritte erzielte.
Nvidia verhandelt laut Reuters über eine Investition von bis zu zehn Milliarden Dollar in den geplanten Börsengang von Anthropic. Das KI-Unternehmen hinter dem Chatbot Claude will bei dem IPO bis zu 100 Milliarden Dollar einsammeln und strebt eine Bewertung von rund 2 Billionen Dollar an. Es wäre der größte Börsengang aller Zeiten. Nvidia würde als sogenannter Ankerinvestor auftreten, der vor dem breiten Marktstart Anteile zusichert.
Beide Unternehmen sind bereits eng verbunden: Anthropic nutzt massiv Nvidia-GPUs und hat sich 2025 zum Kauf von 30 Milliarden Dollar Azure-Rechenkapazität mit Nvidia-Chips verpflichtet. Anthropics Jahresumsatz stieg laut Unternehmensangaben von etwa 9 Milliarden Dollar Ende 2025 auf mehr als 65 Milliarden Dollar bis Juli 2026. Der Börsengang soll wohl vor den US-Zwischenwahlen im November abgeschlossen werden.
Nvidia fungiert also weiter als eine Art Zentralbank der KI-Branche: Der Chipkonzern senkt die Finanzierungskosten der gesamten Branche, indem er in Kunden wie Anthropic und OpenAI investiert und über Garantien im Umfang von rund 300 Milliarden Dollar dafür sorgt, dass Rechenzentren überhaupt Kredite bekommen. Das eingesammelte Geld fließt großteils zurück in den Kauf von Nvidia-Chips.
OpenAI-Entwickler Eric Provencher warnt, dass aufgeblähte Skill-Beschreibungen, pauschale Lesepflichten und starre Freigaberegeln GPT-6 Astra in Codex ausbremsen können. Leistungsfähigere Modelle brauchen weniger kleinteilige Anleitung. Entwickler sollen Anweisungen aufgabenbezogen kürzen und klare Fertigstellungskriterien definieren.
Google Research hat mit TimesFM-3 ein Prognosemodell vorgestellt, das Zeitreihen gemeinsam mit verwandten Daten und bekannten Zukunftsereignissen wie Rabattaktionen oder Wetterprognosen auswertet. Das Modell mit 330 Millionen Parametern füllt alle künftigen Zeitpunkte in einem einzigen Durchgang aus. Das spart Rechenzeit und macht Vorhersagen zuverlässiger.
Der bekannte KI-Forscher Yoshua Bengio stimmt ein ins KI‑Katastrophenlied. In einem Aufsatz warnt er vor systemischem Kontrollverlust. Je besser KI-Agenten Ziele optimieren, desto besser könnten sie auch täuschen, Regeln ausnutzen, sich absprechen und Fehlverhalten verbergen. Das Verhalten entsteht laut Bengio durch den Trainingsprozess selbst, von der Imitation menschlicher Texte bis zum Belohnungslernen. Bei unsauber definierten Zielen optimiert das System möglicherweise gegen die menschliche Absicht. Bengios Ansicht wird unter anderem von Anthropics Forschung gestützt.
Der Deep-Learning-Pionier fordert schon seit Jahren, Fortschritte zu bremsen und nur bei überzeugendem unabhängigem Sicherheitsnachweis weiterzutrainieren oder zu deployen. Mit LawZero gründete er vor rund einem Jahr eine eigene Organisation für sichere KI-Systeme. Er reiht sich in zahlreiche Warnungen ein, die zuletzt vor allem aus den KI-Laboren selbst kamen, sodass inzwischen eine Verlangsamung der Entwicklung im Raum steht.
Das sieht Donald Trump anders. Der US-Präsident vermutet keine Gefahr und will weiter China abhängen. Er sorge sich, dass die USA in eine "sehr schlechte Position" geraten, wenn sie das KI-Rennen nicht gewinnen. Die USA führten mit deutlichem Vorsprung vor China, und das solle so bleiben.
