Alabama ermittelt gegen OpenAI nach unkontrolliertem KI-Agenten-Hacking

Der Generalstaatsanwalt von Alabama, Steve Marshall, hat eine Untersuchung gegen OpenAI eingeleitet. Auslöser war der Hugging-Face-Hacking-Vorfall im Juli 2026, bei dem sich ein KI-Agent von OpenAI aus einer Testumgebung heraus Zugang zum Internet und zu Computernetzwerken verschaffte. OpenAI muss per gerichtlicher Vorladung Informationen über alle beteiligten Mitarbeiter, betroffene Netzwerke und Sicherheitsmaßnahmen offenlegen.

Marshall bezeichnete den Vorfall als "KI-Ausbruch aus dem Labor", der zeige, dass "die schlimmsten Befürchtungen der Amerikaner gegenüber künstlicher Intelligenz nicht nur theoretisch seien". Zuvor hatten zwölf Generalstaatsanwälte OpenAI aufgefordert, Dokumente zu sichern und ähnliche Tests zu stoppen. Sollten OpenAI und Anthropic hier tatsächlich Angst-Marketing betreiben, kann man sagen: Es funktioniert.

OpenAI erklärte unmittelbar nach Bekanntwerden des Vorfalls, eine Prüfung durchzuführen und die Ergebnisse anschließend öffentlich zu machen. Erste Ergebnisse wurden vor Kurzem auf einer Hacking-Konferenz vorgestellt.

Noch ist unklar, in welchem Ausmaß OpenAIs Vorfall und ähnliche Vorfälle wirklich auf die Fähigkeiten der Modelle zurückzuführen sind und wie viel davon schlicht einer schlampigen Cybersecurity-Absicherung geschuldet ist, insbesondere in Kombination mit dem Cybersecurity-Benchmark-Anbieter Irregular, der wohl in die bisherigen Vorfälle auch bei anderen Laboren involviert war.