FTC ermittelt offiziell gegen OpenAI, Anthropic und weitere KI-Labore wegen Verbraucherschutzverstößen

Die Federal Trade Commission (FTC) ermittelt laut Regierungskreisen gegen OpenAI, Anthropic und weitere führende KI-Labore wegen möglicher Verbraucherschutzverstöße. FTC-Chef Andrew Ferguson will die Firmen per "Civil Investigative Demands", also rechtlich bindender Auskunftsersuchen, zur Herausgabe von Dokumenten zwingen und Führungskräfte befragen lassen, berichtet die New York Post. Die Anordnungen sollen in den kommenden Wochen verschickt werden.

Die Ermittlungen begannen bereits vor dem Hacking-Vorfall auf Hugging Face, bei dem sich laut einer unabhängigen Untersuchung rund 700 OpenAI-Agenten an einem Angriff auf die Open-Source-Plattform beteiligten. Auch die KI-Sicherheitsorganisation METR ist im Visier. Nur einen Tag vor Bekanntwerden der Ermittlungen hatten Dario Amodei (Anthropic), Greg Brockman (OpenAI), Sundar Pichai (Google) und Elon Musk (xAI) im Weißen Haus eine Selbstverpflichtung unterzeichnet. Sie sieht vor, dass unabhängige externe Prüfer kontrollieren, ob KI-Modelle wie vorgesehen funktionieren.

Ferguson warnte, die großen KI-Firmen dürften nicht nach Regulierung rufen, die nur sie selbst erfüllen könnten, um kleinere Konkurrenten vom Markt fernzuhalten. Bereits Ende September hatte die FTC-Spitze angekündigt, KI-Entwickler für das Verhalten ihrer Agenten haftbar machen zu wollen. Die geplante formelle Ermittlung geht allerdings deutlich darüber hinaus. Angesichts der Häufung an Vorfällen, die zu Klagen führen könnten, ist sie ein existenzielles Risiko für die Labore.