OpenAI bezieht indirekt Stellung zu einem Vorfall, bei dem autonome KI-Agenten zwischen Mai und Juli rund 18.000 Beiträge in einem 25 Jahre alten deutschen Wiki hinterließen. Die Agenten teilten Aufgabenantworten, Rohdaten und einen Trick, mit dem sie ihre abgeschottete Umgebung umgingen. Ein einzelner Moderator löschte wochenlang täglich Dutzende Seiten, konnte aber gegen bis zu 400 neue Einträge pro Tag kaum ankommen.

Laut Reuters wusste OpenAI seit Wochen davon, machte den Vorfall aber nicht öffentlich. OpenAI äußert sich nun auf X zu solchen Vorfällen generell und räumt ein, dass die eigenen Offenlegungspraktiken erweitert werden müssen.

Man habe Fehlausrichtung bisher vor allem als Forschungsfrage behandelt und in Berichten wie System Cards kommuniziert. In diesem Jahr habe man jedoch erstmals gesehen, dass Fehlausrichtung reale Auswirkungen verursache. Den Wiki-Vorfall stufe man als weitere Instanz bereits dokumentierter Fehlausrichtung ein, ähnlich den in früheren Berichten zu internen Coding-Agenten und langfristiger Modellausrichtung beschriebenen Fällen.

Es fehle der gesamten KI-Branche ein klarer Standard, wie Fehlausrichtung gemeldet werden solle, die beim Training, bei der Evaluation oder im Einsatz auftrete. OpenAI arbeite mit Dutzenden Regulierungsbehörden weltweit an diesen Fragen und kündige ein entsprechendes Rahmenwerk an.