Streit um KI-Beweis für Millennium-Problem wird zur Vertrauensfrage für KI-Labore

Nach den Vorwürfen des Mathematikers Tristan Buckmaster gegen OpenAI haben sich nun alle Beteiligten geäußert. Der Fall wirft grundsätzliche Fragen für die offene Wissenschaft auf.

Im Streit um OpenAIs KI-generiertes Ergebnis zu den Navier-Stokes-Gleichungen, eines der mit einer Million Dollar dotierten Clay-Millennium-Probleme, haben sich mittlerweile alle relevanten Beteiligten öffentlich geäußert.

Zuerst hatte der Mathematiker Tristan Buckmaster schwere Vorwürfe gegen OpenAI erhoben: Das Unternehmen habe nach dem Durchsickern von Informationen über seine Forschung Druck auf ihn ausgeübt, seinen Koautor Levent Alpöge wegen dessen Anstellung bei Anthropic als Autor streichen wollen und ihm mit Karriereschäden gedroht. Zudem steht der Verdacht im Raum, dass OpenAI auf den in Codex hochgeladenen Entwürfen der beiden Forscher trainiert haben könnte.

Unstrittig ist: OpenAI hat nach eigener Aussage von Gerüchten erfahren, wonach Anthropics Modelle ein Millennium-Problem gelöst hätten, und daraufhin eigene Ressourcen auf das Problem gelenkt. In mehreren anderen Punkten gehen die Darstellungen auseinander.

Buckmaster: "Absoluter akademischer Betrug"

OpenAIs Behauptung, die eigene Lösung unterscheide sich deutlich von jener der beiden Forscher, bestreiten Alpöge und Buckmaster. Sie hätten einen ähnlichen Ansatz in OpenAIs Systeme eingegeben. Soweit er verstehe, sei genau das Teil der Trainingsdaten gewesen. "Das ist absoluter akademischer Betrug", schreibt Buckmaster.

Die Wahrscheinlichkeit, dass OpenAI tatsächlich auf den eingegebenen Lösungswegen trainiert hat, ist laut OpenAI-Angestellten gering und überflüssig, insbesondere wenn die beiden die Option deaktiviert hatten, eigene Eingaben vom Training auszuschließen. Ob das der Fall war, ist nicht bekannt.

Im offiziellen Blogpost räumt OpenAI ein: "Auch wenn es unwahrscheinlich ist, können wir nicht ausschließen, dass anonymisierte Daten, die aus ihrer Nutzung unserer Produkte stammen, zur Verbesserung unserer Modelle beigetragen haben."

Bubeck entschuldigt sich für Wortwahl, bestreitet aber Kernvorwürfe

Bubeck bestätigt die von Buckmaster zitierten Aussagen, will sie aber einordnen. Er habe nie verlangt, Alpöge als Autor von dessen eigener Arbeit zu streichen. Es sei darum gegangen, dass Alpöge auf einer vorgeschlagenen Neufassung von OpenAIs Navier-Stokes-Beweis nicht als Autor auftauche. In diesem Kontext habe er gesagt, "es wäre einfacher, wenn Levent kein Anthropic-Mitarbeiter wäre", weil er es für unangemessen halte, einem Anthropic-Mitarbeiter die Autorenschaft an OpenAI-Arbeit zu geben.

Zur Karriere-Bemerkung schrieb Bubeck, Buckmaster habe ihn sofort mit "einer Litanei von Verleumdungen" und "direkten Drohungen" konfrontiert, an die Presse zu gehen. Er habe daraufhin gesagt, er verstehe nicht, warum jemand seine Karriere wegen unbegründeter Anschuldigungen riskieren würde. "Ich entschuldige mich zutiefst für diese extrem schlechte Wortwahl", schrieb Bubeck. Er habe die Worte noch im Gespräch zurückgenommen.

Altman stellt sich hinter Bubeck, Alpöge widerspricht

OpenAI-CEO Sam Altman stellte sich auf X hinter Bubeck: Das Team habe "mit Integrität und Großzügigkeit" gehandelt. Man habe vorgeschlagen, dass Buckmaster und Alpöge diejenigen sein sollten, die den Preis erhalten, sei aber mit "unbegründeten Plagiatsvorwürfen" konfrontiert worden.

Altman schrieb zudem: "Es stimmt, dass wir das versucht haben, weil letzte Woche Gerüchte im Internet kursierten, dass Anthropics Modelle ein Millennium-Problem gelöst hätten, und wir neugierig waren, ob unsere das auch können."

Alpöges Darstellung widerspricht Altmans Version in einem zentralen Punkt. Altman schreibt, es sei schwierig gewesen, Alpöge dasselbe Angebot zu machen, da dieser nicht habe sprechen wollen. Alpöge hingegen schreibt, er habe "das laute Gespräch im Flur" mitbekommen, "insbesondere den Teil, in dem ein Millennium-Preis angeboten wurde, wenn ich einfach vom Paper entfernt würde". Danach sei klar gewesen, dass "die Würfel gefallen waren".

Er hätte gerne mit OpenAI zusammengearbeitet, die Autorschaftsfrage sei ihm egal gewesen. Aber die Situation sei "ziemlich verrückt, unstrategisch und unnötig" gewesen. "Ich finde die Idee gut, dass die Labore kooperieren. Es ist eine Schande", schreibt Alpöge.

Was der Fall für die offene Wissenschaft bedeuten könnte

Unabhängig davon, wer in diesem konkreten Streit in jedem Detail recht hat, wirft der Fall eine grundsätzliche Frage auf: Gerüchte können ausreichen, damit ein KI-Labor kurzfristig massive Ressourcen mobilisiert, um eine Forschungsaufgabe schneller zu lösen und möglicherweise zuerst zu veröffentlichen. Hinzu kommt, dass nicht auszuschließen ist, dass OpenAI auf den eingegebenen Daten trainiert hat.

Das bedeutet für Akademiker und Unternehmen: Wer Forschungsdaten in OpenAIs Systeme eingibt, geht das Risiko ein, mit den eigenen Erkenntnissen überholt zu werden. Dass man sich per Einstellung vom Datentraining ausschließen kann, ist nur eine dünne Schutzschicht, zumal KI-Labore bisher nicht nachgewiesen haben, dass man ihnen beim Thema Training und Daten einen Vertrauensvorschuss geben sollte.

Der Mathematiker Terence Tao, einer der einflussreichsten lebenden Mathematiker, warnt auf Mastodon: "Wir haben jetzt gesehen, dass allein das Gerücht, jemand arbeite an einem Problem, einen massiven KI-gestützten Aufwand auslösen kann, um es plattzumachen, bevor das ursprüngliche Forschungsprojekt sein volles Potenzial entfalten kann."

Die Anreize könnten nun in die Richtung gehen, vielversprechende Forschungsrichtungen nicht mehr mit der Gemeinschaft zu teilen. "Das würde Jahrhunderte der Tradition offener Wissenschaft umkehren und der Zukunft des Fachgebiets ernsthaften langfristigen Schaden zufügen", schreibt Tao.