Fields-Medaillen-Gewinner warnt vor "omniziden Ereignissen" durch KI und wechselt zu OpenAI

Der frisch gekürte Fields-Medaillen-Gewinner Jacob Tsimerman wechselt zu OpenAI, um dort im Bereich KI-Sicherheit zu arbeiten. Der Zahlentheoretiker von der University of Toronto erklärte in einem Interview, dass KI eine extrem transformative Technologie sei und die Gesellschaft deutlich mehr Aufwand in KI-Sicherheit investieren müsse. Mathematiker könnten viel beitragen, da KI derzeit stark empirisch arbeite und es wenige Garantien gebe, wie die Systeme funktionieren.

Tsimerman verfasste zudem ein Paper über sogenannte "omnizide Ereignisse" - Szenarien, in denen KI zur Auslöschung der Menschheit beitragen könnte; eine unter Fachleuten debattierte Position. Panik sei keine angemessene Reaktion, man müsse aber die Risiken ehrlich betrachten, so Tsimerman, der überzeugt ist, dass KI bald mathematische Forschung besser leisten wird als Menschen.

Auch der Ex-Deepmind-CEO Demis Hassabis hat sich zu den jüngsten KI-Fortschritten in der Mathematik geäußert, die er als Fortschritt, aber bisher nicht als grundlegenden Durchbruch wie den legendären "Move 37" von Deepminds AlphaGo-System sieht. Dafür müsse KI grundlegende mathematische Probleme lösen wie die Millennium Prize Problems; an denen scheiterte auch OpenAIs neues Modell Astra – noch. "Ich sehe keinen Grund, warum es nicht klappen sollte", sagt Hassabis.