42 führende Mathematiker warnen in einem offenen Brief vor existenziellen KI-Risiken

So langsam wird’s ernst: Jetzt warnt auch eine Gruppe führender Mathematiker vor den Existenz-Risiken fortschrittlicher KI. In einem offenen Brief an den Präsidenten der Royal Society fordern 42 mathematische Fellows, darunter die Fields-Medaillen-Gewinner Martin Hairer, Peter Scholze und Wendelin Werner, die britische Wissenschaftsakademie auf, Regierung und Medien auf die Dringlichkeit der Lage hinzuweisen. Keiner der Unterzeichner ist in KI-Unternehmen involviert.

Innerhalb von drei Monaten hätten führende Modelle von OpenAI und Anthropic offene Forschungsfragen gelöst, darunter eines der sieben Millennium-Probleme (Anm.: ein zweites folgt wohl bald), und arbeiteten nun auf dem Niveau der besten Mathematiker.

Die Auswirkungen auf das eigene Fach seien allerdings nicht Anlass des Briefs: Die Gruppe warnt, dass diese Fähigkeiten auch in Bereichen wie Cybersicherheit, autonome Waffen, biologische und chemische Kampfstoffe sowie gezielte Desinformation vergleichbar stark seien. Hinweise aus den KI-Laboren auf ein existenzielles Risiko jenseits der zehn Prozent dürften angesichts der beobachteten Fortschritte nicht als Übertreibung abgetan werden. Wenn die Lage für die Öffentlichkeit offensichtlich werde, könnte es zum Handeln zu spät sein.