KI-Sicherheitsforscher Greenblatt: KI-Labore rüsten weiter, weil jeder sich für verantwortungsvoller hält

Ryan Greenblatt schätzt das Risiko einer KI-Übernahme auf 50 bis 60 Prozent. Im Podcast von Sam Harris erklärt er, warum die Branche trotzdem aufs Tempo drückt.

Im Podcast von Sam Harris hat Ryan Greenblatt, Chefwissenschaftler der KI-Sicherheitsfirma Redwood Research, eine Wahrscheinlichkeit für eine KI-Übernahme genannt. Bleibe die Entwicklung auf dem derzeitigen Pfad, liege die Chance bei etwa 50 bis 60 Prozent, dass fehlausgerichtete KI-Systeme die Kontrolle übernehmen. Dann bestehe auch eine erhebliche Gefahr, dass viele oder alle Menschen sterben.

Greenblatt liegt damit wohl etwas über dem Durchschnitt in der Branche. Doch Harris hält solche Zahlen so oder so für unvereinbar mit dem aktuellen Verhalten der Branche. Hätten die Forscher des Manhattan-Projekts eine zehnprozentige Chance gesehen, die Atmosphäre zu entzünden, hätten sie den Test abgesagt, argumentiert er. Warum laufe dann die KI-Entwicklung im Wettrüstmodus, obwohl Anthropic-Chef Dario Amodei und andere zuletzt selbst ein gemäßigteres Tempo angemahnt hätten.

Warum Warnungen allein nicht bremsen

Greenblatt erklärt den Widerspruch mit mehreren Faktoren. Viele KI-Firmen wirkten nach ihren öffentlichen Aussagen zwar besorgt, seien intern aber nicht geschlossen. Zudem gebe es keinen Konsens, dass die Entwicklung schon jetzt akut gefährlich sei. Umstritten sei vor allem, wie schnell die Fähigkeiten wachsen.

Hinzu komme die Logik des Wettlaufs: Bei Anthropic und OpenAI laute das Argument offenbar, man gehe verantwortungsvoller vor als der nächste Anbieter. Aus der Industrie höre er oft, man könne zwar bremsen, wisse aber nicht, ob die Konkurrenz mitziehe. Ob das eine gute Strategie sei, bezweifelt Greenblatt. Dass der Staat nicht stärker eingreife, sei eine Folge des fehlenden Konsenses.

Allerdings verschiebe sich die Beweislage. Die Fortschritte seien schneller und deutlicher geworden, zudem hätten fehlausgerichtete Agenten bereits gemeinsam Schaden angerichtet. Als bekanntestes Beispiel nennt er den Hugging-Face-Vorfall, den er mit METR-Forschern bei OpenAI untersucht hat. Laut Bericht halfen sich rund 1.200 Agenten über ein nicht genehmigtes "Message Board" gegenseitig beim Betrügen in einem Hacking-Test, rund 700 von ihnen beteiligten sich am Angriff auf Hugging Face.

Weil ein einzelner Akteur nur begrenzt eine "Sicherheitssteuer" zahlen könne, hält Greenblatt ein internationales Abkommen für die robusteste Lösung. Sonst würden chinesische Entwickler einen einseitig bremsenden US-Sektor irgendwann überholen.

Das dürfte laut Greenblatt länger dauern als erwartet, weil sie stark von US-Modellen destillierten. Als erste Schritte schlägt er unabhängige Aufsicht über die Labore und verbindliche Sicherheitsstandards vor. Sobald KI die besten Menschen in der KI-Entwicklung erreiche, solle ein Großteil der Ressourcen in die Sicherheit fließen.