KI-Auslöschung wird Mainstream-Thema: Anthropic-Forscher bringt Existenzrisiko bis in die CNN-Primetime

Die KI-Auslöschung der Menschheit ist jetzt Mainstream. Die Äußerungen des scheidenden Anthropic-Forschers Jacob Coxon, dass insbesondere sich selbst verbessernde KI eine existenzielle Bedrohung der Menschheit sei, haben hohe Wellen geschlagen, die ihn sogar in eine CNN- und Fox-News-Nachrichtensendung brachten. Mehrere US-Politiker griffen das Thema zudem in sozialen Medien auf. Auch beim US-Podcaster Joe Rogan war KI-Sicherheit ein zentrales Thema.

Weitere aktive Sicherheitsforscher von Anthropic und OpenAI stimmen Coxons Ansichten zu, etwa der KI-Sicherheitsforscher Paul Christiano, der warnt, dass die Menschheit ohne bessere Kontrollmechanismen die Kontrolle über eine Superintelligenz dauerhaft verlieren könnte. Christiano sitzt neu im Vorstand der OpenAI Foundation und im Safety and Security Committee, das die Sicherheitspraktiken des gesamten Unternehmens überwacht, allerdings ohne Stimmrechte.

Wer das liest und Angst bekommt: keine Panik. Hinter den Warnungen spielen mehrere Ebenen kultureller und finanzieller Interessen eine Rolle. Das heißt nicht, dass alle Sicherheitsbedenken Unsinn sind, wie die wilden Hacking-Agenten von OpenAI und Anthropic zeigen. Aber das Szenario einer vollständigen Auslöschung bleibt eher ein extremer Standpunkt und ist umstritten. Zumal unklar ist, ob auf Basis aktueller Technologie so etwas wie eine Super-KI überhaupt entstehen könnte.