Harvard-Psychologe fordert nüchterne KI-Sicherheitstechnik statt Endzeitrhetorik

Der Harvard-Psychologe Steven Pinker hält Szenarien, in denen KI die Menschheit auslöscht, für überzogen. In einem offenen Brief auf Quillette reagiert er auf den Psychiater und einflussreichen Tech-Blogger Scott Alexander, der ihn zu einer öffentlichen Debatte über KI-Existenzrisiken herausgefordert hatte. Pinker lehnt ab: Solche Veranstaltungen seien ein "Zuschauerspektakel".

Szenarien wie der Paperclip Maximizer, bei dem eine KI die Menschheit für Büroklammern opfert, verwechselten Intelligenz mit Dominanzstreben und unterstellten KI-Systemen eine manische Fixierung auf einzelne Ziele. Pinker äußerte sich schon früher optimistisch, gibt aber zu, die Fähigkeiten großer Sprachmodelle unterschätzt und die rücksichtslose Veröffentlichungspraxis der KI-Unternehmen nicht vorhergesehen zu haben, ironischerweise angeführt von Leuten aus genau jener Szene, die vor solchen Risiken warne. Die realen Gefahren seien Bioterrorismus, Cyberangriffe und unkontrollierte KI-Agenten. Dagegen helfe keine Endzeitrhetorik, sondern nüchterne Sicherheitstechnik: unabhängige Aufsicht, Haftung und menschliche Kontrolle.

Alexander im Juni auf seinem Blog seine Risikoeinschätzung veröffentlicht. Er beziffert die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, auf 20 Prozent und fordert sowohl bessere Sicherheitsforschung als auch internationale Abkommen zur Verlangsamung der KI-Entwicklung.