In einem umfangreichen Essay wagt Anthropic-CEO Dario Amodei einen Blick in eine Zukunft mit extrem leistungsfähiger KI. Seine optimistischen Prognosen sind jedoch mit großer Unsicherheit behaftet.
In einem ausführlichen Essay skizziert Dario Amodei, CEO des KI-Unternehmens Anthropic, seine Vision einer Welt mit extrem leistungsfähiger künstlicher Intelligenz. Amodei geht davon aus, dass eine solche KI möglicherweise schon 2026 entwickelt werden könnte, räumt aber ein, dass es auch "viel länger" dauern könnte.
Der Anthropic-Chef betont, dass seine Prognosen mit großer Unsicherheit behaftet sind: "Alles, was ich sage, könnte sehr leicht falsch sein", schreibt er.
Dennoch wagt er einen Blick in eine mögliche Zukunft, in der KI innerhalb von fünf bis zehn Jahren nach ihrer Entwicklung revolutionäre Fortschritte in Bereichen wie Medizin, Neurowissenschaften und Armutsbekämpfung ermöglicht.
Amodei geht davon aus, dass eine solche KI in der Lage wäre, die meisten Krankheiten zu heilen, psychische Erkrankungen zu behandeln und die Lebenserwartung des Menschen zu verdoppeln. Auch in Bereichen wie Wirtschaftswachstum, Klimawandel und Demokratie sieht er großes Potenzial.
Seitenhieb auf Sam Altman
Der Anthropic-CEO grenzt sich dabei deutlich von OpenAI-Chef Sam Altman ab. Während Altman regelmäßig vollmundig über die Vorteile von KI spricht, hält sich Amodei nach eigenen Angaben bewusst zurück. Er wolle nicht als "Propagandist" wahrgenommen werden oder den Eindruck erwecken, von Risiken ablenken zu wollen.
"Ich bin oft abgeschreckt von der Art und Weise, wie viele Vertreter der KI-Branche im Bereich Risiko (ganz zu schweigen von den Führungskräften von KI-Unternehmen) über die Welt nach AGI sprechen, als ob es ihre Mission wäre, sie im Alleingang herbeizuführen, wie ein Prophet, der sein Volk zur Erlösung führt", schreibt Amodei.
Er betont, dass er auch kein Pessimist oder "Schwarzmaler" sei, der KI in erster Linie als gefährlich betrachte. Vielmehr sehe er die Risiken als einziges Hindernis für eine grundsätzlich positive Zukunft. Amodei glaubt, dass die meisten Menschen sowohl die Chancen als auch die Gefahren von KI unterschätzen.
Sci-Fi sind die anderen
Interessanterweise versucht sich Amodei in seinem Essay, von Science-Fiction-Klischees abzugrenzen. Er kritisiert, dass Diskussionen über radikale KI-Zukünfte oft einen übertriebenen "Science-Fiction"-Ton hätten, was dazu führe, dass die Aussagen weniger ernst genommen würden.
"Das Ergebnis liest sich oft wie das Hirngespinst einer engstirnigen Subkultur und wirkt auf die meisten Menschen abschreckend", schreibt Amodei.
Allerdings könnte man kritisch anmerken, dass Amodeis eigene Prognosen angesichts der von ihm selbst eingeräumten Unsicherheiten Stoff für einen guten Science-Fiction-Roman abgeben würden.
Seine Visionen von einer Welt ohne Krankheiten, mit verdoppelter Lebenserwartung und KI-gestützter Demokratie lesen sich jedenfalls wie utopische Zukunftsszenarien, gerade weil Amodei selbst einräumt, keine Ahnung zu haben, ob und wann ein solches KI-System realisiert werden könnte. Das zeigt die Schwierigkeit, über zukünftige Technologien zu spekulieren, ohne in utopische oder dystopische Narrative zu verfallen.
Dabei ist alles in der Schwebe, und ähnliche Erzählungen wie die von Amodei geistern seit Jahren durch die AGI-Community, die in Teilen immer mehr kultische Züge annimmt. Amodei ist zugutezuhalten, dass er sich bei seinen Prognoseversuchen an möglichst konkreten Beispielen versucht.
Am Ende geht es meist um Geld. Und so ist der Zeitpunkt der Veröffentlichung des Essays vielleicht kein Zufall: Anthropic sucht gerade neue Investoren für eine Finanzierungsrunde mit einer Bewertung von bis zu 40 Milliarden Dollar.
