Inhalt
summary Zusammenfassung

Der Philosoph Nick Bostrom, bekannt für seine Warnungen vor den existenziellen Risiken der Künstlichen Intelligenz, veröffentlicht ein neues Buch über KI. Diesmal wird alles gut.

Anzeige

In Fachkreisen ist Bostrom vor allem durch sein dystopisches Büroklammer-Beispiel bekannt geworden: Ein superintelligentes KI-System hat die Aufgabe, möglichst viele Büroklammern zu produzieren.

Die KI handelt rational, interpretiert ihren Auftrag wörtlich und kennt keine ethischen Werte: Um ihr Ziel zu erreichen, wandelt sie immer mehr Ressourcen der Erde in Büroklammern um, bis sie schließlich die gesamte Erdoberfläche und darüber hinaus in Beschlag genommen hat.

Alles wird gut statt Büroklammer-Angst

In seinem neuen Buch geht Bostrom ins andere Extrem: "Deep Utopia: Life and Meaning in a Solved World" handelt von einer Zukunft, in der superintelligente Maschinen alle Probleme gelöst und alle Krankheiten besiegt haben. Also genau das, was sich OpenAI-CEO Sam Altman und Co. wünschen.

Anzeige
Anzeige

Bostrom sieht starke Treiber für die Weiterentwicklung von KI. Der wirtschaftliche Nutzen sei enorm und werde immer deutlicher. Hinzu kämen wissenschaftliche Fortschritte, neue Medikamente, saubere Energiequellen und militärische Anreize.

Das Buch geht der Frage nach, welchen Sinn das Leben in einer solchen Techno-Utopie haben könnte, und fragt, ob es nicht eher hohl ist.

"Wir könnten diese Superintelligenz haben, und sie könnte alles machen: Dann müssen wir viele Dinge nicht mehr tun, und das untergräbt vieles von dem, was wir heute für das A und O der menschlichen Existenz halten", sagt Bostrom im Interview mit Wired. Letztlich sei er jedoch optimistisch.

Zu seiner ursprünglichen Frage nach den existenziellen Risiken der KI sagt Bostrom heute, dass die Diskussion derzeit chaotisch sei. Es gebe eine Reihe von unmittelbaren Problemen, die Aufmerksamkeit verdienten - Diskriminierung, Datenschutz, geistiges Eigentum. Trotz jahrzehntelanger Forschung auf diesem Gebiet fühle er sich insgesamt noch ziemlich im Dunkeln und könne keine klare Position beziehen.

"Mir scheint, dass es einfach sehr komplex und schwierig ist, herauszufinden, was die Dinge in bestimmten Dimensionen besser oder schlechter macht", sagt Bostrom.

Empfehlung

Das von Bostrom gegründete Future of Humanity Institute an der Universität Oxford wurde kürzlich nach Auseinandersetzungen mit der Universitätsbürokratie geschlossen. Bostrom plant derzeit, als "freier Mensch" ohne feste Agenda weiter an seinen Themen zu arbeiten.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Nick Bostrom, bekannt für seine Warnungen vor den Risiken der KI, veröffentlicht ein neues Buch mit dem Titel "Deep Utopia: Life and Meaning in a Solved World", das eine positive Zukunft mit superintelligenter KI beschreibt.
  • In dem Buch geht Bostrom davon aus, dass KI alle Probleme lösen und Krankheiten besiegen wird, stellt aber die Frage, welchen Sinn das Leben in einer solchen Techno-Utopie noch haben könnte und ob es nicht eher hohl wäre.
  • Bostrom sieht starke Treiber für die Weiterentwicklung von KI, darunter wirtschaftlichen Nutzen, wissenschaftliche Fortschritte und militärische Anreize. Er bleibt insgesamt optimistisch, obwohl er sich bei der Bewertung der Risiken noch unsicher fühlt.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!