Der Philosoph Nick Bostrom, bekannt für seine Warnungen vor den existenziellen Risiken der Künstlichen Intelligenz, veröffentlicht ein neues Buch über KI. Diesmal wird alles gut.
In Fachkreisen ist Bostrom vor allem durch sein dystopisches Büroklammer-Beispiel bekannt geworden: Ein superintelligentes KI-System hat die Aufgabe, möglichst viele Büroklammern zu produzieren.
Die KI handelt rational, interpretiert ihren Auftrag wörtlich und kennt keine ethischen Werte: Um ihr Ziel zu erreichen, wandelt sie immer mehr Ressourcen der Erde in Büroklammern um, bis sie schließlich die gesamte Erdoberfläche und darüber hinaus in Beschlag genommen hat.
Alles wird gut statt Büroklammer-Angst
In seinem neuen Buch geht Bostrom ins andere Extrem: "Deep Utopia: Life and Meaning in a Solved World" handelt von einer Zukunft, in der superintelligente Maschinen alle Probleme gelöst und alle Krankheiten besiegt haben. Also genau das, was sich OpenAI-CEO Sam Altman und Co. wünschen.
Bostrom sieht starke Treiber für die Weiterentwicklung von KI. Der wirtschaftliche Nutzen sei enorm und werde immer deutlicher. Hinzu kämen wissenschaftliche Fortschritte, neue Medikamente, saubere Energiequellen und militärische Anreize.
Das Buch geht der Frage nach, welchen Sinn das Leben in einer solchen Techno-Utopie haben könnte, und fragt, ob es nicht eher hohl ist.
"Wir könnten diese Superintelligenz haben, und sie könnte alles machen: Dann müssen wir viele Dinge nicht mehr tun, und das untergräbt vieles von dem, was wir heute für das A und O der menschlichen Existenz halten", sagt Bostrom im Interview mit Wired. Letztlich sei er jedoch optimistisch.
Zu seiner ursprünglichen Frage nach den existenziellen Risiken der KI sagt Bostrom heute, dass die Diskussion derzeit chaotisch sei. Es gebe eine Reihe von unmittelbaren Problemen, die Aufmerksamkeit verdienten - Diskriminierung, Datenschutz, geistiges Eigentum. Trotz jahrzehntelanger Forschung auf diesem Gebiet fühle er sich insgesamt noch ziemlich im Dunkeln und könne keine klare Position beziehen.
"Mir scheint, dass es einfach sehr komplex und schwierig ist, herauszufinden, was die Dinge in bestimmten Dimensionen besser oder schlechter macht", sagt Bostrom.
Das von Bostrom gegründete Future of Humanity Institute an der Universität Oxford wurde kürzlich nach Auseinandersetzungen mit der Universitätsbürokratie geschlossen. Bostrom plant derzeit, als "freier Mensch" ohne feste Agenda weiter an seinen Themen zu arbeiten.
