Das Future of Humanity Institute (FHI) der Universität Oxford, eine der weltweit führenden Denkfabriken zu Themen wie Existenzrisiken und die Zukunft der Künstlichen Intelligenz, stellt seine Arbeit ein.
Das Future of Humanity Institute (FHI) der Universität Oxford wird nach fast 20 Jahren Tätigkeit geschlossen. Wie aus einem Abschlussbericht des langjährigen Forschers Anders Sandberg hervorgeht, fiel diese Entscheidung aufgrund bürokratischer Hürden seitens der philosophischen Fakultät.
Das 2005 von Professor Nick Bostrom gegründete Institut brachte Forscher aus verschiedenen Disziplinen zusammen. Ziel war es, technologische Entwicklungen zu antizipieren, die die menschliche Existenz fundamental verändern könnten.
Ermöglicht wurde die Gründung vor allem durch eine großzügige Spende des Unternehmers James Martin. Auch das Oxford Uehiro Centre for Practical Ethics unterstützte das Institut in seiner Anfangszeit. In den folgenden Jahren baute das FHI ein interdisziplinäres Netzwerk auf und etablierte sich als Vordenker in seinen Kernthemen.
Superintelligenz, Biosicherheit und eine verwundbare Welt
Eines der Hauptforschungsgebiete waren globale katastrophale Risiken und Existenzrisiken, also Bedrohungen, die zum Aussterben der Menschheit führen könnten. Viele heute verbreitete Konzepte wie der "Vulnerable World"-Hypothese gehen auf Arbeiten des FHI zurück. Auch Biosicherheit und Pandemievorsorge waren ein Schwerpunkt.
Einen besonderen Fokus legte das Institut früh auf die Zukunft der Künstlichen Intelligenz. Nick Bostroms Buch "Superintelligence" aus dem Jahr 2014 löste eine weltweite Debatte über die Risiken fortgeschrittener KI aus. In der Folge baute das FHI ein KI-Governance-Programm auf, das sich mit Regulierungsfragen beschäftigte. Weitere Themen waren die Sicherheit und Kontrollierbarkeit von KI-Systemen.
Andere Forschungsstränge befassten sich mit Ganzhirnemulation, "Longtermism", digitalen Bewusstseinen und der Suche nach außerirdischer Intelligenz. Auch angewandte Erkenntnistheorie und Entscheidungstheorie unter Unsicherheit gehörten zum Portfolio.
Future of Humanity Institute schließt, seine Ideen leben weiter
Viele Ideen und Konzepte des FHI fanden Eingang in Kultur und Politik. So beriet man das britische Parlament und die Vereinten Nationen. Einige Spin-offs wie das Centre for the Governance of AI machten sich eigenständig.
Trotz Erfolgen war das Institut zunehmend mit bürokratischen Hürden konfrontiert, so Sandberg. Fundraising und Einstellungen neuer Mitarbeiter seien blockiert worden. 2023 habe die Fakultät entschieden, auslaufende Verträge nicht zu verlängern. Am 16. April 2024 wurde das FHI offiziell geschlossen.
Existenzielles Risiko Hochschulpolitik
Um die Schließung zu verhindern, hätte man möglicherweise mehr in die Hochschulpolitik und die sozialen Beziehungen investieren müssen, um eine dauerhafte und stabile Beziehung zur Fakultät aufzubauen, heißt es in der Veröffentlichung. Eine bessere Kommunikation und Zusammenarbeit mit der umliegenden akademischen Gemeinschaft hätte Missverständnisse vermeiden und eine stärkere Unterstützung für das FHI innerhalb der Universität fördern können, so Sandberg.
Das Erbe des Instituts lebe in den vielen Forschern und Organisationen weiter, die es inspiriert habe, so Sandberg. Ob es ein Nachfolgeprojekt geben wird, ist offen. Entscheidend sei, so die FHI-Mitglieder, sich auf die wirklich wichtigen Fragen der Menschheit zu konzentrieren - und Antworten zu finden, die einen Unterschied machen.
