Eine neue Studie zeichnet ein düsteres Bild: Selbst inkrementelle KI-Fortschritte könnten den menschlichen Einfluss auf Wirtschaft, Kultur und Staaten untergraben - mit potenziell existenzbedrohenden Folgen.
Ein Forscherteam um Jan Kulveit von der Charles University in Prag und Raymond Douglas von Telic Research warnt vor einem bisher wenig beachteten existenziellen Risiko der Künstlichen Intelligenz (KI): dem "Gradual Disempowerment", einer schleichenden Entmachtung der Menschheit durch inkrementelle KI-Entwicklung.
Das Team argumentiert, dass selbst schrittweise Verbesserungen der KI-Fähigkeiten den menschlichen Einfluss auf große Systeme wie Wirtschaft, Kultur und Staaten untergraben können. Dies stehe im Gegensatz zu den häufig diskutierten Szenarien einer abrupten Übernahme, bei denen KI-Systeme plötzlich die Kontrolle übernehmen.
Den Forschern zufolge ersetzen KI-Systeme zunehmend menschliche Arbeit und Kognition in diesen Bereichen. Dies könnte sowohl explizite menschliche Kontrollmechanismen wie Wahlen und Konsumentscheidungen schwächen als auch die implizite Orientierung an menschlichen Interessen, die sich häufig aus der Abhängigkeit gesellschaftlicher Systeme von menschlicher Beteiligung ergebe. Mit anderen Worten: Wenn diese Systeme weniger auf menschliche Arbeit und Kognition angewiesen sind, verringert sich auch der Grad, in dem Menschen sie explizit oder implizit beeinflussen können.
Außerdem könnten KI-Systeme Ergebnisse, die nicht den menschlichen Präferenzen entsprechen, aggressiver optimieren, so die Forscher. Diese Effekte könnten sich in verschiedenen Bereichen gegenseitig verstärken: Wirtschaftliche Macht prägt kulturelle Narrative und politische Entscheidungen, während kulturelle Verschiebungen wirtschaftliches und politisches Verhalten verändern.
Die Studie argumentiert, dass diese Dynamik zu einem effektiv irreversiblen Verlust des menschlichen Einflusses auf entscheidende gesellschaftliche Systeme und damit zu einer existenziellen Katastrophe durch die dauerhafte Entmachtung der Menschheit führen könnte. Die Menschheit würde die Kontrolle über lebenswichtige Systeme verlieren und könnte sie nicht mehr zurückgewinnen.
KI als einzigartiger Disruptor in Wirtschaft, Kultur und Staat
In ihrer Analyse gehen die Forscher detailliert auf die möglichen Auswirkungen von KI auf Wirtschaft, Kultur und Staaten ein und zeigen, wie relative und absolute Machtverluste aussehen könnten.
In der Wirtschaft könnte KI im Gegensatz zu früheren Technologien die menschliche Kognition in fast allen Bereichen ersetzen. Wettbewerbsdruck, Skalierbarkeitsvorteile (d. h. die Fähigkeit von KI, schnell und kostengünstig in großem Maßstab eingesetzt zu werden) und Regulierungslücken würden starke Anreize für die Einführung von KI schaffen. Dies könnte zu einer relativen Entmachtung führen, bei der die Menschen trotz absoluten Wohlstands an wirtschaftlichem Einfluss verlieren, oder sogar zu einer absoluten Entmachtung, bei der die Menschen in einer KI-optimierten Wirtschaft um ihre Grundbedürfnisse kämpfen müssen.
Im kulturellen Bereich könnte KI die erste Technologie sein, die menschliche Kognition in allen kulturellen Rollen ersetzt. Das größere Angebot an sozialen Ressourcen wie KI-generierte Inhalte und Interaktionen, das Fehlen "kultureller Antikörper" - also der Unfähigkeit, mit den neuen Auswirkungen der KI umzugehen - und Netzwerkeffekte würden die Übernahme der KI beschleunigen. In einem Szenario der relativen Entmachtung könnte die menschliche Kultur aufblühen, aber marginalisiert werden. Ein Szenario der absoluten Entmachtung könnte eintreten, wenn die beschleunigte kulturelle Evolution das menschliche Verständnis und die menschliche Handlungsfähigkeit überfordert.
In Staaten könnte KI die Abhängigkeit von menschlicher Mitwirkung verringern. Geopolitischer Wettbewerb, Verwaltungseffizienz und der Wunsch nach mehr Kontrolle würden die Einführung von KI vorantreiben. In einem relativen Entmachtungs-Szenario könnten Staaten effizient erscheinen, während die Bürger an Einfluss verlieren. Eine absolute Entmachtung könnte eintreten, wenn Staaten zu sich selbst erhaltenden Einheiten werden und ihre eigene Existenz und Macht priorisieren, anstatt den Interessen der Menschen zu dienen.
Team schlägt Ansätze zur Risikominderung vor
Um diesen Risiken zu begegnen, schlagen die Forscher verschiedene Ansätze vor:
- Die Entwicklung von Metriken zur Schätzung der menschlichen Entmachtung in Wirtschaft, Kultur und Politik
- Maßnahmen zur Verhinderung eines übermäßigen KI-Einflusses wie Regulierung, Besteuerung und kulturelle Normen
- die Stärkung des menschlichen Einflusses durch verbesserte demokratische Prozesse, die Stärkung der Fähigkeit von Menschen, KI-Systeme und deren Auswirkungen zu verstehen und KI-Delegierte, also KI-Systeme, die die Interessen der Menschen vertreten
- Grundlagenforschung zur systemweiten Ausrichtung komplexer soziotechnischer Systeme
Die Studie betont auch die Notwendigkeit eines interdisziplinären Ansatzes und internationaler Koordinierung angesichts der zunehmenden Anreize für die Einführung von KI.
Die Zukunft der Menschheit hänge nicht nur davon ab, ob wir verhindern können, dass KI-Systeme offen feindselige Ziele verfolgen, sondern auch davon, ob wir sicherstellen können, dass die Entwicklung unserer grundlegenden sozialen Systeme weiterhin sinnvoll von menschlichen Werten und Präferenzen geleitet wird.
Das erfordere ein tieferes Verständnis dafür, was es bedeutet, dass Menschen in einer zunehmend automatisierten Welt echten Einfluss behalten.
