Ohne internationale Zusammenarbeit und globale Maßnahmen könnten die Daten der Menschheit künftig in den Händen einiger weniger Mächtiger liegen, so Harari. Der weltbekannte Bestsellerautor zeichnet das Bild einer dystopischen Welt von morgen, bevölkert von – wie er es nennt – „gehackten Menschen“, deren Leben durch Künstliche Intelligenz kontrolliert wird.
Zum ersten Mal in der Menschheitsgeschichte sei es nun möglich, Personen jederzeit und überall zu beobachten und zu verfolgen. KI-Algorithmen könnten enorme Mengen an Informationen in sehr hoher Geschwindigkeit verarbeiten und somit Menschen „hacken“ – also mehr über sie wissen, als diese Personen über sich selbst wüssten, sagt der Geschichtsprofessor in einem aktuellen Interview mit CBS News.
Dieses externe System habe das Potenzial, sich alles zu merken und in den Daten Muster für persönlichkeitsbezogene Analysen zu erkennen. Werde dies Macht nicht weise gehandhabt, gäbe es bald keine Privatsphäre mehr; Menschen seien dann zunehmend einem Manipulationsrisiko ausgesetzt. Vor allem in autoritär geführten Staaten könne dies für viele Menschen eine gefährliche Situation darstellen.
Eine Zukunftsfrage von Geld und Macht
Laut Harari hat die Coronavirus-Pandemie das Tor für invasivere Datenerhebungsverfahren geöffnet, wie zum Beispiel im Falle biometrischer Daten, die Aufschluss über körpereigene Prozesse geben.
„Bislang haben wir gesehen, dass Firmen und Regierungen Daten darüber sammelten, wohin wir gehen, wen wir treffen, welche Filme wir anschauen. Die nächste Phase wird die Überwachung sein, die unter unsere Haut geht“, so der Historiker.
Die aktuelle Situation vergleicht er mit dem Kalten Krieg: Als Analogie zum damaligen Eisernen Vorhang sieht Harari heute den sogenannten Silicon-Vorhang, und damit die zunehmende Spaltung der Weltgemeinschaft zwischen China und den USA. Oftmals stelle sich dann die Frage, ob unsere Daten nach Kalifornien oder nach Shenzhen, Shanghai und Beijing gehen.
Harari plädiert dafür, Künstliche Intelligenz und Datensammlung stärker zu regulieren. Erlangen wir nicht die Hoheit über unsere Daten zurück, befänden wir uns schon bald in einem Szenario, in dem diejenigen Länder und Firmen mit den meisten Daten auch die Herrschaft über die Welt innehaben.
Harari warnt vor "algorithmischer Übernahme"
Die größten Risiken sieht Harari in den Bereichen Wirtschaft und Politik. Durch zunehmende Automatisierung und veränderte Arbeitsprozesse könnten auf dem Arbeitsmarkt viele Jobs verschwinden. Gleichzeitig würden neue Arbeitsplätze geschaffen. Um diese neuen Stellen zu füllen, müsse man sich weiterbilden und neu erfinden.
Reiche Staaten und wohlhabende Einzelpersonen würden von dieser Entwicklung profitieren, ihren Wohlstand und ihre Macht vermehren können, während ärmere Länder und ressourcenschwache Gesellschaftsgruppen nicht mal an ihrem bisherigen Status würden festhalten können. Das Ergebnis sei eine zunehmend ungleiche Welt, in der die Macht in wenigen Ländern oder Orten konzentriert ist.
Für politische Systeme, auch für Demokratien, besteht die Gefahr Harari zufolge in der sogenannten „algorithmischen Übernahme“: Diese bedeute, dass Entscheidungen in unserem alltäglichen Leben oder auf Regierungsebene zunehmend von Algorithmen getroffen werden.
„Das Problem ist, dass Algorithmen auf gänzlich unterschiedliche Art und Weise Entscheidungen treffen als Menschen“, so Harari. Denn während in die Entscheidungsfindung eines Menschen nur eine Handvoll hervortretender Faktoren einfließen, kann ein Algorithmus Tausende Datenpunkte berücksichtigen, die einzeln jeweils nur von geringem Gewicht sind.
Ein Beispiel hierfür seien Bankkredite, die heutzutage nicht mehr von Menschen, sondern auf der Grundlage von Computerberechnungen vergeben werden, die die Kreditwürdigkeit der Antragsteller:innen bewerten. Denkbar wäre hier ein Gesetz, das die algorithmischen Berechnungen einsehbar machen und somit Transparenz über die Vergabe- oder Ablehnungsgründe eines Kredits garantieren soll. Doch die Begründung einer algorithmischen Kreditwürdigkeitsberechnung in Form von Millionen Seiten würden den Antragsstellenden nicht unbedingt mehr Verständnis über die Entscheidung verschaffen.
Diese fehlende Nachvollziehbarkeit von algorithmischen Entscheidungen kann auf individueller Ebene ebenso wie auf staatlicher Ebene stattfinden – etwa, wenn ein KI-Algorithmus über die Anhebung oder Senkung von Zinsraten entscheidet.
So würden ohnehin bereits komplexe Systeme und Argumentationen für immer weniger Menschen verständlich. Eine solche algorithmische Übernahme könnte nicht nur die Legitimierung autoritärer Staaten, sondern sogar von Demokratien beeinträchtigen.
KI-Gesellschaft: Potenzial für Dystopie und Utopie - wer gibt die Richtung vor?
Im 20. Jahrhundert ermöglichten neue Kommunikationstechnologien erstmals, sowohl großangelegte demokratische Gesellschaften als auch umfassende totalitäre Staatssysteme zu etablieren. Beispiele für letztere sind etwa die Sowjetunion, Nazideutschland und die kommunistische Volksrepublik China – sie alle vereint der gezielte Eingriff des Staatsapparats in den Lebensalltag der Menschen. Die einst neue Technik hatte also das Potenzial, sich sowohl zum Vorteil als auch zum Nachteil der Menschheit weiterzuentwickeln.
Genauso bergen laut Harari auch die heutigen KI-Technologien – ob im Bereich von Social Media oder Künstlicher Intelligenz – das Potenzial der Zerstörung und der Verbesserung. Beispielsweise könnten uns die enormen Datenmengen dazu befähigen, das beste Gesundheitssystem der Menschheitsgeschichte aufzubauen. Dank KI, Biotechnologien und Social Media ließen sich also einerseits gerechtere Gesellschaften und andererseits totalitäre Systeme nie dagewesenen Ausmaßes schaffen.
„Netflix sagt uns, was wir sehen sollen. Und Amazon sagt uns, was wir kaufen sollen. Irgendwann, in den nächsten 10, 20 oder 30 Jahren, könnten solche Algorithmen uns auch sagen, was wir an der Uni studieren, wo wir arbeiten, wen wir heiraten und sogar wen wir wählen sollten.“
Die wesentliche Frage sei, so Harari, was mit den Daten geschieht. „Wer überwacht das? Wer reguliert das?“, gibt er zu bedenken.
Drei Regeln gegen Daten- und KI-Missbrauch
Harari bemängelt, dass diese Fragen derzeit noch nicht in politischen Debatten und Wahlprogrammen thematisiert würden. Mit umfangreichem technologischem Wissen ließen sich zwar durch Start-ups Milliarden verdienen, doch dieses Knowhow sei in der Politik nicht gefragt und erhöhe beispielsweise nicht die Chancen auf eine politische Karriere.
Im aktuellen Entwicklungsverlauf würde so eine „nutzlose Menschenklasse“ geschaffen, die keinen Wert mehr schaffen könne. Dieser apokalyptische Trend lasse sich jedoch anhalten. „Die Entscheidung darüber liegt noch immer bei uns“, sagt Harari.
Um die Gefahren von Datensammlung und neuer KI-Technologien einzudämmen, schlägt Harari drei grundlegende Regeln vor:
- Personenbezogene Daten sollten nur erhoben werden, um Menschen zu helfen – ähnlich wie Ärzt:innen über unsere Informationen verfügen, um uns im Krankheitsfall behandeln zu können. Die Daten dürften nicht für Manipulation und wirtschaftliche Zwecke an Dritte verkauft werden.
- Das Gesamtwissen – in Form gesammelter Daten – sollte nicht nur an einer Stelle, sondern auf verschiedene Instanzen verteilt gespeichert werden. Dies scheine auf den ersten Blick zwar weniger effizient, diene aber als sehr nützliche Maßnahme, etwa zur Verhinderung von Diktaturen.
- Wird die Überwachung von Einzelpersonen erhöht, müssen gleichzeitig auch die überwachenden Instanzen – wie Staaten oder Privatfirmen – stärker kontrolliert werden. Derzeit liefe dieser Prozess nur in eine Richtung und berge somit das Risiko des Machtmissbrauchs.
Harari sucht den Brückenschlag zwischen Wissenschaft und Öffentlichkeit
Harari warnt schon seit einiger Zeit vor einer nahen Zukunft mit großen Umwälzungen, in der KI-Technologien durch ihre Algorithmen die Menschen weitaus mehr im Griff haben werden.
In seinem im Jahr 2014 erschienenen Buch „Eine kurze Geschichte der Menschheit“ (engl.: Sapiens) warf er einen Blick auf die Weltbevölkerung und ihre Geschichte. Das Buch wurde zum Bestseller und machte ihn weltbekannt. Seitdem veröffentlichte Harari zwei weitere Bücher mit futuristischen Themen. Nun verarbeitet er Schlüsselelemente seines ersten Werks in einer neuen Grafikbuch-Reihe für ein jüngeres Publikum.
Harari sieht seine Hauptaufgabe darin, einen Brückenschlag zwischen der Wissenschaftscommunity und der breiten Öffentlichkeit zu schaffen. „Tut man das nicht, wird diese Lücke von Verschwörungstheorien, Fake News, etc. ausgefüllt. Ein Teil der Verantwortung von Wissenschaftler:innen besteht nicht nur darin, Neues zu erforschen, sondern dies auch der Öffentlichkeit mitzuteilen“, sagt Harari.
Seine neue Buchreihe sei nicht nur eine grafische Darstellung der Erkenntnisse aus „Eine kurze Geschichte der Menschheit“. Vielmehr habe er darin versucht, die Thematik aus einer sehr anderen Perspektive zu beleuchten, indem er eine Schar fiktionaler Charaktere und Szenarien erfunden habe, mithilfe derer sich viele der Schlüsselideen aus dem Originalbuch überdenken ließen. Durch die Form der grafischen Darstellung hätten sich die im ursprünglichen Buch beschriebenen Inhalte sogar konkretisiert und eine realere Form angenommen.
