Neue personalisierte KI-Tools wie ChatGPT verwalten Informationen für uns - sie sammeln, fassen sie zusammen und präsentieren sie. Diese Auslagerung der Wahrnehmung ist bequem, kann aber Auswirkungen darauf haben, was und wie wir denken.
Informationen sind ein wertvolles Gut. Und dank der Technologie gibt es Millionen von Terabytes davon online.
KI-Tools wie ChatGPT verwalten diese Informationen nun in unserem Namen - sie sammeln sie, fassen sie zusammen und präsentieren sie uns.
Doch diese Auslagerung der Informationsverwaltung an die KI - so bequem sie auch ist - hat Folgen. Sie kann nicht nur beeinflussen, was wir denken, sondern potenziell auch, wie wir denken.
Was passiert in einer Welt, in der KI-Algorithmen entscheiden, welche Informationen weitergegeben werden und welche auf der Strecke bleiben?
Der Aufstieg der personalisierten KI
Generative KI-Tools basieren auf Modellen, die auf Hunderten von Gigabytes bereits vorhandener Daten trainiert wurden. Anhand dieser Daten lernen sie, wie sie eigenständig Text-, Bild-, Audio- und Videoinhalte erstellen können, und können auf Benutzer:innenanfragen reagieren, indem sie die "wahrscheinlichste" Antwort zusammenstellen.
ChatGPT wird von Millionen von Menschen genutzt, obwohl es erst vor weniger als einem Jahr veröffentlicht wurde. Im Juni wurde der bereits beeindruckende Chatbot durch die neuen benutzerdefinierten Antworten noch nützlicher. Diese Funktion ermöglicht es den Nutzer:innen, benutzerdefinierte Anweisungen zu speichern, in denen sie erklären, wofür sie den Bot verwenden und wie sie ihn antworten möchten.
Dies ist eines von mehreren Beispielen für "personalisierte KI": eine Kategorie von KI-Tools, die Inhalte generieren, die den spezifischen Bedürfnissen und Vorlieben der Nutzer:innen entsprechen.
Ein weiteres Beispiel ist der kürzlich von Meta vorgestellte virtuelle Assistent, Meta AI. Dieser Chatbot kann Gespräche führen, Bilder erzeugen und Aufgaben auf Metas Plattformen wie WhatsApp, Messenger und Instagram ausführen.
Der KI-Forscher und Mitbegründer von DeepMind, Mustafa Suleyman, beschreibt personalisierte KI eher als eine Beziehung denn als eine Technologie:
Es ist ein Freund. […] Sie wird wirklich ständig präsent sein und an Ihrer Seite, mit Ihnen leben - im Grunde in Ihrem Team. Ich stelle mir das so vor, als hätte man einen großartigen Trainer in seiner Ecke.
Aber diese Technologien sind auch umstritten, da Bedenken hinsichtlich des Eigentums an den Daten, der Voreingenommenheit und der Fehlinformationen geäußert werden.
Technologieunternehmen versuchen, Wege zu finden, diese Probleme zu bekämpfen. So hat Google beispielsweise Quellenlinks zu KI-generierten Suchzusammenfassungen hinzugefügt, die von seinem Tool Search Generative Experience (SGE) erstellt wurden. Dieses war Anfang des Jahres wegen ungenauer und problematischer Antworten in die Kritik geraten.
hope you're all ready for the AI dominated future pic.twitter.com/v0GoAKLzY1
— Tyler Glaiel (@TylerGlaiel) September 25, 2023
Die Technologie hat unser Denken bereits verändert
Wie werden generative KI-Tools - und insbesondere solche, die auf uns zugeschnitten sind - unser Denken verändern?
Um das zu verstehen, sollten wir uns in die frühen 1990er-Jahre zurückversetzen, als das Internet erstmals in unser Leben trat. Plötzlich konnten die Menschen auf Informationen über so ziemlich alles zugreifen, ob es sich nun um Bankgeschäfte, Backen, Unterricht oder Reisen handelte.
Fast 30 Jahre später haben Studien gezeigt, wie die Verbindung zu diesem globalen "Bienenstock" unsere Kognition, unser Gedächtnis und unsere Kreativität verändert hat.
Der unmittelbare Zugang zu 305,5 Milliarden Seiten an Informationen hat beispielsweise das Metawissen der Menschen erhöht, d. h. ihr Wissen über Wissen. Eine Auswirkung davon ist der "Google-Effekt": ein Phänomen, bei dem die Online-Suche unsere Fähigkeit erhöht, Informationen zu finden, aber unsere Erinnerung an diese Informationen verringert.
Es hat sich gezeigt, dass die Verlagerung unseres Denkens auf Suchmaschinen einerseits unsere geistigen Reserven für Problemlösungen und kreatives Denken freisetzt. Andererseits wird die Online-Informationsbeschaffung mit erhöhter Ablenkbarkeit und Abhängigkeit in Verbindung gebracht.
Die Forschung zeigt auch, dass die Online-Suche - unabhängig von der Quantität oder Qualität der abgerufenen Informationen - unser kognitives Selbstwertgefühl steigert. Mit anderen Worten, es stärkt unseren Glauben an unsere eigene "Klugheit".
In Verbindung mit der Tatsache, dass das Hinterfragen von Informationen mühsam ist - und dass wir uns umso weniger kritisch mit den Ergebnissen unserer Suchmaschine auseinandersetzen, je mehr wir ihr vertrauen - wird deutlich, warum der Zugang zu einer noch nie dagewesenen Menge an Informationen uns nicht unbedingt klüger macht.
Sollten wir unser Denken "auslagern"?
Die heutigen generativen KI-Tools gehen viel weiter, als uns nur Suchergebnisse zu präsentieren. Sie finden die Informationen für uns, werten sie aus, fassen sie zusammen und präsentieren sie uns wieder.
Welche Auswirkungen könnte dies haben? Ohne eine von Menschen geführte Qualitätskontrolle sind die Aussichten nicht gerade vielversprechend.
Die Fähigkeit der generativen KI, Antworten zu produzieren, die sich vertraut, objektiv und ansprechend anfühlen, bedeutet, dass sie uns anfälliger für kognitive Verzerrungen macht.
Der Automatisierungseffekt zum Beispiel ist die menschliche Tendenz, die Integrität von maschinell erstellten Informationen zu überschätzen. Und der "mere exposure effect" bedeutet, dass wir Informationen, die als vertraut oder persönlich dargestellt werden, eher vertrauen.
Die Forschung zu sozialen Medien kann uns helfen, die Auswirkungen solcher Vorurteile zu verstehen. In einer Studie aus dem Jahr 2016 gaben Facebook-Nutzer:innen an, dass sie sich aufgrund der Menge der online geposteten Nachrichteninhalte besser "informiert" fühlten - und nicht dadurch, wie viel davon sie tatsächlich gelesen hatten.
Wir wissen auch, dass die von den Algorithmen der sozialen Medien geschaffenen "Filterblasen" - in denen unsere Feeds nach unseren Interessen gefiltert werden - die Vielfalt der Inhalte, denen wir ausgesetzt sind, einschränken.
Es hat sich gezeigt, dass dieser Prozess der Informationsverengung die ideologische Polarisierung verstärkt, indem er die Bereitschaft der Menschen verringert, alternative Perspektiven in Betracht zu ziehen. Es hat sich auch gezeigt, dass dadurch die Wahrscheinlichkeit steigt, dass wir mit Fake News konfrontiert werden.
KI zur Aufklärung und nicht zur Verdummung nutzen
Generative KI ist zweifellos eine revolutionäre Kraft, die das Potenzial hat, Großes für die Gesellschaft zu leisten. Sie könnte unser Bildungssystem umgestalten, indem sie personalisierte Inhalte bereitstellt, unsere Arbeitspraktiken verändern, indem sie das Schreiben und die Informationsanalyse beschleunigt, und die Grenzen der wissenschaftlichen Entdeckung verschieben.
Sie hat sogar das Potenzial, unsere Beziehungen positiv zu verändern, indem sie uns hilft, mit anderen zu kommunizieren und Kontakte zu knüpfen, und kann bisweilen als eine Art synthetische Begleitung fungieren.
Aber wenn wir die Zukunft nur durch einen Blick in die Vergangenheit beurteilen können, ist es vielleicht an der Zeit, darüber nachzudenken, wie das Internet und die sozialen Medien unsere Wahrnehmung verändert haben, und einige Vorsichtsmaßnahmen zu ergreifen. Die Entwicklung von KI-Kenntnissen ist ein guter Anfang, ebenso wie die Entwicklung von KI-Werkzeugen, die menschliche Autonomie und kritisches Denken fördern.
Letztendlich müssen wir sowohl unsere eigenen als auch die Stärken und Schwächen der KI verstehen, um sicherzustellen, dass diese "denkenden" Begleiter uns helfen, die Zukunft zu gestalten, die wir wollen - und nicht die, die zufällig ganz oben auf der Liste steht.
