Inhalt
summary Zusammenfassung

KI-Algorithmen, die auf voreingenommenen, menschlichen Daten basieren, erzeugen eine gefährliche Feedback-Schleife. Menschen akzeptieren die falschen Entscheidungen der KI und machen weiter, ohne klüger zu werden, argumentiert ein Psychologieforscher. Unser Gastautor hat einige Ideen, wie wir damit umgehen können.

Anzeige

Je weiter KI in den Alltag der Menschen vordringt, desto größer werden auch die Sorgen darüber. Die alarmierendsten Befürchtungen sind, dass die KI abtrünnig wird und ihre menschlichen Meister ausschaltet.

Hinter den Forderungen nach einem Stopp der KI-Entwicklung verbergen sich jedoch eine Reihe konkreterer sozialer Missstände. Dazu gehören die Risiken, die KI für die Privatsphäre und die Würde der Menschen birgt, und die unvermeidliche Tatsache, dass die Algorithmen unter der Haube der KI von Menschen programmiert werden und sie daher genauso voreingenommen und diskriminierend ist wie viele von uns. Hinzu kommt die mangelnde Transparenz darüber, wie und von wem KI entwickelt wird, und es ist leicht zu verstehen, warum heutzutage so viel Zeit darauf verwendet wird, über ihre Risiken ebenso zu diskutieren wie über ihr Potenzial.

Aber meine eigenen Forschungen als Psychologe, der untersucht, wie Menschen Entscheidungen treffen, führen mich zu der Überzeugung, dass all diese Risiken von einer noch größeren, wenn auch weitgehend unsichtbaren Bedrohung überschattet werden. Die KI ist nämlich nur einen Tastendruck davon entfernt, die Menschen noch weniger diszipliniert und kompetent zu machen, wenn es um durchdachte Entscheidungen geht.

Anzeige
Anzeige

Durchdachte Entscheidungen treffen

Um durchdachte Entscheidungen zu treffen, bedarf es dreier Schritte, die mit gesundem Menschenverstand zu bewerkstelligen sind und damit beginnen, dass man sich die Zeit nimmt, die Aufgabe oder das Problem zu verstehen, mit dem man konfrontiert ist. Fragen Sie sich, was Sie wissen müssen und was Sie tun müssen, um eine Entscheidung zu treffen, die Sie später glaubwürdig und selbstbewusst verteidigen können.

Die Antworten auf diese Fragen hängen davon ab, dass Sie sich aktiv um Informationen bemühen, die sowohl Ihre Wissenslücken schließen als auch Ihre bisherigen Überzeugungen und Annahmen in Frage stellen. Tatsächlich sind es diese kontrafaktischen Informationen - alternative Möglichkeiten, die sich ergeben, wenn man sich von bestimmten Annahmen befreit -, die Sie letztlich in die Lage versetzen, Ihre Entscheidungen zu verteidigen, wenn sie kritisiert werden.

Zu einer durchdachten Entscheidung gehört, dass man seine Werte berücksichtigt und Kompromisse abwägt.

Der zweite Schritt besteht darin, mehr als eine Option auf einmal zu suchen und in Betracht zu ziehen. Möchten Sie Ihre Lebensqualität verbessern? Ob es darum geht, wen Sie wählen, welche Jobs Sie annehmen oder welche Dinge Sie kaufen - es gibt immer mehr als einen Weg, der Sie ans Ziel führt. Wenn Sie sich die Mühe machen, zumindest einige plausible Optionen aktiv in Erwägung zu ziehen und zu bewerten, und zwar in einer Weise, die die Kompromisse ehrlich darstellt, die Sie bei den Vor- und Nachteilen einzugehen bereit sind, ist dies ein Kennzeichen für eine durchdachte und vertretbare Wahl.

Der dritte Schritt besteht in der Bereitschaft, eine Entscheidung so lange hinauszuzögern, bis Sie alle notwendigen Überlegungen angestellt haben. Es ist kein Geheimnis: Ein Abschluss fühlt sich gut an, weil er bedeutet, dass man eine schwierige oder wichtige Entscheidung hinter sich gebracht hat. Aber der Preis für eine verfrühte Entscheidung kann viel höher sein, als wenn man sich die Zeit nimmt, seine Hausaufgaben zu machen. Wenn Sie mir nicht glauben, denken Sie nur an all die Male, in denen Sie sich von Ihren Gefühlen haben leiten lassen, nur um dann zu bereuen, dass Sie sich nicht die Zeit genommen haben, gründlicher nachzudenken.

Empfehlung

Die Gefahren des Outsourcings von Entscheidungen an KI

Keiner dieser drei Schritte ist sonderlich schwierig. Aber für die meisten sind sie auch nicht intuitiv. Durchdachte und vertretbare Entscheidungen zu treffen, erfordert Übung und Selbstdisziplin. Und hier kommt der versteckte Schaden ins Spiel, dem die KI die Menschen aussetzt: KI "denkt" größtenteils hinter den Kulissen und präsentiert den Nutzern Antworten, denen der Kontext und die Überlegung fehlen. Schlimmer noch: Die KI nimmt den Menschen die Möglichkeit, sich darin zu üben, selbst durchdachte und vertretbare Entscheidungen zu treffen.

Bedenken Sie, wie Menschen heute an viele wichtige Entscheidungen herangehen. Der Mensch ist bekannt dafür, dass er für eine Vielzahl von Vorurteilen anfällig ist, weil wir dazu neigen, unsere geistige Energie sparsam einzusetzen. Diese Genügsamkeit führt dazu, dass Menschen es mögen, wenn scheinbar gute oder vertrauenswürdige Entscheidungen für sie getroffen werden. Und wir sind soziale Wesen, die die Sicherheit und Akzeptanz ihrer Gemeinschaften mehr schätzen als ihre eigene Autonomie.

Wenn dann noch KI hinzukommt, entsteht eine gefährliche Feedback-Schleife: Die Daten, die die KI für ihre Algorithmen auswertet, bestehen aus den voreingenommenen Entscheidungen der Menschen, die auch den Druck der Konformität widerspiegeln, anstatt die Weisheit des kritischen Denkens. Da die Menschen aber gerne Entscheidungen für sich treffen lassen, neigen sie dazu, diese schlechten Entscheidungen zu akzeptieren und zum nächsten überzugehen. Am Ende sind weder wir noch die KI klüger als zuvor.

Nachdenklich sein im Zeitalter der KI

Es wäre falsch zu behaupten, dass KI keinen Nutzen für die Gesellschaft bringen wird. Das wird sie höchstwahrscheinlich, vor allem in Bereichen wie Cybersicherheit, Gesundheitswesen und Finanzen, wo komplexe Modelle und riesige Datenmengen routinemäßig und schnell analysiert werden müssen. Die meisten unserer alltäglichen Entscheidungen erfordern jedoch nicht diese Art von analytischer Leistung.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Aber ob wir es wollen oder nicht, viele von uns haben bereits Ratschläge von KI erhalten - und Arbeit von KI in Bereichen wie Unterhaltung und Reisen bis hin zu Schularbeiten, Gesundheitsfürsorge und Finanzen geleistet. Und die Entwickler arbeiten hart an der nächsten Generation von KI, die noch mehr unserer täglichen Entscheidungen automatisieren kann. Und das ist meiner Meinung nach gefährlich.

In einer Welt, in der das, was und wie die Menschen denken, dank der Algorithmen der sozialen Medien bereits unter Beschuss steht, riskieren wir, uns in eine noch gefährlichere Lage zu bringen, wenn wir zulassen, dass die KI einen Entwicklungsstand erreicht, der es ihr ermöglicht, alle möglichen Entscheidungen in unserem Namen zu treffen. Wir sind es uns selbst schuldig, der Verlockung der KI zu widerstehen und das wahre Privileg - und die Verantwortung - des Menschseins wieder in die Hand zu nehmen: die Fähigkeit, selbst zu denken und selbst zu entscheiden. Wir werden uns besser fühlen und vor allem besser sein, wenn wir das tun.The Conversation

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • KI-Algorithmen, die auf der Grundlage voreingenommener menschlicher Daten trainiert wurden, können eine gefährliche Feedbackschleife erzeugen, in der Menschen fehlerhafte KI-Entscheidungen blind akzeptieren, ohne daraus zu lernen, so der Psychologe Joe Árvai.
  • Der Forscher argumentiert, dass KI den Menschen die Möglichkeit nimmt, sich darin zu üben, durchdachte und vertretbare Entscheidungen zu treffen, indem sie Alternativen in Betracht ziehen, Informationen sammeln und erst nach reiflicher Überlegung eine Entscheidung treffen.
  • Obwohl KI in komplexen Bereichen wie Cybersicherheit und Finanzen Vorteile bieten kann, müssen wir laut Árvai der Versuchung widerstehen, unsere täglichen Entscheidungen an KI auszulagern, um unsere Fähigkeit zu bewahren, selbst zu denken und zu entscheiden.
Joe Árvai

Joe Árvai ist Professor für Psychologie und Direktor des Wrigley Institute for Environment and Sustainability am USC Dornsife College of Letters.

Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!