Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
Bewusstsein, Kognition und Künstliche Intelligenz | DEEP MINDS #10

Etwas Unsicherheit könnte die Entscheidungsfreudigkeit Künstlicher Intelligenz reduzieren – und dem Menschen Verantwortung zurückgeben.

KI-Systeme rechnen so komplex, dass ihre Entscheidungen für Menschen nicht mehr vollständig nachvollziehbar sind. Der daraus resultierende Kontrollverlust ist ein Drohszenario für die Menschheit.

Denn eine Maschine muss keinen boshaften Eigensinn entwickeln, um Schaden zu verursachen: Ungeschickte oder nicht ausreichend konkrete Anweisungen sowie problematische Datensätze fürs KI-Training könnten gefährliche Kettenreaktionen zur Folge haben.

Die Steuerung eines KI-Systems ist daher alles andere als banal: Die Komplexität der realen Welt ist so hoch, dass eine einzelne Entscheidung unzählige Konsequenzen haben kann. Nicht alle Konsequenzen sind berechenbar, da sie nicht eindeutig sind.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Wie zum Beispiel übersetzt man Freiheit oder Wohlbefinden in eine Formel? Menschen sind sich nicht einmal untereinander einig, wie diese Begriffe zu deuten sind.

Unsichere KIs für mehr Sicherheit

Eine Lösung für dieses Dilemma könnte sein, KI-Systeme differenzierte Überlegungen und Planungen anstellen zu lassen – und die letztliche Entscheidung über eine Aktion zurück in die Verantwortung eines Menschen zu geben.

Eben jenes Vorgehen schlägt der KI-Forscher Peter Eckersley vor (Paper / via MIT). Eckersley arbeitet für die Non-Profit-Organisation „Partnership on AI“, die einen vorbildlichen Umgang mit Künstlicher Intelligenz erforschen soll. Gegründet wurde die Organisation unter anderem von Amazon, Facebook, Microsoft und Google.

Konkret will Eckersley die Entscheidungsfreudigkeit Künstlicher Intelligenz mit etwas Unsicherheit einschränken: Die KI soll zwischen verschiedenen Vorlieben schwanken, anstatt einer eindeutigen Präferenz zu folgen.

Auch Menschen träfen viele Entscheidungen aus einer Unsicherheit heraus, erklärt Eckersley. Moralisches Verhalten sei voller Unsicherheit.

Empfehlung

Würde man allerdings Ethik einer Maschine einprogrammieren wollen, müsse man diese konkretisieren und so von der Unsicherheit befreien. Das wiederum kann in problematische maschinelle Entscheidungen münden, die in ihrer Eindeutigkeit nicht zu rechtfertigen sind.

A, B oder C?

Ein Algorithmus kann laut Eckersley auch so programmiert werden, dass er beispielsweise eigene Soldaten und eigene Zivilisten fremden Soldaten vorzieht, ohne eine eindeutige Präferenz zwischen den eigenen Soldaten und Zivilisten zu haben. Eine teilweise Ungewissheit, sozusagen („Partial Ordering“).

Eine weitere Möglichkeit ist es, zwar eindeutige Präferenzen zu definieren, diese aber mit einer Wahrscheinlichkeit zu versehen. Beispielsweise zieht der Algorithmus eigene Soldaten den fremden vor – aber nur in drei von vier Fällen („Uncertain Ordering“).

Diese Unsicherheit soll dazu führen, dass die KI-Black-Box anstatt einer finalen Entscheidung mehrere Optionen ausspucken kann. Die Verantwortung für die letztliche Entscheidung trägt dann wieder der Mensch. Das Risiko für ungewollte Kettenreaktionen könnte so zumindest reduziert werden.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

„Lass das System explizit unsicher sein“, fordert Eckersley. „Gebt das Dilemma den Menschen zurück.“

Weiterlesen über Künstliche Intelligenz:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!