Was soll ein selbstfahrendes Auto bei einem Unfall tun, wenn es nur zwei Möglichkeiten hat: Soll es in eine Menschengruppe oder in einen einzelnen Passanten steuern? Darf der Tod einer Person in Kauf genommen werden, wenn er mehrere Menschenleben rettet? Drei MIT-Forscher haben ein Online-Quiz erstellt, das eine zumindest demokratische Antwort auf diese Frage gibt.
Das Quiz hört auf den Namen The Moral Machine und spielt das Trolley-Problem in allen erdenklichen Varianten durch: Soll man die Frau oder den Mann überfahren? Den Greis oder das Kind? Den dicken oder den dünnen Mann? Den Reichen oder den Obdachlosen?
Das Quiz der MIT-Forscher Jean-François Bonnefon, Azim Shariff und Iyad Rahwan soll Menschen anregen, über Maschinenethik nachzudenken und ihnen eine Stimme geben in einem Diskurs, der von Politikern, Automobilherstellern, KI-Forschern und Philosophen beherrscht wird.
Statistik zeigt Präferenzen
Was unterscheidet die moralische Entscheidungsfindung von Menschen und Maschinen?
"Menschen reagieren auf Basis ihrer Hormone und nicht ihrer Vernunft, jedenfalls dann, wenn sie schnelle Entscheidungen treffen müssen", sagt Bonnefon in einem Medium-Artikel. "Maschinen haben anders als Menschen den Luxus, dass sie in solchen Situationen erwägen können", ergänzt Shariff.
Das Quiz ergab eine interessante Statistik: Ihr zufolge ziehen die meisten Quizteilnehmer vor, junge statt alte Menschen zu retten und Frauen statt Männer. Dabei gebe es abhängig vom Land nur kleine Abweichungen.
Verstörend fanden die Forscher, dass die meisten Teilnehmer lieber Obdachlose statt Menschen höheren Status opfern würden. Diese Tendenz korreliere mit der ökonomischen Ungleichheit im betreffenden Land: Je größer die Schere zwischen Arm und Reich, desto eher schützen Menschen die Reichen.
Die Politik soll regulieren
Doch sind solche Fragen überhaupt demokratisch verhandelbar? "Von einem demografischen Standpunkt aus, sollten wir der Öffentlichkeit das geben, was sie verlangt. Aber es gibt Menschen, die ausgebildet sind, um solche ethischen Fragen zu beantworten und vielleicht sollten wir ihnen die Entscheidung überlassen", meint Shariff. Es sei sinnvoll, die Mehrheitsmeinung zu kennen, selbst wenn man sich nicht nach ihr richte.
Neben der demokratischen Mehrheit und Philosophen sind es Autobauer und die Politik, die gerne mitreden würden. Shariff zufolge solle lieber die Politik als einzelne Hersteller die Regeln diktieren. "Der Vorteil liegt darin, dass man ethische Entscheidungen nicht dem Markt überlässt. Ich glaube nicht, dass der Markt in der Lage ist, die ethisch beste Diskussion zu führen", meint der Forscher.
Ein Automobilhersteller könne sich schließlich für Algorithmen entscheiden, die bei einem Unfall die Menschen im Auto anstatt Passanten schützt. Und wer würde nicht lieber solch ein Auto kaufen wollen?
Titelbild: Uber
