Das EU-Parlament möchte fortschrittlichen Robotern und KI-Systemen Personenstatus zugestehen. Eine internationale Gruppe von Kritikern protestiert. Zu Unrecht, wie der deutsche KI-Ethiker und Buchautor Oliver Bendel findet.
Die Post-Drohne, das selbstfahrende Auto oder der smarte Kühlschrank: Intelligente Maschinen werden über kurz oder lang in unserem Alltag ankommen. Doch was bedeutet es, wenn Roboter in immer mehr Bereichen das Steuer übernehmen? Und was, wenn etwas schiefgeht?
Mit solchen Fragen beschäftigte sich eine Fachgruppe von EU-Abgeordneten. In einem Arbeitsbericht schlägt sie der EU-Kommission vor, den zivilrechtlichen Status einer "elektronischen Person" für komplexe Roboter und KI-Systeme zu prüfen. Das Ziel: einen rechtlichen Rahmen schaffen, in dem intelligente Maschinen für Schäden haftbar gemacht werden können.
Ein Unfall mit Todesfolge
Oliver Bendel, KI-Experte, Buchautor und Professor für Wirtschaftsinformatik an der FHNW, findet die Idee gar nicht so abwegig. "Aus zivilrechtlicher Perspektive kann man durchaus eine solche Person kreieren. Man kann Roboter, Drohnen und selbstfahrende Autos mit einem Budget oder Fonds ausstatten und bei Unfällen das Opfer entschädigen", sagt Bendel zu VRODO.
"Tay war in schlechte Gesellschaft geraten und wurde nach einigen Stunden zur Rassistin. Aber wer ist verantwortlich und wer haftet?"
Die Problematik ist alles andere als realitätsfern: Im März kam es in den USA zum ersten tödlichen Unfall mit einem selbstfahrenden Auto. Im Falle der zu Tode gekommenen Elaine Herzberg übernahm das für den Betrieb des Autos verantwortliche US-Unternehmen Uber die Schuld. Zwischen dem Fahrvermittlungsdienst und der Familie kam es zu einer außergerichtlichen Einigung.
Damit vermied Uber einen langwierigen, komplizierten und teuren Gerichtsprozess. Mit dem Aufkommen autonom agierender Maschinen dürften derartige Unfälle aber keine Seltenheit bleiben. Die Frage, wer am Ende für Personen- und Sachschäden haften muss, dürfte Gerichten in Zukunft mehr und mehr Kopfzerbrechen bereiten.
Die Haftungsfrage
"Die Verantwortlichkeit ist schwer zu klären, gerade bei intelligenten, vernetzten und selbstlernenden Systemen", sagt Bendel. Als Beispiel nennt der KI-Experte den Chatbot Tay, der 2016 von Microsoft ins Internet entlassen wurde, um mit Twitter-Nutzern zu plaudern. Dabei übernahm die KI in kürzester Zeit die Vorurteile seiner Gesprächspartner.
"Tay war in schlechte Gesellschaft geraten und wurde nach einigen Stunden zur Rassistin. Aber wer ist verantwortlich und wer haftet: Die Manager, die Programmierer oder die Benutzer?"
"Man sollte davon absehen, Roboter als echte Personen zu begreifen."
Bei Robotern ist die Haftungsfrage noch komplexer, da sie aus einer Vielzahl von Einzelteilen bestehen: "Viele Roboter sind keinesfalls eindeutig identifizierbare Entitäten und stehen in zahlreichen Abhängigkeiten: in Bezug auf ihre Sensoren, ihre Analyse-Software, ihr KI-System sowie die Datenbanken, Kontroll- und Leitinstanzen und Roboterkollegen, mit denen sie vernetzt sind."
Unrealistische Sci-Fi-Visionen
Nur stößt der Vorschlag der EU-Abgeordneten nicht überall auf Gegenliebe. Mitte April wandten sich mehr als 150 Vertreter aus der Wissenschaft, Politik und Wirtschaft gegen die Schaffung einer elektronischen Person und unterzeichneten einen offenen Brief an die EU-Kommission und deren Präsidenten Jean-Claude Juncker.
Der Zusammenschluss sieht im Vorschlag ein rechtliches Konstrukt, mit dem Hersteller, Besitzer und Nutzer intelligenter und autonom agierender Systeme die Schuld von sich weisen könnten, indem sie die Verantwortung einer abstrakten rechtlichen Instanz übertragen.
Für die Unterzeichner des Briefs sind die Ursachen für das Fehlverhalten solcher Systeme zumindest heute noch klar rekonstruierbar und die Haftungsfrage dadurch zweifelsfrei zu beantworten. Die gegenteilige Annahme ist einer von Science-Fiction und reißerischen Pressemeldungen geprägten Vorstellung von Künstlicher Intelligenz geschuldet, heißt es in dem Brief.
Grundrechte für Roboter?
Die Kritiker argumentieren jedoch nicht nur rechtlich, sondern auch ethisch gegen das Konstrukt einer elektronischen Person. Sie fürchten, dass man intelligente Maschinen als natürliche Personen definieren könnte. Dadurch müssten ihnen konsequenterweise Menschenrechte zugestanden werden. Dies wiederum widerspräche der Europäischen Grundrechtecharta und Menschenrechtskonvention.
"Ich bin gegen selbstfahrende Autos, die sich frei durch Ballungsgebiete bewegen dürfen."
In diesem Punkt stimmt Bendel mit der Gruppe überein: "Man sollte davon absehen, Roboter als echte Personen zu begreifen. Roboter haben keine Empfindungs- und Leidensfähigkeit, kein Bewusstsein, keinen Lebenswillen." Dies werde im Gesetzesvorschlag allerdings auch nicht gefordert, sagt der KI-Experte.
Menschen vor Maschinen
Bendel plädiert, bei neuen Gesetzen die Bürger in den Vordergrund zu stellen. Die Forschung solle zwar nicht eingeschränkt werden, bei konkreten Anwendungsszenarien müsse man aber genauer hinsehen und entsprechend regulieren. "Ich bin beispielsweise gegen selbstfahrende Autos, die sich frei durch Ballungsgebiete bewegen dürfen, wie das in manchen kalifornischen Städten der Fall ist", sagt Bendel.
Die KI-gestützte Überwachung ist für ihn besonders besorgniserregend: "Nehmen wir beispielsweise den Überwachungsroboter K5, der im Silicon Valley im Einsatz ist und jeden und alles in seiner Umgebung aufnimmt und analysiert. Am Südkreuz in Berlin testet man Gesichtserkennung. An vielen Flughäfen ist diese bereits im Einsatz. Neuerdings gibt es Ansätze, die sexuelle Orientierung und die kriminellen Tendenzen aus den Gesichtern zu lesen. Das ist nicht nur technisch, sondern auch gesellschaftlich und ethisch fragwürdig."
Bendel schlägt deshalb eine Roboterquote für den öffentlichen Raum vor. "Wir brauchen Bereiche, in denen wir uns anonym und sicher bewegen können, ohne uns verfolgende Roboter und ohne uns beobachtende und einschätzende Systeme."
