Geben wir leichtfertig zu viel Verantwortung an die Technik ab? Waymos Sicherheitschef erklärt, warum es gefährlich ist, Fahrzeuge als „selbstfahrend“ zu bezeichnen.
Vor fast zehn Jahren erhielt Google sein erstes US-Patent für ein autonomes Fahrsystem. Zu diesem Zeitpunkt hatten die ersten Testfahrzeuge etwa 1.600 Kilometer ohne menschliches Eingreifen hinter sich.
Ein Jahr später durfte der Internet-Gigant erstmals auf einer öffentlichen Straße im US-Bundesstaat Nevada testen. 2014 gründete Googles Mutterkonzern Alphabet mit Waymo ein eigenes Unternehmen, das sich ausschließlich mit der Weiterentwicklung des „Google Driverless Cars“ beschäftigen sollte.
Mittlerweile verzeichnet Waymo zig Millionen autonom gefahrene Kilometer auf öffentlichen Straßen. Das System „Waymo Driver“ wurde von Grund auf für Level 4 des autonomen Fahrens konzipiert und braucht heute nicht mal mehr einen menschlichen Sicherheitsfahrer.
In Phoenix, Arizona, holen die Robo-Taxis vom Fahrdienst Waymo One Passagiere ab und bringen sie an ihr gewünschtes Ziel – ohne einen menschlichen Fahrer im Cockpit. Dennoch verzichtet das Unternehmen bewusst auf die Bezeichnung „selbstfahrend“. Warum?
Waymo Sicherheitschef: Menschen haben Angst vor Dingen, die sie nicht verstehen
Mauricio Pena ist Chief Safety Officer bei Googles Schwesterunternehmen Waymo. In einer Kolumne auf der Webseite des CNBC beschreibt Pena, warum Waymo den Begriff „selbstfahrend“ für sein KI-System „Waymo Driver“ nicht mehr verwendet. Grundsätzlich zeige die Tatsache, dass die Technologie bereits für konkrete kommerzielle Anwendungen eingesetzt werde, dass sie auf dem besten Weg sei, ihre Versprechungen zu erfüllen.
Damit dürfte Pena vor allem auf den Sicherheitsgedanken hinter autonomen Fahrsystemen anspielen. In über 90 Prozent aller tödlichen Unfälle ist menschliches Versagen die Ursache. Übernimmt ein KI-System das Steuer, würde der kritische Faktor Mensch aus der Gleichung genommen. Waymo veröffentlichte im März dieses Jahres eine Studie, um zu belegen, dass autonomes Fahren tödliche Unfälle verhindern kann.
Video: Der Waymo Driver konnte in der Rolle des Unfallinitiators Kollisionen verhindern, die Menschen passierten. | Quelle: Waymo
Dafür beauftragte das Unternehmen ein externes Experten-Team mit der digitalen Rekonstruktion realer tödlicher Unfälle in Waymos Einsatzgebiet in Arizona. In der Simulation wurden die von Menschen gesteuerten Fahrzeuge durch den Waymo Driver ersetzt.
In der Rolle des Unfallinitiators konnte die KI jeden einzelnen Unfall vermeiden. Lediglich bei Auffahrunfällen, bei denen das Heck des Waymo Drivers gerammt wurde, blieb das System chancenlos. Dennoch gebe es laut Pena noch viel zu tun, um Vertrauen und Akzeptanz der Menschen in diese transformative Technologie weiter aufzubauen.
Höchste Priorität habe deshalb, der Öffentlichkeit eine genaue Vorstellung der Technologie zu vermitteln: „Wir sind davon überzeugt, dass autonome Fahrtechnologie das Potenzial hat, Leben zu retten. Aber wir wissen auch, dass viele Menschen nicht vollständig verstehen, wie autonom fahrende Vehikel funktionieren und dass Menschen Angst vor dem haben, was sie nicht verstehen“, so Pena.
Sprache prägt die Wahrnehmung der Menschen
Zu diesem Zweck brachte Waymo schon vor einigen Jahren die Aufklärungskampagne Let’s Talk Autonomous Driving auf den Weg. Dabei habe Waymo laut Pena gelernt, wie sehr die verwendete Sprache die Wahrnehmung der Menschen präge. Die Wortwahl zur Beschreibung einer Technologie beeinflusse demnach, wie die Menschen mit ihr umgehen und sie nutzen.
Pena schreibt diesen Grundsatz jeder aufstrebenden Branche zu, egal ob es um autonomes Fahren oder kommerzielle Raumfahrt gehe: „Sie schaffen nicht nur die grundlegende Technologie, auf der künftige Generationen aufbauen werden, sondern stellen sie den Menschen auch zum ersten Mal vor.“
Dies sei ein wichtiger Grund, warum sich Waymo Anfang des Jahres dazu entschlossen habe, den Begriff „selbstfahrend“ aus dem Wortschatz zu streichen. Um Verwirrungen zu begrenzen, benutze man seitdem ausschließlich die Begrifflichkeit „autonomes Fahren“ – im Gegensatz zu anderen Marktteilnehmern.
Terminologie kann falsches Gefühl der Sicherheit erzeugen
In diesem Zusammenhang kritisiert Pena das Vorgehen anderer Unternehmen, ohne dabei konkrete Hersteller zu benennen. Es würden Fahrzeuge an die Öffentlichkeit verkauft, die als vollständig selbstfahrend vermarktet werden. Tatsächlich verfügten sie nur über fortschrittliche Fahrerassistenzsysteme (Advanced Driver Assistance Systems oder ADAS).
Diese könnten konstruktionsbedingt nur begrenzte Teile der vollständigen Fahraufgabe übernehmen und erfordern einen lizenzierten menschlichen Fahrer, der jederzeit aufmerksam bleibt.
Pena mahnt: „Die Verwendung der gleichen Terminologie für verschiedene Technologien schafft Verwirrung bei den Verbrauchern und kann ein falsches Gefühl der Sicherheit erzeugen.“
Waymos Sicherheitschef dürfte damit vor allem auf den E-Auto-Hersteller Tesla anspielen. Das Unternehmen und allen voran CEO Elon Musk vermarkten die eigenen Fahrassistenzsysteme lautstark mit Bezeichnungen wie „Autopilot“ und „Full Self-Driving“.
Tatsächlich verfügt Tesla derzeit über ein System, das auf der Norm für autonomes Fahren „SAE J3016“ Stufe 2 erreicht und somit als assistiertes Fahren einzuordnen ist. Der Mensch muss stets auf den Verkehr achten und sofort eingreifen können.
Menschen geben schnell zu viel Verantwortung ab
Tesla weist seine Kunden darauf hin, dass sie stets auf den Verkehr achten müssen. Zudem gibt es Sicherheitsvorkehrungen in den Fahrzeugen, die das System nur unter bestimmten Bedingungen aktiv werden lassen. Dennoch kam es in der Vergangenheit immer wieder zu tödlichen Unfällen, die auf Missbrauch oder Missachtung der Sicherheitsvorschriften zurückzuführen sind.
Pena gibt an, dass Waymo selbst an Fahrassistenzsystemen geforscht habe. Dabei habe man herausgefunden, dass Benutzer dem Fahrzeug schnell mehr Verantwortung übertragen würden, als es technisch übernehmen könne - selbst wenn vorher klare Anweisungen erteilt würden, dies nicht zu tun.
„Wenn jemand zu viel Vertrauen in eine Technologie hat, weil er die Worte, mit denen sie beschrieben wird, falsch interpretiert, könnte er unwissentlich Risiken eingehen, die seine eigene Sicherheit und die Sicherheit der Menschen und Autos um ihn herum gefährden“, so Pena.
Waymo-Fahrzeuge würden sämtliche Aufgaben des Fahrers durch fortschrittliche Hard- und Software automatisieren. Dies wolle das Unternehmen auch künftig klar und deutlich mit präziser Sprache erklären. Pena will so laut eigenen Angaben Leben retten.
Dass auch Waymos Technologie noch nicht perfekt ist, zeigte erst kürzlich ein YouTube-Video. Ein Fahrgast zeichnete eine Fahrt auf, bei der das Waymo-Taxi auf der Straße parkte und unklare Fahrmanöver vollführte. Es ließ sich offenbar durch die Leitkegel einer Baustelle verwirren.
Laut Waymo habe das System eine unerwartete Situation entdeckt und Informationen von der Servicezentrale angefragt. Dabei kam es zu falschen Anweisungen, was die Weiterfahrt erschwert habe. Zu Schaden kam niemand und der Passagier selbst nahm die holprige Fahrt mit Humor. Waymo will die internen Prozesse nun optimieren.
Titelbild: Waymo, Quelle: CNBC
