Auf der eigenen Entwicklerkonferenz I/O 2018 erstaunte Google mit der Assistenz-KI "Duplex", die im Auftrag ihres Besitzers so natürlich telefoniert wie ein Mensch. Doch im Nachklang wirft die Künstliche-Intelligenz-Demonstration immer mehr Fragen auf. Mittlerweile wird sogar ihre Echtheit hinterfragt - und ob Google es für den Show-Effekt in Kauf genommen hat, gegen geltendes Recht zu verstoßen.
Direkt nach der Duplex-Demonstration gab es im Netz zahlreiche kritische Stimmen: Weshalb optimiert Google eine Künstliche Intelligenz darauf, Menschen zu täuschen? Und warum gibt sich der KI-Assistent bei seinem Anruf nicht zu erkennen?
Die Antwort: Weil es geht. Googles I/O-Eröffnungsrede findet auf der ganzen Welt Beachtung. Sie ist Googles wichtigstes PR-Ereignis.
Der Konzern wollte ein Statement setzen, die Menschen erstaunen. Wir fokussieren uns voll auf Künstliche Intelligenz. Und wir sind dabei die Besten. Das waren Googles Kernbotschaften. Der KI-Telefonanruf war die Beweisführung.
Einigermaßen erstaunlich ist, dass die Silicon-Valley-Lausbuben rund um Sundar Pichai offenbar überhaupt nicht auf dem Schirm hatten, dass sie mit dem KI-Telefonanruf ethische Fragen aufwerfen, Kritik ernten und Menschen sogar verängstigen könnten.
Denn wäre Google auf kritische Reaktionen vorbereitet gewesen, hätte es diese Bedenken wohl auf der großen Bühne zerstreut, anstatt im Nachgang bruchstückhaft und hinter vorgehaltener Hand auf Anfragen der Presse zu reagieren.
Eine bewusst in Kauf genommene Provokation ist natürlich nicht auszuschließen. Sie würde aber kein gutes Licht auf Googles ethischen Anspruch an sich selbst werfen. Nicht bei so einem sensiblen und kritisch diskutierten Thema wie Künstlicher Intelligenz.
Die Fake-Theorie der US-Medien ist ziemlich sicher falsch
Rund zwei Wochen nach der Präsentation gelingt es Google noch immer nicht, klare Aussagen zur Duplex-Zukunft zu formulieren. Viele US-Medien spekulieren mittlerweile, dass die Demonstration gefälscht war - obwohl Google-Chef Pichai auf der Bühne wiederholt versicherte, dass die aufgezeichneten Telefongespräche authentisch seien.
Auf Nachfragen der Presse reagiert Google bislang nicht und lässt die Gerüchte im Netz unkommentiert stehen.
Womöglich hat dieses Schweigen einen rechtlichen Hintergrund: In Kalifornien - und in vielen anderen US-Staaten - ist es nicht erlaubt, einen Telefonanruf ohne explizite Einwilligung des Gesprächspartners aufzuzeichnen.
Die Webseite Mashable konnte eines der in den Google-Demos angerufenen Restaurants (siehe Audiobeispiel unten) ziemlich sicher identifizieren und fragte dort nach, ob Duplex tatsächlich durchgeklingelt und einen Tisch reserviert hat.
Der infrage kommende Restaurant-Mitarbeiter bestätigte den KI-Anruf und dass er im Vorfeld nicht über die Aufnahme aufgeklärt wurde. Nach einer Bitte um erneute Bestätigung reagierte er laut Mashable nervös und beendete das Gespräch.
Womöglich übersahen Googles eifrige KI-Ingenieure den gesetzlichen Rahmen einfach. Oder sie ignorierten ihn willentlich für den maximalen Show-Effekt. Beide Szenarien stärken nicht das Vertrauen in Googles Fähigkeit, im Sinne der Gesellschaft zu handeln. Hinzu kommt, dass Google bislang nicht aufgeklärt hat, ob - auf welchen Wegen auch immer - der Anruf rechtlich in Ordnung war.
Intern, berichtet Bloomberg mit Verweis auf anonyme Quellen, versicherten Google-Entscheider den eigenen Mitarbeitern, dass das Duplex-Team ethische Fragen "schon lange vor der I/O-Demonstration" im Blick hatte.
KI-Anrufer soll vorab Einwilligung einholen - wenn es das Gesetz verlangt
Bloomberg berichtet weiter, dass sich die irgendwann öffentlich verfügbare Duplex-Version als Künstliche Intelligenz zu erkennen geben wird und eine Einwilligung für die Aufzeichnung des Telefongesprächs abholt - "abhängig von der Rechtsprechung".
Kritiker werden anmerken, dass Google unabhängig von den Vorschriften eines Landes oder Bundesstaates eine moralische Verpflichtung hat, für Transparenz zu sorgen.
Duplex soll im Laufe des Sommers in einer experimentellen Version verfügbar sein. Bis dahin wird es noch viel Aufklärungsbedarf geben - und danach wahrscheinlich noch mehr.
