Google mischt Mensch und Maschine anders als erwartet.
Seit März rollt Google im großen Stil die Telefon-KI "Duplex" in den USA aus. Sie ruft im Auftrag des Smartphone-Besitzers Restaurants an und reserviert einen Tisch.
Die Besonderheit: Der Klang der Computerstimme ist von einem menschlichen Anrufer kaum mehr zu unterscheiden - vorausgesetzt, es ist tatsächlich der Computer, der anruft.
Gegenüber der New York Times bestätigt Google jetzt, dass rund 25 Prozent der Duplex-Anrufe von Angestellten eines Callcenters durchgeführt werden. 15 Prozent der KI-Anrufe werden später von einem Menschen übernommen.
Laut Google wird anhand einer Reihe von Signalen entschieden, ob der Anruf von der Maschine oder von einem Menschen durchgeführt wird, beispielsweise wenn unklar ist, ob das Restaurant überhaupt Reservierungen annimmt.
Der Mensch als Datenpool
Bei Tests der NYT-Redakteure Brian X. Chen und Cade Metz wurden drei von vier erfolgreichen Reservierungen von Menschen durchgeführt. Ihr Fazit: Duplex funktioniert und ist eindrucksvoll - aber wird zurzeit hauptsächlich von Menschen bedient.
Laut Googles Nick Fox, verantwortlich für den Google Assistant, sollen nach und nach immer weniger Duplex-Anrufe durch Menschen getätigt werden, während die Telefon-KI parallel verbessert wird.
Würde man menschliche Telefonisten komplett aus der Gleichung nehmen, resultiere das derzeit noch in einer "wahrscheinlich schlechteren Erfahrung" für die angerufenen Restaurants, so Fox.
Hinzu kommt: Google dürfte mit den aufgezeichneten menschlichen Anrufen eine Datenbasis erschaffen, die wiederum fürs KI-Training verwendet werden kann. Das ist jedenfalls der naheliegende Schluss, offiziell bestätigt ist dieses Vorgehen nicht. Angeblich will Google mit Duplex mittelfristig ins Callcenter-Geschäft einsteigen.
Weshalb keine Transparenz?
Von einem technologischen Standpunkt betrachtet, ist Googles Vorgehen legitim und nachvollziehbar. Ein Störgefühl hinterlässt mal wieder die mangelnde Transparenz: Ein wesentlicher Kritikpunkt an Duplex war, dass die Maschine simulierte, ein Mensch zu sein, ohne sich als Maschine zu identifizieren. Erst nach reichlich öffentlicher Kritik an diesem Vorgehen entschied sich Google, das Maschinen-Outing an den Anfang jedes Duplex-Telefonats zu stellen.
Viel gelernt hat Google daraus offenbar nicht: Es würde sich ebenso gehören, dass Duplex-Anrufer und -Angerufene wissen, dass sowohl Mensch als auch Maschine am Apparat sind. Hier wird fürs Marketing bewusst die Grenze zwischen manuell und automatisch, Mensch und Maschine vermischt. Ein verantwortungsvoller Umgang mit Künstlicher Intelligenz ist das nicht.
Quelle: New York Times; Titelbild: Google
