Amazon will mit generativer KI seinen Kunden einen schnelleren Überblick über Produkteigenschaften geben.
Eine Paradedisziplin großer Sprachmodelle ist es, lange Texte auf das Wesentliche zu reduzieren. Das funktioniert recht zuverlässig und Amazon ist selbstbewusst genug, diese Kompetenz nun auch auf Produktrezensionen anzuwenden.
Neue "KI-generierte Highlights" fassen die wichtigsten Aspekte und häufig zitierten Kundenmeinungen aus den geschriebenen Rezensionen in einem prägnanten Absatz auf der Produktdetailseite zusammen, kündigt das Unternehmen an. Käuferinnen und Käufer könnten sich so schneller einen Überblick über ein Produkt verschaffen, ohne alle Rezensionen lesen zu müssen.
Dabei soll die KI auch in der Lage sein, auf Wunsch des Nutzers individuelle Aspekte besonders hervorzuheben. Wer etwa ein Produkt unter dem Aspekt der Benutzerfreundlichkeit sucht, kann in der App nach diesem Thema filtern und erhält dann eine Zusammenfassung der Aussagen in den Rezensionen nur zu diesem Thema.
Schrittweiser Rollout startet in den USA
Die Funktion wird derzeit in der mobilen Amazon-App für ausgewählte Kundinnen und Kunden in den USA ausgerollt. Amazon will zunächst Feedback sammeln und die Highlights-Funktion dann auf weitere Kundinnen und Kunden und Kategorien ausweiten.
Ferner soll KI bei der Identifizierung gefälschter Rezensionen helfen, ein Thema, das auch durch generative KI, die schnelle und authentisch wirkende Fälschungen ermöglicht, an Bedeutung gewinnt. Die KI-generierten Highlight-Rezensionen sollen laut Amazon nur auf einen "vertrauenswürdigen Korpus von Rezensionen verifizierter Käufe" zugreifen.
Auf mögliche Risiken der neuen Funktion geht Amazon in der Ankündigung nicht ein. Das größte Risiko dürfte darin bestehen, dass ein Sprachmodell Kundenrezensionen ungenau oder unvollständig wiedergibt oder missinterpretiert.
Zudem könnte die Zusammenfassungsfunktion leicht manipulierbar sein, indem das Modell trainiert wird oder je nach Trainingsmethode inhärent darauf ausgerichtet ist, positive Aspekte überzubetonen und negative oder kritische Meinungen zu relativieren, auch wenn diese valide sind.
Die Generierung von Fehlinformationen dürfte in diesem Nutzungskontext hingegen ein geringeres Risiko darstellen - beziehen sich die Sprachmodelle auf einen fest vorgegebenen Inhalt, in diesem Fall Produktbewertungen, sind sogenannte Halluzinationen kaum zu erwarten.
