Amazons Chatbot Q hat "schwere Halluzinationen" und verrät vertrauliche Daten

Amazons KI-Chatbot Q leidet Berichten zufolge unter "schweren Halluzinationen" und gibt nur wenige Tage nach seiner Ankündigung vertrauliche Daten preis. Laut internen Dokumenten, die Platformer zugespielt wurden, hat Q den Standort von AWS-Rechenzentren, unveröffentlichte Funktionen und interne Rabattprogramme enthüllt. Mitarbeiter bezeichneten den Vorfall als "sev 2", der dringend die Aufmerksamkeit von Ingenieuren erfordere - sogar über Nacht und an den Wochenenden. Amazon konkurriert derzeit mit Microsoft und Google auf dem Markt für generative KI und hat seinen Q-Chatbot als sicherer als Verbraucher-Tools wie ChatGPT beworben. Ein Amazon-Sprecher sagte, dass keine Sicherheitsprobleme identifiziert worden seien und Amazon "Q weiter optimieren wird, während es von einem Preview-Produkt zu einem allgemein verfügbaren Produkt wird."