Amazons Chatbot Q hat "schwere Halluzinationen" und verrät vertrauliche Daten
Amazons KI-Chatbot Q leidet Berichten zufolge unter "schweren Halluzinationen" und gibt nur wenige Tage nach seiner Ankündigung vertrauliche Daten preis. Laut internen Dokumenten, die Platformer zugespielt wurden, hat Q den Standort von AWS-Rechenzentren, unveröffentlichte Funktionen und interne Rabattprogramme enthüllt. Mitarbeiter bezeichneten den Vorfall als "sev 2", der dringend die Aufmerksamkeit von Ingenieuren erfordere - sogar über Nacht und an den Wochenenden. Amazon konkurriert derzeit mit Microsoft und Google auf dem Markt für generative KI und hat seinen Q-Chatbot als sicherer als Verbraucher-Tools wie ChatGPT beworben. Ein Amazon-Sprecher sagte, dass keine Sicherheitsprobleme identifiziert worden seien und Amazon "Q weiter optimieren wird, während es von einem Preview-Produkt zu einem allgemein verfügbaren Produkt wird."
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.