EU droht Microsoft mit Milliardenstrafe wegen falscher KI-Informationen in Bing
Kurz & Knapp
- Die Europäische Kommission ergreift Maßnahmen gegen Microsoft wegen möglicher Risiken der generativen KI in Bing, wie Falschmeldungen und Deepfakes. Microsoft muss bis zum 27. Mai interne Dokumente zu den Risiken vorlegen.
- Laut einer Untersuchung von AlgorithmWatch lieferte der Bing-Copilot bei Suchanfragen im Zusammenhang mit Wahlen falsche Informationen wie erfundene Kandidaten und Skandale. Trotz einer Meldung an Microsoft gab es keine Verbesserungen.
- Der Fall könnte auch als Warnung für Google dienen, das ebenfalls stark auf generative KI in der Suche setzt. Auch aus wettbewerbsrechtlicher Sicht könnten Such-Chatbots bald unter die Lupe genommen werden, da sie höchstwahrscheinlich unerlaubt Inhalte von Webseiten verwenden, um Suchanfragen direkt zu beantworten.
Die EU-Kommission treibt ihre Durchsetzungsmaßnahmen auf Basis des Digital Services Act gegen Microsoft voran: Das Unternehmen soll interne Dokumente zu Risiken der generativen KI in Bing wie Falschinformationen und Deepfakes vorlegen. Der Fall soll auch Google aufschrecken.
Die Integration generativer KI in den Bing Copilot hat für Microsoft bisher nicht die erhofften Marktanteilsgewinne bei Suchmaschinen gebracht.
Dafür aber viel Ärger - und für die Nutzer bizarre Situationen und Fehlinformationen, auch im Zusammenhang mit Wahlen, wie eine Untersuchung von AlgorithmWatch zeigt.
Konkret sieht die EU bei Bing die Gefahr von "Halluzinationen", Deepfakes und automatisierter Manipulation von Diensten, die Wähler in die Irre führen könnten.
Als "sehr große Online-Suchmaschine" müsse Bing die Bestimmungen des Digital Services Act (DSA) vollständig einhalten. Die Kommission ist der Ansicht, dass die mutmaßlichen Verstöße gegen das DSA in diesem speziellen Fall Risiken für den politischen Diskurs und den Wahlprozess darstellen könnten.
Kommission stellt rechtlich bindende Anfrage an Microsoft
Nach einer ersten Anfrage vom 14. März zu den spezifischen Risiken der generativen KI-Funktionen von Bing, insbesondere "Copilot in Bing" und "Image Creator by Designer", hat das Unternehmen nun bis zum 27. Mai Zeit, die angeforderten Informationen bereitzustellen.
Mit dem rechtsverbindlichen Auskunftsersuchen fordert die Kommission Microsoft auf, interne Dokumente und Daten vorzulegen, die in der vorherigen Antwort nicht offengelegt wurden.
Gemäß dem DSA müssen zugelassene Dienste, einschließlich Bing, eine angemessene Risikobewertung durchführen und geeignete Maßnahmen zur Risikominderung ergreifen.
Generative KI ist eines der Risiken, die die Kommission in ihren Leitlinien für die Integrität von Wahlprozessen, speziell für die bevorstehenden Wahlen zum Europäischen Parlament im Juni, ermittelt hat.
Sollte Microsoft nicht fristgerecht antworten, kann die Kommission Geldbußen in Höhe von bis zu einem Prozent der gesamten Jahreseinnahmen oder des gesamten weltweiten Umsatzes des Anbieters sowie regelmäßig wiederkehrende Zwangsgelder in Höhe von bis zu fünf Prozent der durchschnittlichen Tageseinnahmen oder des durchschnittlichen weltweiten Jahresumsatzes des Anbieters verhängen.
Allein für die Verbreitung falscher, unvollständiger oder irreführender Informationen kann die EU nach dem DSA eine Strafe von bis zu einem Prozent des gesamten Jahresumsatzes verhängen. Für Microsoft mit einem Jahresumsatz von über 200 Milliarden US-Dollar würde dies eine Strafe von mehreren Milliarden US-Dollar bedeuten.
AlgorithmWatch drängt auf schnelle Lösung
Laut Clara Helming, Senior Policy and Advocacy Managerin bei AlgorithmWatch, hat Copilot bei Recherchen im Kontext von Wahlen falsche Kandidaten genannt, Umfrageergebnisse falsch dargestellt und Skandale über Politiker erfunden. Die Fehlerquote sei über mehrere Wochen konstant geblieben.
"Obwohl wir Microsoft über das Problem informiert haben, gab es auch bei späteren Tests keine Besserung", so Helming. Sie fordert: "Angesichts der bevorstehenden Europawahl und der Landtagswahlen in Thüringen, Brandenburg und Sachsen ist Eile geboten."
Der Fall dürfte ein Warnschuss sein - für Microsoft, aber auch für Google, das mit dem Gemini Chatbot und vor allem der aggressiven Integration von generativer KI in die Google Suche (Search Generative Experience, SGE) eine Alternative zu Bing und ChatGPT bietet.
Konkrete Warnungen der Kommission an Google gibt es bislang nicht. Die SGE rollt derzeit in den USA verstärkt aus, aber auch in vielen weiteren Ländern außerhalb der EU.
Bald dürften die Behörden die neuen Chatbot-Suchen auch unter wettbewerbsrechtlichen Gesichtspunkten unter die Lupe nehmen, Gründe dafür gibt es viele. So hat Microsoft die Suggestivkraft des Bing-Bots für ungekennzeichnete Werbung als Chatbot-Antwort missbraucht.
Der Bing Bot, Googles SGE und ähnliche Angebote wie Perplexity nutzen zudem unerlaubt Inhalte fremder Webseiten, um Fragen der Nutzer direkt zu beantworten - der Klick auf die Webseite entfällt und das Geschäftsmodell des Webseitenbetreibers wird ausgehebelt.
Die großen KI-Unternehmen OpenAI, Google und Apple nehmen zudem durch intransparente Hinterzimmer-Deals mit ausgewählten Verlagen massiven Einfluss auf die zukünftige Medienlandschaft im Internet.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.