Blamage für KPMG: Bericht über KI in Unternehmen enthielt erfundene Fallstudien

Ein KPMG-Bericht über den Einsatz von KI in Unternehmen enthielt erfundene Fallstudien. Der Bericht "Redefining excellence in the age of agentic AI" machte falsche Aussagen über den KI-Einsatz bei UBS, dem britischen Gesundheitsdienst NHS, den Schweizerischen Bundesbahnen und Transport for London. Die Fehler wurden von der Forschungsgruppe GPTZero aufgedeckt und von der Financial Times überprüft. Alle genannten Organisationen widersprachen den Darstellungen im Bericht.

GPTZero-Chef Edward Tian warnt, dass fehlerhafte Berichte großer Beratungsfirmen "Sekundär-Halluzinationen" verbreiten, da sie als besonders glaubwürdig gelten und von KI und Menschen gleichermaßen weiterverbreitet werden.

KPMG hat den Bericht von einigen Webseiten entfernt. Für die Firma ist der Vorfall in doppelter Hinsicht peinlich: Sie verbreitet Falschinformationen und zeigt, dass sie selbst nicht beherrscht, was sie ihren Kunden zu verkaufen versucht.

Technische Ursache für die Fehler könnten unsaubere KI-Websuchen sein. Laut GPTZero ist der Bericht voller unzureichender Quellenangaben. Die Titel sind meist nur lose Umschreibungen realer Quellen, oft ohne URLs oder korrekte Autoren. In vielen Fällen ließ sich nicht einmal eine passende Originalquelle finden. GPTZero nennt das "Vibe Citing", ein Problem, mit dem auch Googles AI Overviews kämpfen und wofür Google vor Gericht abgestraft wurde.