Menschen können KI-generierte Inhalte kaum von echten unterscheiden
Kurz & Knapp
- Eine Studie des CISPA Helmholtz-Zentrums für Informationssicherheit zeigt, dass Menschen KI-generierte Bilder, Texte und Audiodateien nicht mehr zuverlässig von menschlichen Inhalten unterscheiden können.
- In der Online-Umfrage mit 3.002 Teilnehmern aus Deutschland, China und den USA stufte die Mehrheit der Befragten KI-generierte Medien als menschlich ein.
- Laut CISPA-Professor Thorsten Holz waren die Befragten bereits 2022 an einem Punkt angelangt, an dem es für Menschen schwierig ist, KI-generierte Inhalte zu erkennen. Seitdem hat sich die Technologie stark weiterentwickelt.
Forscherinnen und Forscher des CISPA Helmholtz-Zentrums für Informationssicherheit haben in einer Studie gezeigt, dass KI-generierte Bilder, Texte und Audiodateien mittlerweile so überzeugend sind, dass Menschen sie nicht mehr zuverlässig von menschlichen Inhalten unterscheiden können.
Die Studie wurde bereits zwischen Juni und September 2022 als Online-Befragung mit rund 3.002 Teilnehmerinnen und Teilnehmern aus Deutschland, China und den USA durchgeführt und umfasste die Medientypen Audio, Bild und Text.
Über alle Medientypen und Länder hinweg stufte die Mehrheit der Befragten die von KI generierten Medien als von Menschen gemacht ein. Bei den von den Forschern erzeugten Bildern handelte es sich um fotorealistische Porträts, gefälschte Nachrichtenartikel und literarische Audiodateien. Insgesamt gingen 2.609 Datensätze (822 USA, 875 Deutschland, 922 China) in die Auswertung ein.
Seit dem Zeitpunkt der Umfrage hat sich generative KI stark weiterentwickelt. Laut Thorsten Holz, Professor am CISPA, waren die Befragten im Jahr 2022 jedoch bereits an einem Punkt angelangt, "an dem es für Menschen schwierig ist – wenn auch noch nicht unmöglich – zu unterscheiden, ob etwas echt oder KI-generiert ist."
Holz sieht darin Risiken: "Künstlich erzeugter Content kann vielfältig missbraucht werden. […] Ich sehe darin eine große Gefahr für unsere Demokratie." Abwehrmechanismen für solche Angriffsszenarien zu entwickeln, sei eine wichtige Aufgabe für die Zukunft, so CISPA-Fakultätsmitglied Lea Schönherr.
Die Studie untersuchte verschiedene Faktoren, die die Fähigkeit, KI-generierte Medien zu erkennen, beeinflussen können. Es zeigte sich, dass allgemeines Vertrauen, kognitive Reflexion und die selbstberichtete Vertrautheit mit Deepfakes die Entscheidungen der Teilnehmer über alle Medienkategorien hinweg signifikant beeinflussten.
Andere Faktoren wie Altersgruppe, Bildungshintergrund, politische Einstellung oder Medienkompetenz zeigten hingegen keine einheitlichen Effekte. Sobald die Qualität der KI-generierten Medien hoch genug war, verschwand der Einfluss demografischer Variablen weitgehend.
Die CISPA-Studie macht deutlich, dass der technische Fortschritt und die gesellschaftlichen Auswirkungen von KI-Systemen noch stärker gemeinsam betrachtet werden müssen. Regeln und Schutzmechanismen hinken der rasanten Entwicklung hinterher.
"Unsere Ergebnisse zeigen deutlich, dass maschinell generierte Medien nicht von realen Medien zu unterscheiden sind. Da eine perfekte technische Erkennung unerreichbar scheint, argumentieren wir, dass sich zukünftige Forschung nicht darauf konzentrieren sollte, wie man generative KI vermeiden kann, sondern wie man mit ihr leben kann", heißt es in der Schlussfolgerung.
Seit der Durchführung der Studie im vergangenen Jahr haben KI-Systeme wie ChatGPT oder Midjourney die Generierung täuschend echter Inhalte weiter perfektioniert und massentauglich gemacht. Es ist davon auszugehen, dass die Ergebnisse heute noch deutlicher ausfallen würden. Die Forscher planen Folgestudien, um die Entwicklung weiter zu beobachten.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.