Forscherinnen und Forscher des CISPA Helmholtz-Zentrums für Informationssicherheit haben in einer Studie gezeigt, dass KI-generierte Bilder, Texte und Audiodateien mittlerweile so überzeugend sind, dass Menschen sie nicht mehr zuverlässig von menschlichen Inhalten unterscheiden können.
Die Studie wurde bereits zwischen Juni und September 2022 als Online-Befragung mit rund 3.002 Teilnehmerinnen und Teilnehmern aus Deutschland, China und den USA durchgeführt und umfasste die Medientypen Audio, Bild und Text.
Über alle Medientypen und Länder hinweg stufte die Mehrheit der Befragten die von KI generierten Medien als von Menschen gemacht ein. Bei den von den Forschern erzeugten Bildern handelte es sich um fotorealistische Porträts, gefälschte Nachrichtenartikel und literarische Audiodateien. Insgesamt gingen 2.609 Datensätze (822 USA, 875 Deutschland, 922 China) in die Auswertung ein.
Seit dem Zeitpunkt der Umfrage hat sich generative KI stark weiterentwickelt. Laut Thorsten Holz, Professor am CISPA, waren die Befragten im Jahr 2022 jedoch bereits an einem Punkt angelangt, "an dem es für Menschen schwierig ist – wenn auch noch nicht unmöglich – zu unterscheiden, ob etwas echt oder KI-generiert ist."
Holz sieht darin Risiken: "Künstlich erzeugter Content kann vielfältig missbraucht werden. […] Ich sehe darin eine große Gefahr für unsere Demokratie." Abwehrmechanismen für solche Angriffsszenarien zu entwickeln, sei eine wichtige Aufgabe für die Zukunft, so CISPA-Fakultätsmitglied Lea Schönherr.
Die Studie untersuchte verschiedene Faktoren, die die Fähigkeit, KI-generierte Medien zu erkennen, beeinflussen können. Es zeigte sich, dass allgemeines Vertrauen, kognitive Reflexion und die selbstberichtete Vertrautheit mit Deepfakes die Entscheidungen der Teilnehmer über alle Medienkategorien hinweg signifikant beeinflussten.
Andere Faktoren wie Altersgruppe, Bildungshintergrund, politische Einstellung oder Medienkompetenz zeigten hingegen keine einheitlichen Effekte. Sobald die Qualität der KI-generierten Medien hoch genug war, verschwand der Einfluss demografischer Variablen weitgehend.
Die CISPA-Studie macht deutlich, dass der technische Fortschritt und die gesellschaftlichen Auswirkungen von KI-Systemen noch stärker gemeinsam betrachtet werden müssen. Regeln und Schutzmechanismen hinken der rasanten Entwicklung hinterher.
"Unsere Ergebnisse zeigen deutlich, dass maschinell generierte Medien nicht von realen Medien zu unterscheiden sind. Da eine perfekte technische Erkennung unerreichbar scheint, argumentieren wir, dass sich zukünftige Forschung nicht darauf konzentrieren sollte, wie man generative KI vermeiden kann, sondern wie man mit ihr leben kann", heißt es in der Schlussfolgerung.
Seit der Durchführung der Studie im vergangenen Jahr haben KI-Systeme wie ChatGPT oder Midjourney die Generierung täuschend echter Inhalte weiter perfektioniert und massentauglich gemacht. Es ist davon auszugehen, dass die Ergebnisse heute noch deutlicher ausfallen würden. Die Forscher planen Folgestudien, um die Entwicklung weiter zu beobachten.