Inhalt
summary Zusammenfassung

Forscherinnen und Forscher des CISPA Helmholtz-Zentrums für Informationssicherheit haben in einer Studie gezeigt, dass KI-generierte Bilder, Texte und Audiodateien mittlerweile so überzeugend sind, dass Menschen sie nicht mehr zuverlässig von menschlichen Inhalten unterscheiden können.

Anzeige

Die Studie wurde bereits zwischen Juni und September 2022 als Online-Befragung mit rund 3.002 Teilnehmerinnen und Teilnehmern aus Deutschland, China und den USA durchgeführt und umfasste die Medientypen Audio, Bild und Text.

Über alle Medientypen und Länder hinweg stufte die Mehrheit der Befragten die von KI generierten Medien als von Menschen gemacht ein. Bei den von den Forschern erzeugten Bildern handelte es sich um fotorealistische Porträts, gefälschte Nachrichtenartikel und literarische Audiodateien. Insgesamt gingen 2.609 Datensätze (822 USA, 875 Deutschland, 922 China) in die Auswertung ein.

Seit dem Zeitpunkt der Umfrage hat sich generative KI stark weiterentwickelt. Laut Thorsten Holz, Professor am CISPA, waren die Befragten im Jahr 2022 jedoch bereits an einem Punkt angelangt, "an dem es für Menschen schwierig ist – wenn auch noch nicht unmöglich – zu unterscheiden, ob etwas echt oder KI-generiert ist."

Anzeige
Anzeige

Holz sieht darin Risiken: "Künstlich erzeugter Content kann vielfältig missbraucht werden. […] Ich sehe darin eine große Gefahr für unsere Demokratie." Abwehrmechanismen für solche Angriffsszenarien zu entwickeln, sei eine wichtige Aufgabe für die Zukunft, so CISPA-Fakultätsmitglied Lea Schönherr.

Die Studie untersuchte verschiedene Faktoren, die die Fähigkeit, KI-generierte Medien zu erkennen, beeinflussen können. Es zeigte sich, dass allgemeines Vertrauen, kognitive Reflexion und die selbstberichtete Vertrautheit mit Deepfakes die Entscheidungen der Teilnehmer über alle Medienkategorien hinweg signifikant beeinflussten.

Andere Faktoren wie Altersgruppe, Bildungshintergrund, politische Einstellung oder Medienkompetenz zeigten hingegen keine einheitlichen Effekte. Sobald die Qualität der KI-generierten Medien hoch genug war, verschwand der Einfluss demografischer Variablen weitgehend.

Die CISPA-Studie macht deutlich, dass der technische Fortschritt und die gesellschaftlichen Auswirkungen von KI-Systemen noch stärker gemeinsam betrachtet werden müssen. Regeln und Schutzmechanismen hinken der rasanten Entwicklung hinterher.

"Unsere Ergebnisse zeigen deutlich, dass maschinell generierte Medien nicht von realen Medien zu unterscheiden sind. Da eine perfekte technische Erkennung unerreichbar scheint, argumentieren wir, dass sich zukünftige Forschung nicht darauf konzentrieren sollte, wie man generative KI vermeiden kann, sondern wie man mit ihr leben kann", heißt es in der Schlussfolgerung.

Empfehlung

Seit der Durchführung der Studie im vergangenen Jahr haben KI-Systeme wie ChatGPT oder Midjourney die Generierung täuschend echter Inhalte weiter perfektioniert und massentauglich gemacht. Es ist davon auszugehen, dass die Ergebnisse heute noch deutlicher ausfallen würden. Die Forscher planen Folgestudien, um die Entwicklung weiter zu beobachten.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Eine Studie des CISPA Helmholtz-Zentrums für Informationssicherheit zeigt, dass Menschen KI-generierte Bilder, Texte und Audiodateien nicht mehr zuverlässig von menschlichen Inhalten unterscheiden können.
  • In der Online-Umfrage mit 3.002 Teilnehmern aus Deutschland, China und den USA stufte die Mehrheit der Befragten KI-generierte Medien als menschlich ein.
  • Laut CISPA-Professor Thorsten Holz waren die Befragten bereits 2022 an einem Punkt angelangt, an dem es für Menschen schwierig ist, KI-generierte Inhalte zu erkennen. Seitdem hat sich die Technologie stark weiterentwickelt.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!