Eine Studie der Universität Passau hat ergeben, dass KI-generierte Imitationen von Antworten in politischen Debatten von der britischen Öffentlichkeit als authentischer und relevanter wahrgenommen werden als die tatsächlichen Antworten von Persönlichkeiten des öffentlichen Lebens.
Für die Studie wurden 948 britische Bürgerinnen und Bürger befragt. Sie bewerteten Fragen und Antworten aus der BBC-Sendung "Question Time" sowie von GPT-4-Turbo generierte Antworten. Diese wurden dann Persönlichkeiten des öffentlichen Lebens zugeordnet und den Teilnehmenden blind präsentiert.
"Unsere Ergebnisse zeigen deutlich, dass LLM-generierte, imitierte Inhalte als authentischer, kohärenter und relevanter beurteilt werden als die tatsächlichen Debattenantworten", so die Studienautoren zu den Ergebnissen.
Was authentisch klingt, muss authentisch sein
Die Studie ergab auch, dass die KI-generierten Antworten inhaltlich oft von den tatsächlichen Antworten abwichen. Etwa die Hälfte der Antworten wurde als unähnlich eingestuft, während nur ein Drittel als ähnlich bewertet wurde.
Problematisch: Auch wenn die Antworten inhaltlich von den tatsächlichen Positionen der imitierten Personen abwichen, wurden sie als authentisch bewertet.
Eine linguistische Analyse zeigte zudem Unterschiede im Sprachgebrauch. Die KI-Antworten enthielten mehr Nominalisierungen, eine größere lexikalische Vielfalt und wiesen eine höhere Übereinstimmung mit den Worten aus der Frage auf. Die echten Antworten enthielten dagegen mehr epistemische Marker wie "Ich denke".
Kritisch zu betrachten ist die generelle Vergleichbarkeit von KI-generierten Antworten und Antworten von Menschen vor Live-Publikum. Besonders Politiker:innen stehen hier unter Zeitdruck und können ihre Antworten nicht so sorgfältig formulieren wie ein KI-System. Dies schränkt die direkte Vergleichbarkeit ein.
Forscher warnen vor KI-Einfluss im öffentlichen Raum
Die Ergebnisse der Studie könnten Konsequenzen für die politische Kommunikation haben. Die Autoren der Studie warnen: "Akteure können leicht große Sprachmodelle nutzen, um öffentliche Informationsräume mit gefälschten, aber authentisch wirkenden politischen Aussagen zu verunreinigen, etwa um Verwirrung über tatsächliche Aussagen zu stiften."
Die Studienteilnehmer wurden auch zu ihrer Meinung über den Einsatz von KI in öffentlichen Debatten befragt. Mehr als 85 Prozent sagten, dass der Einsatz von KI transparent gemacht und Informationen über die Entwicklung von KI ausgetauscht werden sollten.
Die Forscher betonen die Notwendigkeit, die Öffentlichkeit über die Fähigkeiten moderner KI aufzuklären. Viele Befragte unterschätzten anfangs das Potenzial der Technologie. Nach der Aufklärung über den Einsatz von KI zeigte sich eine höhere Wertschätzung der KI-Fähigkeiten, aber auch ein stärkerer Wunsch nach Regulierung.
