Die nordirische Politikerin Cara Hunter wurde Opfer eines Deepfake-Pornografie-Angriffs kurz vor einer Wahl. Der Fall zeigt, wie KI zur Manipulation demokratischer Prozesse missbraucht werden kann.
Laut einem TED Talk der nordirischen Politikerin Cara Hunter wurde sie im April 2022, nur drei Wochen vor einer wichtigen Wahl, Opfer eines Deepfake-Angriffs. Ein pornografisches Video, das täuschend echt aussah und ihr Gesicht zeigte, wurde tausendfach über WhatsApp geteilt.
"Diese Frau im Video war nicht ich, aber sie sah exakt wie ich aus. Unmöglich ähnlich. Unheimlich ähnlich", beschreibt Hunter in ihrer Rede die Situation. Die lokale Polizei konnte ihr nicht helfen - sie verfügte nicht über die nötige Technik, um die Herkunft des Videos zu ermitteln.
Die Auswirkungen waren gravierend: Hunter erhielt zahllose vulgäre Nachrichten und wurde sogar auf der Straße sexuell belästigt. Das Video verbreitete sich in dem kleinen Land mit nur 1,8 Millionen Einwohnern rasend schnell. Selbst Familienmitglieder begannen, an ihrer Version der Geschichte zu zweifeln.
Deepfakes als Waffe gegen Demokratie
Der Fall zeigt laut Hunter die Gefährlichkeit der Kombination von Frauenfeindlichkeit und Technologiemissbrauch. "Dies war der Moment, wo Misogynie auf den Missbrauch von Technologie trifft und sogar das Potenzial hatte, den Ausgang einer demokratischen Wahl zu beeinflussen", so Hunter.
Nur sechs Monate nach dem Video-Vorfall erhielt Hunter erneut 15 KI-generierte Deepfake-Bilder, die sie in Unterwäsche zeigten. Bis heute weiß sie nicht, wer hinter den Angriffen steckt. Zudem gelte die Erstellung solcher Deepfakes in vielen Ländern bisher nicht als Straftat.
Hunter sieht in solchen Vorfällen eine ernsthafte Bedrohung für die Demokratie: "Ohne Wahrheit bricht die Demokratie zusammen. Wahrheit ermöglicht es uns, informierte Entscheidungen zu treffen und Führungspersonen zur Rechenschaft zu ziehen, was sehr wichtig ist."
Die Politikerin fordert eine stärkere Regulierung von KI-Technologie und die Einbettung ethischer Prinzipien in deren Entwicklung. "KI kann eine humanistische Technologie mit menschlichen Werten sein, die unser Leben bereichert", sagt Hunter. "Aber dafür müssen wir Ethik in diese Technologie einbauen, Voreingenommenheit beseitigen und Empathie installieren."
Deepfake-Pornografie-Angriffe werden immer einfacher
Der Fall Hunter reiht sich in eine lange Liste von Deepfake-Attacken ein, die sich überwiegend gegen Frauen richten. Der Ursprung dieser Form des Missbrauchs geht auf das Jahr 2017 zurück, als ein anonymer Reddit-Nutzer unter dem Namen "deepfakes" gefälschte pornografische Videos von bekannten Schauspielerinnen veröffentlichte. Das ist auch die Wiege der Deepfake-Technologie.
Seitdem ist die Technologie zur Erstellung solcher Fälschungen deutlich zugänglicher und einfacher geworden. Die Opfer sind nicht mehr nur Prominente - auch Minderjährige werden zunehmend Ziel solcher Angriffe. Der Fall Hunter zeigt exemplarisch, wie Deepfakes gezielt eingesetzt werden können, um Frauen im öffentlichen Leben zu diskreditieren und einzuschüchtern.
