Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Wähler in New Hampshire erhielten am Wochenende Telefonanrufe mit einer vermutlich KI-generierten Stimme. Die Stimme gab sich als US-Präsident Biden aus und forderte die Wähler auf, nicht zu den Vorwahlen zu gehen.

Die Stimme soll den Angerufenen gesagt haben, dass "Ihre Stimme im November einen Unterschied macht, nicht diesen Dienstag." Der Anruf wurde so manipuliert, dass er den Anschein erweckte, er sei von einem Mitglied des demokratischen Komitees verschickt worden.

Der Generalstaatsanwalt des Bundesstaates erklärte, die gefälschten Aufnahmen seien ein illegaler Versuch, die Vorwahlen zu stören und Wähler zu unterdrücken. Sie hat eine Untersuchung der Vorwürfe eingeleitet.

KI kommt in der politischen Propaganda an

Es scheint sich also allmählich zu bewahrheiten, wovor Forscher schon vor Jahren gewarnt haben. Inzwischen gibt es eine Reihe von dokumentierten Fällen, in denen KI für politische Propaganda eingesetzt wurde.

Anzeige
Anzeige

Die Risiken von Deepfakes in der Politik sind vielfältig. Sie können beispielsweise für die Generierung von Videos und Bildern, für das massenhafte Schreiben von manipulativen Texten oder, wie im obigen Beispiel, für die Generierung von glaubwürdigen Stimmenfälschungen eingesetzt werden.

Diese Entwicklung kann in Verbindung mit der zunehmenden audiovisuellen, schnellen und oberflächlichen Kommunikation in den sozialen Medien als gesellschaftliches Risiko angesehen werden.

Bereits bei den letzten US-Wahlen warnten Experten vor einer Flut von Deepfakes, die jedoch ausblieb. Möglicherweise waren die Experten damals nur eine Wahl zu früh: Inzwischen sind Deepfake-Techniken zugänglicher, billiger und besser.

Die deutsche Bundesregierung bezeichnete Deepfakes als eine potenzielle "große Gefahr für Gesellschaft und Politik". Es bestehe die Gefahr, dass sie zur Verbreitung von falschen Geständnissen oder Falschaussagen genutzt werden könnten. Gleichzeitig sollten die Gefahren von Deepfakes nicht überbewertet werden, da sie zu einem Vertrauensverlust der Bevölkerung in die Medien führen könnten, da generell allen Inhalten misstraut werde.

In Kalifornien sind Deepfakes seit 2019 strafbar, wenn sie dazu dienen, Politiker im Wahlkampf rufschädigend darzustellen. Plattformen wie Twitter und Facebook wurden aufgefordert, Maßnahmen gegen Deepfakes zu ergreifen und haben Richtlinien gegen Deepfakes und manipulierte Medien eingeführt. Außerdem arbeiten sie an Tools zur zuverlässigen Identifizierung von Deepfakes und erstellen spezielle Deepfake-Datenbanken, um Erkennungsalgorithmen zu trainieren.

Empfehlung

Trotz dieser Maßnahmen bleibt die Frage offen, ob der Kampf gegen die immer besser werdenden Deepfakes mit technischen Mitteln gewonnen werden kann. Denn mit der Verbesserung der Erkennungstechnologie verbessert sich auch die Generierungstechnologie. Zudem könnte es einen Punkt geben, an dem Deepfakes dem Original einfach so ähnlich sind, dass sie auch technisch kaum noch unterscheidbar sind.

Mit zunehmender Nutzung wird es für die Anbieter von KI-Technologien obendrein immer schwieriger, deren Einsatz zu kontrollieren. So hat OpenAI, das detaillierte Maßnahmen gegen den Missbrauch seiner Technologie bei den US-Wahlen vorgestellt hat, kürzlich einen Chatbot für einen demokratischen Kandidaten gesperrt, der von einem externen Anbieter mit seiner Programmierschnittstelle erstellt worden war. Gleichzeitig wird der OpenAI-eigene GPT-Store mit Chatbots überschwemmt, die Donald Trump imitieren und seinen politischen Stil vertreten.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Wählerinnen und Wähler in New Hampshire erhielten Telefonanrufe mit einer vermutlich von einer künstlichen Intelligenz erzeugten Stimme, die sich als US-Präsident Biden ausgab und sie aufforderte, nicht zur Vorwahl zu gehen.
  • Die gefälschten Aufnahmen wurden als illegaler Versuch eingestuft, die Vorwahlen zu stören und Wähler zu unterdrücken. Die Generalstaatsanwaltschaft hat Ermittlungen aufgenommen.
  • Deepfakes stellen eine potenzielle Gefahr für Gesellschaft und Politik dar und Plattformen wie Twitter und Facebook wurden aufgefordert, Maßnahmen gegen solche Manipulationen zu ergreifen.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!