Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Die Europäische Kommission hat Leitlinien für Anbieter sehr großer Online-Plattformen (VLOP) und sehr großer Online-Suchmaschinen (VLOSE) vorgelegt, um systemische Risiken für Wahlprozesse zu mindern.

Die Leitlinien enthalten auch spezifische Anweisungen und Vorschläge zur Minderung von Risiken, die durch generative künstliche Intelligenz entstehen können. Sie basieren auf der Verordnung (EU) 2022/2065 (Digital Services Act oder DSA).

Als Beispiele für Risiken der generativen KI nennt die Europäische Kommission die Täuschung von Wählern oder die Manipulation von Wahlprozessen durch die Erstellung falscher und irreführender synthetischer Inhalte über politische Akteure, falsche Darstellungen von Ereignissen, Wahlumfragen, Zusammenhängen oder Erzählungen.

Generative KI-Systeme können auch falsche, inkohärente oder erfundene Informationen erzeugen, die im Fachjargon liebevoll als "Halluzinationen" bezeichnet werden, die die Realität falsch darstellen und potenziell Wähler irreführen können.

Anzeige
Anzeige

KI-Inhalte müssen besser gekennzeichnet werden

Um die mit generativer KI verbundenen Risiken zu mindern, sollten die Anbieter sicherstellen, dass die von generativer KI erzeugten Inhalte für die Nutzer klar erkennbar sind, beispielsweise durch Wasserzeichen.

Die Anbieter sollten den Nutzern unter anderem Standardschnittstellen und benutzerfreundliche Werkzeuge zur Verfügung stellen, um KI-generierte Inhalte zu kennzeichnen. Die verwendeten Kennzeichnungen sollten für die Nutzer leicht erkennbar sein, auch in der Werbung.

Meta hat vor wenigen Tagen eine solche Funktion für seine eigenen sozialen Plattformen in Aussicht gestellt. Fast alle großen KI-Firmen haben sich bei der Kennzeichnung von Bildern zudem auf den C2PA-Standard verständigt.

Ebenso sollten die Anbieter sicherstellen, dass die von der generativen KI bereitgestellten Informationen so weit wie möglich auf zuverlässigen Quellen beruhen, und Warnungen vor potenziellen Fehlern in den von der generativen KI generierten Inhalten bereitstellen. Die Generierung falscher Inhalte sollte so weit wie möglich verhindert werden.

Außerdem sollte die Medienkompetenz der Bürgerinnen und Bürger gestärkt werden und die Anbieter sollten sich mit den zuständigen nationalen Behörden und anderen lokalen Akteuren in Verbindung setzen, um Probleme im Zusammenhang mit Wahlen zu eskalieren und Lösungen zu diskutieren.

Empfehlung

Das Dokument betont die besondere Rolle von Journalisten und Medienanbietern mit "etablierten internen redaktionellen Standards und Verfahren". Die Verfügbarkeit vertrauenswürdiger Informationen aus pluralistischen Quellen sei wichtig für einen funktionierenden Wahlprozess.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Die Europäische Kommission hat Leitlinien für große Online-Plattformen und Suchmaschinen herausgegeben, um systemische Risiken für Wahlprozesse zu mindern, einschließlich solcher, die durch generative KI entstehen.
  • Um die Risiken zu mindern, sollten Anbieter sicherstellen, dass KI-generierte Inhalte für Nutzer klar erkennbar sind, beispielsweise durch Wasserzeichen, und auf verlässlichen Quellen basieren.
  • Die Leitlinien betonen auch die Stärkung der Medienkompetenz der Bürger und die Zusammenarbeit mit nationalen Behörden und lokalen Akteuren, um Probleme im Zusammenhang mit Wahlen zu erörtern und Lösungen zu finden.
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!