Die Europäische Kommission hat Leitlinien für Anbieter sehr großer Online-Plattformen (VLOP) und sehr großer Online-Suchmaschinen (VLOSE) vorgelegt, um systemische Risiken für Wahlprozesse zu mindern.
Die Leitlinien enthalten auch spezifische Anweisungen und Vorschläge zur Minderung von Risiken, die durch generative künstliche Intelligenz entstehen können. Sie basieren auf der Verordnung (EU) 2022/2065 (Digital Services Act oder DSA).
Als Beispiele für Risiken der generativen KI nennt die Europäische Kommission die Täuschung von Wählern oder die Manipulation von Wahlprozessen durch die Erstellung falscher und irreführender synthetischer Inhalte über politische Akteure, falsche Darstellungen von Ereignissen, Wahlumfragen, Zusammenhängen oder Erzählungen.
Generative KI-Systeme können auch falsche, inkohärente oder erfundene Informationen erzeugen, die im Fachjargon liebevoll als "Halluzinationen" bezeichnet werden, die die Realität falsch darstellen und potenziell Wähler irreführen können.
KI-Inhalte müssen besser gekennzeichnet werden
Um die mit generativer KI verbundenen Risiken zu mindern, sollten die Anbieter sicherstellen, dass die von generativer KI erzeugten Inhalte für die Nutzer klar erkennbar sind, beispielsweise durch Wasserzeichen.
Die Anbieter sollten den Nutzern unter anderem Standardschnittstellen und benutzerfreundliche Werkzeuge zur Verfügung stellen, um KI-generierte Inhalte zu kennzeichnen. Die verwendeten Kennzeichnungen sollten für die Nutzer leicht erkennbar sein, auch in der Werbung.
Meta hat vor wenigen Tagen eine solche Funktion für seine eigenen sozialen Plattformen in Aussicht gestellt. Fast alle großen KI-Firmen haben sich bei der Kennzeichnung von Bildern zudem auf den C2PA-Standard verständigt.
Ebenso sollten die Anbieter sicherstellen, dass die von der generativen KI bereitgestellten Informationen so weit wie möglich auf zuverlässigen Quellen beruhen, und Warnungen vor potenziellen Fehlern in den von der generativen KI generierten Inhalten bereitstellen. Die Generierung falscher Inhalte sollte so weit wie möglich verhindert werden.
Außerdem sollte die Medienkompetenz der Bürgerinnen und Bürger gestärkt werden und die Anbieter sollten sich mit den zuständigen nationalen Behörden und anderen lokalen Akteuren in Verbindung setzen, um Probleme im Zusammenhang mit Wahlen zu eskalieren und Lösungen zu diskutieren.
Das Dokument betont die besondere Rolle von Journalisten und Medienanbietern mit "etablierten internen redaktionellen Standards und Verfahren". Die Verfügbarkeit vertrauenswürdiger Informationen aus pluralistischen Quellen sei wichtig für einen funktionierenden Wahlprozess.
