Großbritannien plant ein neues Gesetz gegen sexuell explizite Deepfakes. Sowohl die Erstellung als auch die Verbreitung solcher KI-generierter Inhalte soll künftig strafbar sein.
Nach Angaben des britischen Justizministeriums soll die Erstellung und Verbreitung von sexuell expliziten Deepfakes in Großbritannien künftig unter Strafe gestellt werden, berichtet Reuters. Das betrifft Videos, Bilder und Audio-Clips.
Während die Veröffentlichung intimer Fotos oder Videos ohne Einwilligung - die sogenannte Rachepornografie - bereits seit 2015 strafbar ist, gab es bisher keine rechtliche Handhabe gegen KI-generierte Fälschungen.
Diese Gesetzeslücke will die britische Regierung nun schließen: Sexuell eindeutige Deepfakes ohne Einwilligung seien unentschuldbar. Es drohen Geld- und Haftstrafen.
Technologieministerin Margaret Jones kündigte zudem an, dass Plattformen, die missbräuchliche Inhalte hosten, künftig strenger kontrolliert werden und mit empfindlichen Strafen rechnen müssen.
Die Dringlichkeit der neuen Gesetzgebung wird durch aktuelle Zahlen unterstrichen: Laut der britischen Revenge Porn Helpline ist der Missbrauch durch Deepfakes seit 2017 um mehr als 400 Prozent gestiegen.
Besondere Gefahr für Jugendliche
Das Problem sexueller Deepfakes ohne Einwilligung reicht bis in die Schulen: Wie eine aktuelle Studie von The Human Factor zeigt, befürchten 60 Prozent der Lehrer, dass ihre Schüler in Deepfake-Skandale verwickelt sein könnten. Im Gegensatz dazu glauben 73 Prozent der Eltern, dass ihre Kinder damit nichts zu tun haben.
Zwei Teenager im Alter von 13 und 14 Jahren in Florida wurden verhaftet, weil sie KI-generierte Nacktbilder von Mitschülern erstellt und geteilt hatten. Besonders problematisch ist, dass die Bilder oft in privaten Chatgruppen geteilt werden und dort monatelang zirkulieren können
Ein weiteres Beispiel ist ein Deepfake-Angriff auf die nordirische Politikerin Cara Hunter. Nur drei Wochen vor einer wichtigen Wahl wurde ein pornografisches Deepfake-Video von ihr tausendfach über WhatsApp geteilt. Hunter wurde daraufhin mit vulgären Nachrichten bombardiert und auf der Straße sexuell belästigt. Selbst Familienmitglieder begannen an ihrer Version der Geschichte zu zweifeln, so überzeugend waren die Videos und Bilder.
Auch Deutschland bereitet ein härteres Vorgehen gegen Deepfakes vor. Laut eines Gesetzesantrags des Bundesrats sollen künftig bis zu zwei Jahre Haft oder Geldstrafen für die Verbreitung von KI-generierten Medieninhalten drohen, die Persönlichkeitsrechte verletzen. Bei Deepfakes, die den höchstpersönlichen Lebensbereich betreffen, könnte die Strafe sogar bis zu fünf Jahre Haft betragen.
