Die US-amerikanische Telekommunikationsbehörde Federal Communications Commission (FCC) hat Robocalls mit realistischen KI-Stimmen verboten.
Die Entscheidung folgt auf einen Vorfall während der Vorwahlen in New Hampshire, bei dem eine KI-Stimme eine gefälschte Nachricht verbreitete, die angeblich von Präsident Joe Biden stammte. Wählerinnen und Wähler wurden aufgefordert, nicht an den Vorwahlen teilzunehmen.
Die FCC sieht in dem neuen Verbot einen wichtigen Schritt zum Schutz der Verbraucherinnen und Verbraucher vor der wachsenden Bedrohung durch hochentwickelte Kommunikationstechnologien und täuschend echte KI-Fälschungen wie „Voice Cloning“. Entsprechende Betrugsversuche seien in den letzten Jahren "eskaliert", heißt es in der Mitteilung der Behörde.
Die neue Maßnahme bezieht KI-generierte Robocalls in den Telephone Consumer Protection Act (TCPA) von 1991 ein, der bereits unerbetene Anrufe ohne vorherige Einwilligung des Empfängers regelt.
Telefonische Betrugsversuche, ob mit oder ohne KI-Stimme, sind natürlich ohnehin illegal. Erwähnenswert sind in diesem Zusammenhang die Verhängung von Geldstrafen in Höhe von fünf Millionen Dollar gegen Aktivisten, die Black and People of Color (BPoC) Wähler getäuscht hatten, sowie eine Rekordstrafe von 300 Millionen Dollar gegen ein Unternehmen, das unerwünschte Robocall-Werbung für Autoversicherungen generiert hatte.
Durch die Erweiterung wird jedoch die Verwendung von KI-Stimmen für Robocalls generell unter Strafe gestellt und die Staatsanwälte der Bundesstaaten können dagegen vorgehen. Das Gesetz tritt sofort in Kraft.
FCC warnt Robocall-Betrüger
FCC-Vorsitzende Jessica Rosenworcel betont die wachsende Gefahr, die von KI-generierten Stimmen und Bildern ausgeht, die Verbraucher täuschen und zu Betrugsopfern machen können. Die bevorstehende Regeländerung soll neben Prominenten und Politikern auch gewöhnliche Bürger vor Robocall-Betrug schützen.
"Böswillige Akteure verwenden KI-generierte Stimmen in unaufgeforderten Werbeanrufen, um gefährdete Familienmitglieder zu erpressen, Prominente zu imitieren und Wähler falsch zu informieren. Wir warnen die Betrüger, die hinter diesen Anrufen stecken", sagte die FCC-Vorsitzende Jessica Rosenworcel.
Die FCC steht nun vor der Aufgabe, ein Gleichgewicht zwischen dem Schutz der Verbraucher und der Förderung technologischer Innovationen zu finden. Das neue Verbot signalisiert einen vorsichtigen Ansatz, um sicherzustellen, dass die Vorteile der KI-Entwicklung nicht durch ihren Missbrauch überschattet werden.