Der ehemalige Sportdirektor einer Highschool in Baltimore soll mit Hilfe von KI eine täuschend echte, rassistische Sprachaufnahme des Schulleiters erstellt haben. Jetzt wurde er verhaftet.
Der ehemalige Sportlehrer einer Highschool in Baltimore wurde verhaftet, weil er eine KI-generierte Audioaufnahme des Schulleiters Eric Eiswert in sozialen Medien verbreitet haben soll. Der Sprachklon äußerte sich rassistisch und antisemitisch.
Die Aufnahme sollte laut Polizei echt klingen und führte zu Hassbotschaften gegen den Schulleiter sowie zu Störungen des Schulbetriebs, sodass Eiswert vorübergehend seinen Dienst quittieren musste. Es gab Drohungen gegen Eiswert und Sorgen um seine Sicherheit.
Forensische Analysten der Universität von Kalifornien und des FBI stellten fest, dass die Aufnahme mit künstlicher Intelligenz erstellt worden war.
Als mögliches Motiv wird vermutet, dass Eiswert Dariens Vertrag aufgrund häufiger Leistungsprobleme nicht verlängern wollte. Außerdem soll Eiswert eine mögliche Untersuchung gegen Darien wegen Veruntreuung von Schulgeldern eingeleitet haben. Dem Sportlehrer werden Vergeltungsmaßnahmen gegen Zeugen, Belästigung, Diebstahl und Störung des Schulbetriebs vorgeworfen.
Nach Ansicht der Behörden zeigt dieser Fall, dass mit dem Aufkommen von KI-Technologien größere Vorsicht im Umgang mit Ton- und Bildmaterial geboten ist. Der Landrat von Baltimore spricht ebenfalls von einer "beunruhigenden Grenze" und dass man nun vorsichtiger bei der Bewertung von Ton- und Bildinhalten sein müsse. Die KI-Tools, die bei der Aufnahme verwendet wurden, wurden nicht genannt.
Die Gefahren des Stimmklonens sind ziemlich offensichtlich und zum Teil bereits Realität, wie jüngst im Fall der Schauspielerin Amelia Tyler, deren Stimmklon missbraucht wurde, um Vergewaltigungspornografie vorzulesen.
Positive Anwendungen von Stimmklonen, etwa im medizinischen Kontext, wären auch bei einer stärkeren Regulierung der Technologie für die Öffentlichkeit denkbar. Da aber bereits überzeugende Stimmklone als Open-Source-KI-Software zur Verfügung stehen, dürfte diese Möglichkeit ohnehin nicht mehr oder nur mit eingeschränkter Wirksamkeit bestehen.
