Inhalt
summary Zusammenfassung

Der ehemalige Sportdirektor einer Highschool in Baltimore soll mit Hilfe von KI eine täuschend echte, rassistische Sprachaufnahme des Schulleiters erstellt haben. Jetzt wurde er verhaftet.

Anzeige

Der ehemalige Sportlehrer einer Highschool in Baltimore wurde verhaftet, weil er eine KI-generierte Audioaufnahme des Schulleiters Eric Eiswert in sozialen Medien verbreitet haben soll. Der Sprachklon äußerte sich rassistisch und antisemitisch.

Die Aufnahme sollte laut Polizei echt klingen und führte zu Hassbotschaften gegen den Schulleiter sowie zu Störungen des Schulbetriebs, sodass Eiswert vorübergehend seinen Dienst quittieren musste. Es gab Drohungen gegen Eiswert und Sorgen um seine Sicherheit.

Forensische Analysten der Universität von Kalifornien und des FBI stellten fest, dass die Aufnahme mit künstlicher Intelligenz erstellt worden war.

Anzeige
Anzeige

Als mögliches Motiv wird vermutet, dass Eiswert Dariens Vertrag aufgrund häufiger Leistungsprobleme nicht verlängern wollte. Außerdem soll Eiswert eine mögliche Untersuchung gegen Darien wegen Veruntreuung von Schulgeldern eingeleitet haben. Dem Sportlehrer werden Vergeltungsmaßnahmen gegen Zeugen, Belästigung, Diebstahl und Störung des Schulbetriebs vorgeworfen.

Nach Ansicht der Behörden zeigt dieser Fall, dass mit dem Aufkommen von KI-Technologien größere Vorsicht im Umgang mit Ton- und Bildmaterial geboten ist. Der Landrat von Baltimore spricht ebenfalls von einer "beunruhigenden Grenze" und dass man nun vorsichtiger bei der Bewertung von Ton- und Bildinhalten sein müsse. Die KI-Tools, die bei der Aufnahme verwendet wurden, wurden nicht genannt.

Die Gefahren des Stimmklonens sind ziemlich offensichtlich und zum Teil bereits Realität, wie jüngst im Fall der Schauspielerin Amelia Tyler, deren Stimmklon missbraucht wurde, um Vergewaltigungspornografie vorzulesen.

Positive Anwendungen von Stimmklonen, etwa im medizinischen Kontext, wären auch bei einer stärkeren Regulierung der Technologie für die Öffentlichkeit denkbar. Da aber bereits überzeugende Stimmklone als Open-Source-KI-Software zur Verfügung stehen, dürfte diese Möglichkeit ohnehin nicht mehr oder nur mit eingeschränkter Wirksamkeit bestehen.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Ein ehemaliger Sportlehrer einer Highschool in Baltimore wurde verhaftet, weil er eine täuschend echte, rassistische Sprachaufnahme des Schulleiters mit KI erstellt und in sozialen Medien verbreitet haben soll.
  • Die Aufnahme führte zu Hassbotschaften gegen den Schulleiter sowie Störungen des Schulbetriebs. Forensische Analysen bestätigten, dass die Aufnahme mit KI generiert wurde. Als mögliches Motiv gelten Differenzen zwischen dem Sportlehrer und dem Schulleiter.
  • Der Fall verdeutlicht laut Behörden die Gefahren des Missbrauchs von KI-Stimmklonen und die Notwendigkeit größerer Vorsicht im Umgang mit Ton- und Bildmaterial im Zeitalter fortschrittlicher KI-Technologien.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!