Ein KI-Entwickler lebt mit einem Open Source KI-Sprachmodell Fantasien im "My Little Pony"-Universum aus. Das zeigt mal wieder: Wie Menschen KI-Systeme einsetzen, ist schwer vorherzusehen.
Das an Kinder gerichtete "My Little Pony"-Franchise hat eine Kultanhängerschaft unter Teenagern und Erwachsenen gefunden, die ihre Fantasien in teils romantischen oder sexuellen Fan-Fictions ausleben.
Ein Entwickler automatisiert dieses Geschichtenerzählen mit einer Text-KI: Mit dem sechs Milliarden Parameter großen Open-Source-Sprachmodell GPT-J-6B von Eleuther AI generiert pone.dev Geschichten und Dialoge mit fiktionalen Charakteren aus dem "My Little Pony"-Universum.
Für seine KI-Texte nutzt Pone.dev eine mit zahlreichen Texten der Fan-Webseite fimfiction.net nachtrainierte Variante von GPT-J-6B. Aufgrund der im Vergleich zu anderen Systemen wie GPT-3 geringen Größe von GPT-J-6B ist das Nachtraining mit einem handelsüblichen Rechner möglich.
We are done finetuning gpt-6b-j on fimfiction and will be deploying it on https://t.co/xytH1SoW72 in the next couple of days, in the meantime we are testing it in the Discord bot and wow...
The power of large text models.
Everything after? is AI generated.#MLPFiM #gpt #AI pic.twitter.com/tR0v3rER1b— Astralite Heart (@AstraliteHeart) August 19, 2021
GPT-Texte, KI-Stimmen und Deepfake-Ponys
Ähnlich wie AI Dungeon setzt pone.dev auf Künstliche Intelligenz, um die KI-generierten Texte mit gesprochener Sprache zu versehen: CookieTTS vertont Dialoge mit der KI-Stimme eines Pony-Charakters. Ein weiteres System synchronisiert die Stimme mit den Lippen eines KI-generierten Pony-Porträts der Webseite thisponydoesnotexist.com.
Ein zwei Monate altes YouTube-Video zeigt, wie der virtuelle Chat abläuft. Zu diesem Zeitpunkt verwendete pone.dev noch nicht die nachtrainierte Variante von GPT-J-6B, die Ergebnisse sind heute besser.
Projekte wie pone.dev oder Novel.AI zeigen, dass komplexe KI-Systeme für die Text-Generierung längst nicht mehr nur in den Händen großer Unternehmen wie OpenAI liegen. Stattdessen sind die Text-Systeme, wie bereits Deepfakes, nun Teil der Internetkultur und werden von Nutzer:innen für ihre eigenen Zwecke eingesetzt.
Missbrauchsfälle müssen ernst genommen werden
Diese Entwicklung kann kritisch betrachtet werden. Während Pony-Waifus zu den harmlosen Anwendungsfällen zählen, zeigte sich im Mai bei AI Dungeon die hässliche Seite kreativer Text-Systeme: Ein Monitoring-System von OpenAI erkannte KI-generierte Texte, in denen sexuelle Handlungen mit Minderjährigen beschrieben werden.
Versuche seitens der Betreiber, die Text-Generierung der speziell für AI Dungeon trainierten GPT-3-Variante einzuschränken, sowie verdächtige Fälle automatisiert aufzuspüren und manuell zu überprüfen, trafen auf Widerstand seitens der Community: Die berichtete von durch die Maßnahmen ausgelösten kreativen Leistungseinbußen des KI-Systems und fühlten sich ausspioniert, da das Entwicklerstudio Latitude auch private, unveröffentlichte Geschichten mitlas.
Der Vorfall war Motor für die Entwicklung der AI-Dungeon-Alternative Novel.AI, die ebenfalls auf Open-Source-Sprachmodelle von Eleuther AI setzt und sich so der Kontrolle von OpenAI und Latitude entzieht. Ähnlich wie bei Deepfakes ist die breite Verfügbarkeit der Technologie ein Garant für den freien und teils fragwürdigen Gebrauch von KI.
Entsprechende Vorfälle müssen ernst genommen werden, doch der überwiegende Anteil der Nutzer:innen setzt Systeme wie AI Dungeon, Novel.AI oder pone.dev für legale Zwecke und die Unterhaltung ein.
Die Verfügbarkeit von Open-Source-Sprachmodellen ist außerdem abseits kreativer Projekte eine wichtige Voraussetzung für wirtschaftliche Applikationen, in denen etwa die Datenübertragung an Unternehmen wie OpenAI nicht möglich ist oder in sich geschlossene Lösungen notwendig sind.
Gesellschaft und Gesetzgeber müssen daher einen Umgang mit der Technologie finden, der private Nutzer:innen nicht unter Generalverdacht stellt, den wirtschaftlichen Einsatz nicht grundsätzlich behindert und Missbräuche nach bestehenden oder angepassten Gesetzen ahndet. Das Internet ist kein rechtsfreier Raum und auch KI-Anwendungen rücken in das Visier der Gesetzgeber.
