Der Social-Media-Konzern Meta sieht eine Zukunft vor, in der KI-generierte Profile neben menschlichen Nutzern auf Facebook und Instagram aktiv sind. Erste Werkzeuge dafür sind bereits im Einsatz.
Meta erwartet in den kommenden Jahren eine weitreichende Integration von KI-generierten Charakteren in seine sozialen Netzwerke.
Wie Connor Hayes, Vizepräsident für generative KI bei Meta, gegenüber der Financial Times erklärt, sollen diese KI-Accounts wie menschliche Profile funktionieren - inklusive eigener Biografien, Profilbilder und der Fähigkeit, Inhalte zu erstellen und zu teilen.
"Wir gehen davon aus, dass diese KIs im Laufe der Zeit tatsächlich auf unseren Plattformen existieren werden, so wie es auch bei Konten der Fall ist", sagt Hayes.
Seit Juli 2024 sei in den USA bereits ein KI-Charakter-Tool verfügbar, mit dem nach Metas Angaben Hunderttausende KI-Charaktere erstellt wurden. Die meisten dieser Profile würden von ihren Erstellern allerdings bisher privat gehalten.
Der Konzern sieht in der Integration von KI eine Chance, seine Apps "unterhaltsamer und attraktiver" zu machen. Dazu müsse die KI-Interaktion sozialer werden, was laut Hayes eine Priorität für die nächsten zwei Jahre sei. Gegenwärtig nutzen Content-Creator die KI-Tools von Meta hauptsächlich, um ihre realen Inhalte zu verbessern, zum Beispiel bei der Bildbearbeitung.
Meta startete im Herbst 2023 KI-Doppelgänger bekannter Personen, die allerdings bislang wohl kein großer Erfolg sind.
Meta forciert KI-Integration in soziale Feeds
Becky Owen, ehemalige Leiterin von Metas Creator-Innovationsteam, warnt laut Financial Times vor möglichen Gefahren. KI-Accounts könnten zur Verbreitung von Fehlinformationen missbraucht werden.
Zudem fehle es KI-Charakteren im Vergleich zu menschlichen Creators an echten Erfahrungen, Emotionen und Identifikationsfähigkeit. Es bestehe das Risiko einer Überflutung der Plattformen mit qualitativ minderwertigen Inhalten.
Meta schreibt zwar vor, dass KI-generierte Inhalte auf seinen Plattformen klar als solche gekennzeichnet werden müssen. Technisch sind dieser Forderung jedoch enge Grenzen gesetzt. Bei audiovisuellen Inhalten kann die CC-Kennzeichnung noch greifen, wenn die generierenden Plattformen diese unterstützen. Bei Text stößt die Erkennungstechnologie derzeit an ihre Grenzen und ist auf die Freiwilligkeit der Nutzer angewiesen.
Spannungsfeld zwischen KI-Inhalt und Werbegeschäft
Meta experimentiert bereits mit der Integration von KI-generierten und personalisierten Inhalten direkt in die Feeds von Facebook und Instagram. Diese Inhalte werden automatisch auf Basis der Nutzerinteressen und aktueller Trends erstellt, und der Nutzer kann die Inhalte durch Interaktion mit ihnen verändern.
Für das Werbegeschäft des Konzerns könnte die KI-Integration jedoch problematisch werden. Unternehmen dürften wenig Interesse an noch mehr Bot-Interaktionen haben, und Werbung ist besonders im Umfeld hochwertiger Inhalte wertvoll.
Andererseits könnte Meta durch KI-Inhalte seine Reichweiten und Interaktionen so steigern, dass auch die Werbeerlöse zunehmen. Und es besteht die Möglichkeit, dass mit KI stark zugespitzt und personalisierte Inhalte noch länger auf den Plattformen halten.
Die Plattform Character.ai zeigt bereits heute mögliche Risiken einer engeren Einbindung von KI-Charakteren den Alltag auf. Die KI-Chatbots der Plattform bieten zwar Gesellschaft und können durch unterstützende Nachrichten positive Emotionen auslösen. Genau darin liegt aber auch eine große Gefahr.
Ein besonders tragischer Fall verdeutlicht die Risiken: Ein 14-jähriger Nutzer nahm sich das Leben, nachdem er sich intensiv mit einem KI-Chatbot ausgetauscht hatte. Experten warnen davor, dass Menschen die künstlichen Charaktere zunehmend als Ersatz für echte Therapeuten, Freunde oder sogar Partner nutzen.
Je menschenähnlicher die KI-Systeme werden, etwa durch fortschrittliche Seh- und Sprachfähigkeiten, desto größer wird die Gefahr einer problematischen emotionalen Bindung.
