Cyberbullying: Instagram stellt KI-gestütztes Anti-Mobbing-Feature vor
Instagram will stärker gegen Online-Mobbing auf der eigenen Plattform unternehmen und stellt eine Funktion vor, die Cyber-Bullys zum Nachdenken anregen soll.
Instagram habe schon seit Jahren Künstliche Intelligenz genutzt, um Fälle von Cyber-Mobbing sowie verletzende Kommentare, Videos und Fotos aufzuspüren, schreibt der Leiter des sozialen Netzwerks Adam Mosseri in einem Blogeintrag. Mit dem Anwachsen der Instagram-Gemeinschaft wollte das Unternehmen stärker in Technologie investieren.
Die neue Funktion identifiziert mittels Künstlicher Intelligenz, ob ein Instagram-Nutzer einen potenziell schädlichen Kommentar verfasst und zwar noch bevor dieser veröffentlicht wird.
In einer Benachrichtigung wird der mögliche Cyber-Bully gefragt, ob er den Kommentar wirklich publik machen will (siehe Bild unten). Die automatisierte Intervention soll den Instagram-Nutzer zum Grübeln bringen. Testversuche seitens Instagram sollen ergeben haben, dass einige Instagram-Nutzer ihre Kommentare daraufhin entschärft oder nicht veröffentlicht haben.
Erzwingen will Instagram nichts: Der Cyber-Bully kann die böswillige Nachricht trotz Warnung abschicken.
Die soziale Plattform führt außerdem eine zweite Maßnahme gegen Cyber-Mobbing ein: Betroffene Instagram-Nutzer können neu Personen markieren, die verletzende Kommentare schreiben.
Die Nachrichten werden anschließend nur noch dem Cyber-Bully angezeigt. Markierte Übeltäter sehen zudem nicht, ob ihre Opfer online sind und ihre Nachrichten gelesen haben.
Instagram verspricht, dass für die Zukunft weitere Anti-Mobbing-Funktionen geplant sind. Die beiden neuen Features sollen zeitnah weltweit ausgerollt werden.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.