Mitarbeiter warnen: Metas KI-Moderation kommt zu schnell

Meta hat 2025 bereits rund die Hälfte aller menschlichen Moderationsanfragen durch große Sprachmodelle ersetzt und will diese Quote für manche Inhaltsarten bis Jahresende auf über 90 Prozent drücken. Laut der Financial Times soll der Umstieg dem Konzern jährlich Milliarden einsparen. Meta selbst bestreitet das Kostenargument und verweist auf Qualität: Seit März zeigten Tests, dass die Sprachmodelle "im Schnitt 13 Prozent weniger Fehler machen als Menschen bei der Durchsetzung gegen verstoßende Inhalte, während sie 10 Prozent mehr tatsächliche Verstöße finden". Anders als klassische ML-Klassifikatoren, die mit Satire oder sich wandelnder Sprache kämpfen, sollen die Sprachmodelle Nuancen besser erfassen und mehr Sprachen abdecken.

Mitarbeiter widersprechen diesem Bild: Ein Insider berichtet, die Modelle entfernten oder "shadow-bannten" weiterhin harmlose Inhalte, und es fehle ausreichende Aufsicht für eine so schnelle Einführung. Die Umstellung führt bereits zu Entlassungen, besonders bei externen Dienstleistern.

Laut der Financial Times gibt es auch einen Modellwechsel im Hintergrund: Meta nutzte für Moderation und Support bislang Googles Gemini, wies Mitarbeiter laut Bericht aber kürzlich an, auf das eigene neue Foundation-Modell Muse Spark umzustellen. Trainiert werden die Modelle mit "früheren Entscheidungen menschlicher Prüfer".