OpenAI stellt KI-Text-Detektor wegen mangelnder Genauigkeit ein
Kurz & Knapp
- OpenAI hat seinen KI-Textdetektor eingestellt, da er aufgrund seiner geringen Genauigkeit unzuverlässig war; dieses Problem war dem Unternehmen jedoch von Anfang an bekannt.
- Das Unternehmen arbeitet derzeit an effektiveren Methoden der KI-Texterkennung und hat sich verpflichtet, Erkennungsmechanismen auch für Audio- und Bildinhalte zu entwickeln.
- Möglicherweise hat OpenAI den Detektor trotz der bekannten Unzuverlässigkeit veröffentlicht, um auf unkonventionelle Weise zu zeigen, dass KI-Detektoren nicht funktionieren und eine Kontrolle von KI-Text bisher nicht möglich ist.
Der erst im Januar vorgestellte KI-Text-Detektor von OpenAI ist schon wieder Geschichte. Als Grund gibt das Unternehmen mangelnde Zuverlässigkeit an - die allerdings von Anfang an bekannt war.
In einem schlichten Update des ursprünglichen Ankündigungsartikels gibt OpenAI die Einstellung des KI-Text-Klassifikators bekannt, "aufgrund seiner geringen Genauigkeit", wie das Unternehmen schreibt.
Derzeit forsche OpenAI an effektiveren Methoden zur KI-Texterkennung. Zudem habe man sich "verpflichtet", Erkennungsmechanismen auch für Audio- und Bildinhalte zu entwickeln.
OpenAI bezieht sich dabei wohl auf eine freiwillige Selbstkontrolle, die von OpenAI und anderen KI-Unternehmen unterzeichnet wurde und die nach Vorgaben des Weißen Hauses erfolgen soll. Hier ist etwa das digitale Wasserzeichen als Tracking-Methode vorgesehen. Allerdings hat sich OpenAI-Gründer Sam Altman in der Vergangenheit immer wieder kritisch zu einer nachhaltigen Umsetzbarkeit eines Wasserzeichens geäußert.
Anti-Marketing gescheitert?
Es stellt sich die Frage, warum OpenAI den Detektor überhaupt veröffentlicht hat. Denn schon bei der Vorstellung war OpenAI bewusst, dass das System eine geringe zuverlässige Erkennungsrate hat und zudem in neun Prozent der Fälle menschliche Texte fälschlicherweise als KI-Texte identifiziert. Die Firma hat diese Schwächen offen kommuniziert und ausdrücklich darauf hingewiesen, dass das Tool beispielsweise nicht für die Erkennung von Schüleraufsätzen geeignet ist.
Warum dennoch die Veröffentlichung - und jetzt der schnelle Rückzug? Möglicherweise wollte das Unternehmen mit der Veröffentlichung des Detektors und der schonungslosen Offenlegung miserabler Erkennungsraten auf unkonventionelle Weise deutlich machen, dass Detektoren nicht funktionieren - der eigene nicht und andere auch nicht. Anti-Marketing gegen KI-Detektoren, sozusagen.
Aktuelle Detektoren verunsichern, weil sie eine Beherrschbarkeit von KI-Text vorgaukeln, die es bisher nicht gibt. Das wiederum erschwert eine sinnvolle Integration der Technologie, z.B. in der Bildung, wenn sich Bildungseinrichtungen lieber mit Detektivspielen als mit Innovationen beschäftigen. Im schlimmsten Fall führt ein ungenauer Detektor zu unbedachten und falschen Anschuldigungen mit schwerwiegenden schulischen oder beruflichen Konsequenzen.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.