Der erst im Januar vorgestellte KI-Text-Detektor von OpenAI ist schon wieder Geschichte. Als Grund gibt das Unternehmen mangelnde Zuverlässigkeit an - die allerdings von Anfang an bekannt war.
In einem schlichten Update des ursprünglichen Ankündigungsartikels gibt OpenAI die Einstellung des KI-Text-Klassifikators bekannt, "aufgrund seiner geringen Genauigkeit", wie das Unternehmen schreibt.
Derzeit forsche OpenAI an effektiveren Methoden zur KI-Texterkennung. Zudem habe man sich "verpflichtet", Erkennungsmechanismen auch für Audio- und Bildinhalte zu entwickeln.
OpenAI bezieht sich dabei wohl auf eine freiwillige Selbstkontrolle, die von OpenAI und anderen KI-Unternehmen unterzeichnet wurde und die nach Vorgaben des Weißen Hauses erfolgen soll. Hier ist etwa das digitale Wasserzeichen als Tracking-Methode vorgesehen. Allerdings hat sich OpenAI-Gründer Sam Altman in der Vergangenheit immer wieder kritisch zu einer nachhaltigen Umsetzbarkeit eines Wasserzeichens geäußert.
Anti-Marketing gescheitert?
Es stellt sich die Frage, warum OpenAI den Detektor überhaupt veröffentlicht hat. Denn schon bei der Vorstellung war OpenAI bewusst, dass das System eine geringe zuverlässige Erkennungsrate hat und zudem in neun Prozent der Fälle menschliche Texte fälschlicherweise als KI-Texte identifiziert. Die Firma hat diese Schwächen offen kommuniziert und ausdrücklich darauf hingewiesen, dass das Tool beispielsweise nicht für die Erkennung von Schüleraufsätzen geeignet ist.
Warum dennoch die Veröffentlichung - und jetzt der schnelle Rückzug? Möglicherweise wollte das Unternehmen mit der Veröffentlichung des Detektors und der schonungslosen Offenlegung miserabler Erkennungsraten auf unkonventionelle Weise deutlich machen, dass Detektoren nicht funktionieren - der eigene nicht und andere auch nicht. Anti-Marketing gegen KI-Detektoren, sozusagen.
Aktuelle Detektoren verunsichern, weil sie eine Beherrschbarkeit von KI-Text vorgaukeln, die es bisher nicht gibt. Das wiederum erschwert eine sinnvolle Integration der Technologie, z.B. in der Bildung, wenn sich Bildungseinrichtungen lieber mit Detektivspielen als mit Innovationen beschäftigen. Im schlimmsten Fall führt ein ungenauer Detektor zu unbedachten und falschen Anschuldigungen mit schwerwiegenden schulischen oder beruflichen Konsequenzen.
