Inhalt
summary Zusammenfassung

Der erst im Januar vorgestellte KI-Text-Detektor von OpenAI ist schon wieder Geschichte. Als Grund gibt das Unternehmen mangelnde Zuverlässigkeit an - die allerdings von Anfang an bekannt war.

Anzeige

In einem schlichten Update des ursprünglichen Ankündigungsartikels gibt OpenAI die Einstellung des KI-Text-Klassifikators bekannt, "aufgrund seiner geringen Genauigkeit", wie das Unternehmen schreibt.

Derzeit forsche OpenAI an effektiveren Methoden zur KI-Texterkennung. Zudem habe man sich "verpflichtet", Erkennungsmechanismen auch für Audio- und Bildinhalte zu entwickeln.

OpenAI bezieht sich dabei wohl auf eine freiwillige Selbstkontrolle, die von OpenAI und anderen KI-Unternehmen unterzeichnet wurde und die nach Vorgaben des Weißen Hauses erfolgen soll. Hier ist etwa das digitale Wasserzeichen als Tracking-Methode vorgesehen. Allerdings hat sich OpenAI-Gründer Sam Altman in der Vergangenheit immer wieder kritisch zu einer nachhaltigen Umsetzbarkeit eines Wasserzeichens geäußert.

Anzeige
Anzeige

Anti-Marketing gescheitert?

Es stellt sich die Frage, warum OpenAI den Detektor überhaupt veröffentlicht hat. Denn schon bei der Vorstellung war OpenAI bewusst, dass das System eine geringe zuverlässige Erkennungsrate hat und zudem in neun Prozent der Fälle menschliche Texte fälschlicherweise als KI-Texte identifiziert. Die Firma hat diese Schwächen offen kommuniziert und ausdrücklich darauf hingewiesen, dass das Tool beispielsweise nicht für die Erkennung von Schüleraufsätzen geeignet ist.

Warum dennoch die Veröffentlichung - und jetzt der schnelle Rückzug? Möglicherweise wollte das Unternehmen mit der Veröffentlichung des Detektors und der schonungslosen Offenlegung miserabler Erkennungsraten auf unkonventionelle Weise deutlich machen, dass Detektoren nicht funktionieren - der eigene nicht und andere auch nicht. Anti-Marketing gegen KI-Detektoren, sozusagen.

Aktuelle Detektoren verunsichern, weil sie eine Beherrschbarkeit von KI-Text vorgaukeln, die es bisher nicht gibt. Das wiederum erschwert eine sinnvolle Integration der Technologie, z.B. in der Bildung, wenn sich Bildungseinrichtungen lieber mit Detektivspielen als mit Innovationen beschäftigen. Im schlimmsten Fall führt ein ungenauer Detektor zu unbedachten und falschen Anschuldigungen mit schwerwiegenden schulischen oder beruflichen Konsequenzen.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • OpenAI hat seinen KI-Textdetektor eingestellt, da er aufgrund seiner geringen Genauigkeit unzuverlässig war; dieses Problem war dem Unternehmen jedoch von Anfang an bekannt.
  • Das Unternehmen arbeitet derzeit an effektiveren Methoden der KI-Texterkennung und hat sich verpflichtet, Erkennungsmechanismen auch für Audio- und Bildinhalte zu entwickeln.
  • Möglicherweise hat OpenAI den Detektor trotz der bekannten Unzuverlässigkeit veröffentlicht, um auf unkonventionelle Weise zu zeigen, dass KI-Detektoren nicht funktionieren und eine Kontrolle von KI-Text bisher nicht möglich ist.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!