Viele Dating-Apps kämpfen mit betrügerischen Accounts, sogenannten Scammern. Das bekam auch das Start-up Filteroff zu spüren. Die Antwort des Unternehmens: ein GPT-3-Chatbot trollt zurück.
Im Februar 2019 zeigte OpenAI GPT-2, das erste große Sprachmodell, das Texte so gut generieren konnte, dass das Unternehmen die sofortige Veröffentlichung von GPT-2 für zu gefährlich hielt. Das Internet könne womöglich ansonsten mit automatisch geschriebenen, glaubhaften Fake-Texten überschwemmt werden.
Stattdessen veröffentlichte OpenAI eine kleine Variante, die weniger gute Texte verfasste. Im Laufe des Jahres folgten nach und nach die größeren Modelle. Die erwartete Fake-Text-Schwemme blieb aus, ebenso wie das massenhafte Auftreten von Social-Bots.
2021 folgte dann das deutlich größere Sprachmodell GPT-3. Auch hier schränkte OpenAI den Zugang anfangs ein und veröffentlichte die Künstlichen Intelligenz dann als Bezahlservice, der aus Sorge vor betrügerischen Absichten und Missbrauch genau überwacht wird.
Die Ironie in dieser Geschichte ist, dass GPT-3 nun als Instrument gegen Betrüger:innen eingesetzt wird.
Filteroff versetzt Scammer in einen Dark-Dating-Pool
Das 2019 gegründete Start-up Filteroff betreibt eine gleichnamige Dating-App, die mit zunehmenden Nutzerzahlen in den letzten zwei Jahren immer stärker mit Scammern zu kämpfen hat.
Ein Beispiel von Filteroff: "Du lernst eine nette, junge Frau namens Carolina kennen. Nachdem du eine Woche lang mit ihr gesprochen hast, verabredest du dich mit ihr. Sie kommt vorbei. Aber in letzter Minute schickt sie eine Nachricht:
'Mein Auto ist auf dem Weg zu Ihnen liegen geblieben. Kannst du mir 40 Dollar schicken, damit ich es so schnell wie möglich reparieren kann? Google Play-Geschenkkarten wären gut.'"
Filteroff beschäftigt drei Personen, hat also nicht die Ressourcen, solche Fälle manuell zu überwachen und zu klären. Stattdessen entwickelte Filteroff eine Scammer-Erkennung, die einmal identifizierte Scammer aus dem normalen Dating-Pool in einen Dark-Dating-Pool verlagert.
Dort warten neben anderen Scammern ausschließlich Bot-Profile, die mit GAN-generierten Fake-Fotos und GPT-3-Chatbot die menschlichen Scammer trollen.
OpenAIs GPT-3 verwickelt Scammer in verwirrende Gespräche
Die Scammer bekommen ihre Zuordnung zum Dark-Dating-Pool nicht mit und führen daher mindestens ein frustrierendes KI-Gespräch. Um die Kosten für die GPT-3-Fähigkeiten gering zu halten, hat Filteroff die Anzahl generierbarer Wörter reduziert und einige Inhalte mit Regex-Befehlen automatisch gefiltert. Dabei seien einige Fehler passiert, schreibt das Start-up: GPT-3 hört manchmal mitten im Satz auf oder benutzt doppelte Sätze.
Einige der veröffentlichten Gespräche sind dennoch großartig, etwa wenn sich ein Scammer über Bots auf der Plattform beschwert, ein Chatbot sein Geschlecht wechselt, drei Berufe gleichzeitig hat oder ein Scammer vergeblich auf vier Google Playstore-Karten wartet. Das Start-up hat einige der Gespräche vorgelesen und auf YouTube veröffentlicht.
Eine Übersicht über die besten Dialoge gibt es auf der Scammer-Bot-Series von Filteroff. Alle Chats seien verschlüsselt, so Filteroff, lediglich solche zwischen Scammern und Bots seien dem Unternehmen übermittelt worden.
