Ein Team von Cybersicherheitsexperten von Avast warnt vor "LoveGPT", einem KI-Tool, das bei Betrügereien auf Dating-Plattformen helfen soll.
Attraktive Profile und anregende Gespräche sind beim Online-Dating wichtig. Das Online-Tool LoveGPT soll Partnersuchenden bei beidem helfen.
Seit der Integration der GPT-Sprachmodelle von OpenAI kann LoveGPT laut einer Untersuchung von Avast jedoch auch für automatisiertes "Catfishing" beim Online-Dating missbraucht werden: Betrüger versuchen, ihren Opfern mit gefälschten Profilen und netten Nachrichten sensible Daten wie Kreditkarteninformationen zu entlocken. Diese Angriffe sind nicht neu, können aber mit KI-Unterstützung besser skaliert werden.
LoveGPT rüstet mit OpenAI-Technologie auf
Laut Avast gibt es die Software hinter LoveGPT bereits seit mehr als zehn Jahren. Erst im März 2023 wurden KI-Sprachmodelle von OpenAI integriert. Dadurch seien die Interaktionen von LoveGPT glaubwürdiger geworden, so dass es überzeugendere Fake-Profile erstellen und authentischere Gespräche mit ahnungslosen Nutzern auf verschiedenen Dating-Plattformen führen könne.
Laut Avast sind die Fähigkeiten von LoveGPT weitreichend. Es kann Captchas umgehen, den Zugang durch Proxys und Browser-Anonymisierungstools verschleiern, eine große Anzahl gefälschter Konten erstellen, E-Mails senden und empfangen und mit Nutzern interagieren.
LoveGPT verwendet GPT-3 und GPT-3.5, um Profilbeschreibungen zu erstellen und mit Nutzern auf Dating-Plattformen über Nachrichten zu interagieren. Durch entsprechende Prompts kann sich das Tool zudem an die typischen Gepflogenheiten verschiedener Dating-Plattformen anpassen, sich beispielsweise auf Bumble als Dichter präsentieren oder auf Zoosk Reisebegeisterung vortäuschen.
Der Einsatz von GPT-Modellen lässt die Interaktionen menschlicher erscheinen, was die Wahrscheinlichkeit erhöht, ahnungslose Nutzer zu täuschen. Insbesondere die große Auswahl an Verschleierungstools, die den Dating-Plattformen vorgaukeln, dass ein normaler Nutzer am Werk ist, macht das Tool verdächtig. LoveGPT kann auf folgende Plattformen angesetzt werden:
- Ashley Madison
- Badoo
- Bumble
- Craigslist
- DuyenSo
- Facebook Dating
- likeyou.vn
- MeetMe
- OkCupid
- Plenty of Fish (POF)
- Tagged
- Tinder
- Zoosk
Avast rät zur Vorsicht beim Online-Dating: Neue Bots, die von großen Sprachmodellen angetrieben werden, könnten unser Bedürfnis nach Kontakt ausnutzen. Daher sollte man bei neuen Online-Kontakten vorsichtig sein und ihnen keine persönlichen Informationen anvertrauen, auch wenn sie authentisch erscheinen.
Ich habe bei OpenAI angefragt, warum ein Dienst wie LoveGPT auf die Schnittstellen der Sprachmodelle zugreifen darf und ob dies nicht gegen die Content-Richtlinien von OpenAI verstößt. Wenn ich eine Antwort bekomme, werde ich den Artikel aktualisieren.
