Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

FraudGPT ist ein unregulierter Chatbot. Er verbreitet sich im Darknet und wird von Kriminellen genutzt, um Phishing-E-Mails zu schreiben und Malware zu entwickeln.

"Die Bedrohungslandschaft im Cyberspace hat sich durch die Entwicklung generativer KI-Modelle stark verändert", sagt Netenrich-Forscher Rakesh Krishnan. Kürzlich entdeckte das Forschungsteam von Netenrich in Darknet-Foren und Telegram-Kanälen Hinweise auf eine Software namens FraudGPT.

Dabei handelt es sich um einen unmoderierten KI-Chatbot für kriminelle Zwecke, der mindestens seit dem 22. Juli 2023 auf Marktplätzen im Umlauf sein soll.

Laut Produktbeschreibung hilft FraudGPT Cyberkriminellen dabei, Phishing-E-Mails zu schreiben, Cracking-Tools zu entwickeln und Kreditkarten zu fälschen. Es hilft sogar, die besten Ziele mit den leichtesten Opfern zu finden. Die folgenden Screenshots zeigen Beispiele.

Anzeige
Anzeige
Bild: Netenrich
Bild: Netenrich
Bild: Netenrich

Welche Technik genau hinter FraudGPT steckt, geht aus dem Eintrag auf dem Darknet-Marktplatz nicht hervor. Die Screenshots lassen vermuten, dass FraudGPT über eine eigens erstellte Weboberfläche zugänglich ist.

Ab 200 US-Dollar pro Monat

Das FraudGPT-Tool wird laut Netenrich auf verschiedenen Marktplätzen angeboten. Der Entwickler namens "CanadianKingpin" verlangt 200 US-Dollar pro Monat, bietet aber Rabatte für drei- oder sechsmonatige Abonnements. Zwölf Monate Zugang zu FraudGPT kosten 1.700 US-Dollar.

Der Anbieter scheint in der Szene kein Unbekannter zu sein und wirbt damit, bereits mehr als 3.000 Verkäufe auf Untergrundplattformen abgewickelt zu haben.

KI dient auch der Cyber-Kriminalität

Die Einführung von FraudGPT folgt auf WormGPT, ein Sprachmodell, das angeblich mit Malware-Daten trainiert wurde.

Beide Tools sind Beispiele dafür, wie Cyberkriminelle KI-Technologien für illegale Aktivitäten nutzen können. Da Modelle wie ChatGPT einfach per Sprache instruiert werden, sinkt die Einstiegshürde für Cyberkriminelle. Auch weniger technikaffine oder sprachlich weniger versierte Personen könnten etwa Malware generieren oder Phishing-Mails verfassen.

Empfehlung

Betreiber von Chatbots wie Claude, ChatGPT oder Bard unternehmen große Anstrengungen, um zu verhindern, dass ihre Technologien für böswillige Zwecke missbraucht werden. Sie reagieren immer wieder auf neue Taktiken, um die KI zu überlisten und zum Beispiel dazu zu bringen, Schadcode oder Phishing-Mails zu produzieren.

Dies gilt jedoch nur für kommerzielle Anbieter. Mit dem Aufkommen von immer leistungsfähigeren Open-Source-Modellen lässt sich die kriminelle Nutzung von KI kaum noch eingrenzen.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • FraudGPT ist ein unregulierter, im Darknet verbreiteter KI-Chatbot, der von Cyberkriminellen zur Erstellung von Phishing-E-Mails und zur Entwicklung von Malware eingesetzt wird.
  • Der Entwickler "CanadianKingpin" bietet FraudGPT auf verschiedenen Darknet-Marktplätzen an und verlangt 200 US-Dollar pro Monat, mit Rabatten für längere Abonnements.
  • Dieses Beispiel zeigt, wie KI-Technologien von Cyberkriminellen für illegale Aktivitäten genutzt werden, wobei die einfache Handhabung solcher Modelle die Einstiegshürde für Cyberkriminelle senkt.
Jonathan ist Technikjournalist und beschäftigt sich stark mit Consumer Electronics. Er erklärt seinen Mitmenschen, wie KI bereits heute nutzbar ist und wie sie im Alltag unterstützen kann.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!