Inhalt
summary Zusammenfassung

OpenAI und Microsoft haben fünf Konten staatlicher Bedrohungsakteure gelöscht, die KI-Dienste für bösartige Cyberaktivitäten genutzt haben.

Anzeige

Konkret handelt es sich um fünf Akteure aus China, Iran, Nordkorea und Russland. Die fünf Akteure nutzten die Dienste für Aufgaben wie die Suche nach Unternehmen und Cybersicherheitstools, die Übersetzung von Fachartikeln, das Debuggen von Code und die Erstellung schädlicher Skripte oder Inhalte für Phishing-Kampagnen.

Die Akteure versuchten zudem, öffentlich verfügbare Schwachstellen zu verstehen und Open-Source-Forschung zu Satellitenkommunikationsprotokollen und Radarbildtechnologie zu betreiben. Ein Akteur versuchte, Verteidigungsexperten im asiatisch-pazifischen Raum ausfindig zu machen.

In Zusammenarbeit mit Microsoft Threat Intelligence konnte OpenAI alle fünf Akteure erfolgreich ausschalten. Laut OpenAI stimmen die Aktivitäten der Akteure mit früheren Red-Team-Bewertungen überein, die OpenAI in Zusammenarbeit mit externen Cybersicherheitsexperten durchgeführt hat.

Anzeige
Anzeige

Diese Bewertungen zeigten, dass GPT-4 nur begrenzte, inkrementelle Fähigkeiten für bösartige Cybersicherheitsaufgaben bietet, die laut OpenAI nicht weit über das hinausgehen, was bereits mit öffentlich verfügbaren Tools ohne KI möglich ist.

Berichten von Cybersicherheitsunternehmen zufolge hat insbesondere das ausgeklügelte Phishing zugenommen. OpenAI hat kürzlich ein Experiment veröffentlicht, in dem es untersuchte, ob GPT-4 Profis oder Studierenden bei der Herstellung biologischer Gefahrstoffe effizienter helfen kann als eine Internetrecherche. Das Ergebnis zeigte, dass GPT-4 zwar hilft, der Unterschied aber gering ist.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • OpenAI und Microsoft haben fünf staatliche Bedrohungsakteure aus China, Iran, Nordkorea und Russland identifiziert und gelöscht, die KI-Dienste für bösartige Cyberaktivitäten nutzten.
  • Die Akteure verwendeten KI-Dienste für Aufgaben wie Unternehmenssuche, Übersetzung von Fachartikeln, Code-Debugging und Erstellung schädlicher Skripte oder Inhalte für Phishing-Kampagnen.
  • OpenAI betont, dass GPT-4 nur begrenzte, inkrementelle Fähigkeiten für bösartige Cybersicherheitsaufgaben bietet, die nicht weit über das hinausgehen, was bereits mit öffentlich verfügbaren Werkzeugen ohne KI möglich ist.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!