Forscher haben einen generativen KI-Wurm namens Morris II entwickelt, der Daten stehlen und Spam versenden kann. Der Morris II Wurm verwendet zwei Methoden: einen textbasierten, sich selbst vervielfältigenden Prompt und einen in eine Bilddatei eingebetteten, sich selbst vervielfältigenden Prompt. Bei der ersten Methode "vergiftet" der Wurm die Datenbank eines E-Mail-Assistenten mittels Retrieval-Augmented Generation (RAG), so dass er Daten stehlen und neue Hosts infizieren kann, wenn er auf E-Mails antwortet. Bei der zweiten Methode veranlasst eine in ein Bild eingebettete böswillige Aufforderung den E-Mail-Assistenten, die Nachricht weiterzuleiten und so Spam, missbräuchliches Material oder Propaganda zu verbreiten. Die Forscher gehen davon aus, dass generative KI-Würmer in den nächsten zwei bis drei Jahren in freier Wildbahn auftauchen könnten.
Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Quellen
News, Tests und Berichte über VR, AR und MIXED Reality.
HTC VIVE Pro 2 jetzt dauerhaft günstiger - VR-Headset und Full Kit reduziert
Meta Quest 3: Wichtige neue MR-Schnittstelle kurz vor Start
Hogwarts Legacy: Mod bringt VR-Modus mit Egosperspektive
MIXED.de
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!