Forscher haben einen generativen KI-Wurm namens Morris II entwickelt, der Daten stehlen und Spam versenden kann. Der Morris II Wurm verwendet zwei Methoden: einen textbasierten, sich selbst vervielfältigenden Prompt und einen in eine Bilddatei eingebetteten, sich selbst vervielfältigenden Prompt. Bei der ersten Methode "vergiftet" der Wurm die Datenbank eines E-Mail-Assistenten mittels Retrieval-Augmented Generation (RAG), so dass er Daten stehlen und neue Hosts infizieren kann, wenn er auf E-Mails antwortet. Bei der zweiten Methode veranlasst eine in ein Bild eingebettete böswillige Aufforderung den E-Mail-Assistenten, die Nachricht weiterzuleiten und so Spam, missbräuchliches Material oder Propaganda zu verbreiten. Die Forscher gehen davon aus, dass generative KI-Würmer in den nächsten zwei bis drei Jahren in freier Wildbahn auftauchen könnten.
Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Quellen
News, Tests und Berichte über VR, AR und MIXED Reality.
Im MR-Spiel "Shattered" schwappt der Horror in eure Realität
Pico 4 Ultra Bundle jetzt günstiger: VR-Brille mit 3 VR-Spielen gratis & VRChat-Plus-Mitgliedschaft
Acer SpatialLabs Eyes Camera im Test: Frischer Wind für 3D-Kameras
MIXED.de
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!