Forscher haben einen generativen KI-Wurm namens Morris II entwickelt, der Daten stehlen und Spam versenden kann. Der Morris II Wurm verwendet zwei Methoden: einen textbasierten, sich selbst vervielfältigenden Prompt und einen in eine Bilddatei eingebetteten, sich selbst vervielfältigenden Prompt. Bei der ersten Methode "vergiftet" der Wurm die Datenbank eines E-Mail-Assistenten mittels Retrieval-Augmented Generation (RAG), so dass er Daten stehlen und neue Hosts infizieren kann, wenn er auf E-Mails antwortet. Bei der zweiten Methode veranlasst eine in ein Bild eingebettete böswillige Aufforderung den E-Mail-Assistenten, die Nachricht weiterzuleiten und so Spam, missbräuchliches Material oder Propaganda zu verbreiten. Die Forscher gehen davon aus, dass generative KI-Würmer in den nächsten zwei bis drei Jahren in freier Wildbahn auftauchen könnten.
Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Quellen
News, Tests und Berichte über VR, AR und MIXED Reality.
Playstation VR 2: Die 5 besten VR-Spiele aus den aktuellen Neujahrsangeboten
Meta Quest 3S: Erfolgreichste Spielkonsole 2024 auf Amazon US
Meta Quest 3: Was taugt das Mixed-Reality-Minecraft Discovery 2?
MIXED.de
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!