Themen Hub KI-Forschung

Forscher haben einen generativen KI-Wurm namens Morris II entwickelt, der Daten stehlen und Spam versenden kann. Der Morris II Wurm verwendet zwei Methoden: einen textbasierten, sich selbst vervielfältigenden Prompt und einen in eine Bilddatei eingebetteten, sich selbst vervielfältigenden Prompt. Bei der ersten Methode "vergiftet" der Wurm die Datenbank eines E-Mail-Assistenten mittels Retrieval-Augmented Generation (RAG), so dass er Daten stehlen und neue Hosts infizieren kann, wenn er auf E-Mails antwortet. Bei der zweiten Methode veranlasst eine in ein Bild eingebettete böswillige Aufforderung den E-Mail-Assistenten, die Nachricht weiterzuleiten und so Spam, missbräuchliches Material oder Propaganda zu verbreiten. Die Forscher gehen davon aus, dass generative KI-Würmer in den nächsten zwei bis drei Jahren in freier Wildbahn auftauchen könnten.