Forschende zeigen, dass Deepfake-Profilbilder bei Linkedin keine Ausnahmeerscheinung mehr sind. Mit einem sympathischen Lächeln und gefälschten, eindrucksvollen Lebensläufen sollen sie insbesondere Kundenkontakte ankarren.
Vor einigen Wochen bekam Renée DiResta vom Stanford Internet Observatory eine Anfrage von "Keenan Ramsey". Ramsey wollte wissen, ob DiResta nicht Interesse an einer neuen Software habe. So weit, so Standard.
Doch DiResta fielen Unregelmäßigkeiten in Ramseys Profilbild auf: Die Dame trug nur einen Ohrring, ihr Haar verschmolz teils mit dem Hintergrund, ihre Augen saßen exakt in der Bildmitte. DiResta bemerkte diese Ungenauigkeiten, weil sie zu Desinformation in Social Media und synthetischen Medien wie Deepfakes forscht.
Corporate Sales Spam: Mehr als tausend Deepfake-Profilbilder bei Linkedin
Gemeinsam mit ihrem Kollegen Josh Goldstein folgte DiResta den Spuren des Fake-Profils. In den folgenden zwei Wochen dokumentierten sie laut eigenen Angaben mehr als 1000 Profile, die sehr wahrscheinlich Fake-Profile seien. Mehr als 70 Unternehmen sollen diese Fake-Profile als Angestellte gelistet haben.
Laut der Forschenden dienen die Fake-Profile vornehmlich dem Erstkontakt potenzieller Neukunden. Wenn der Erstkontakt gelingt, wird die kontaktierte Person an einen echten Menschen weitergeleitet, der beim weiteren Gesprächsverlauf auf das Fake-Profil referenziert.
Einzelne Firmen sollen fertige Fake-Profile im Internet als "Avatar-Profile" anbieten. Die indische Firma LIA soll pro Avatar 300 US-Dollar pro Monat verlangen und eine Auswahl hunderter Profile bieten, recherchierte die Journalistin Shannon Bond.
Here’s one: a company called LIA, based in India. For $300 a month, LIA customers can pick one "AI-generated avatar" from hundreds that are "ready-to-use," according to its website, which was recently scrubbed of all information except its logo. pic.twitter.com/WXLFbE2Tcx
— Shannon Bond (@shannonpareil) March 27, 2022
Unternehmen - oder deren verantwortliche Sales-Agenturen - sollen mit mehr Profilen eine höhere Reichweite generieren können. Fake-Profile zu mieten oder anzulegen, ist günstiger, als reale Personen für echte Profile anzustellen.
Die Fake-Profile könnten auch als Schutzschild für echte Sales Personen dienen, die sich bei den vielen kalten Erstkontakten nicht den Linkedin-Ruf verderben wollen. Die KI-gefälschten Fotos tragen zur Glaubwürdigkeit der Profile bei und sind nur vom geübten Auge als Fälschung zu erkennen.
Deepfake-Profile bei Linkedin: Herkunft bleibt ungeklärt
Mehrere vom Nachrichtenportal NPR befragte Unternehmen, die die Fake-Profile als Mitarbeitende führten, hatten laut eigenen Angaben kein Wissen von diesen. Weder Goldstein und DiResta noch NPR konnte den Ursprung der Fake-Profile klären. Die Forschenden meldeten die Fake-Profile, Linkedin löschte sie.
"Es geht nicht um Fehl- oder Desinformation, sondern vielmehr um die Überschneidung eines ziemlich alltäglichen Geschäftsfalles mit KI-Technologie und den daraus resultierenden Fragen zu Ethik und Erwartungen", schreibt DiRestra bei Twitter. "Welche Annahmen treffen wir, wenn wir anderen in sozialen Netzwerken begegnen? Welche Handlungen überschreiten die Grenze zur Manipulation?"
Zwei kürzlich veröffentlichte Studien zeigen, dass Menschen Deepfake-Porträts fast nicht identifizieren können und diesen im Durchschnitt sogar mehr Vertrauen entgegenbringen als Fotos von realen Personen. Die Autor:innen der letztgenannten Studie begründen dieses Phänomen mit der Durchschnittlichkeit der Deepfake-Gesichter.
Dass Deepfake-Profilbilder bei Täuschungsversuchen im Internet zum Einsatz kommen, ist kein neues Phänomen. Entsprechende Berichte gab es in den vergangenen Jahren wiederholt. Besonders kurios ist die Geschichte des Japaners "Zonggu", der sich mittels Deepfake-App in eine junge Frau verwandelte, um bei Twitter mehr Follower für seinen Biker-Account zu generieren.
