Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
Bewusstsein, Kognition und Künstliche Intelligenz | DEEP MINDS #10

Forschende zeigen, dass Deepfake-Profilbilder bei Linkedin keine Ausnahmeerscheinung mehr sind. Mit einem sympathischen Lächeln und gefälschten, eindrucksvollen Lebensläufen sollen sie insbesondere Kundenkontakte ankarren.

Vor einigen Wochen bekam Renée DiResta vom Stanford Internet Observatory eine Anfrage von „Keenan Ramsey“. Ramsey wollte wissen, ob DiResta nicht Interesse an einer neuen Software habe. So weit, so Standard.

Doch DiResta fielen Unregelmäßigkeiten in Ramseys Profilbild auf: Die Dame trug nur einen Ohrring, ihr Haar verschmolz teils mit dem Hintergrund, ihre Augen saßen exakt in der Bildmitte. DiResta bemerkte diese Ungenauigkeiten, weil sie zu Desinformation in Social Media und synthetischen Medien wie Deepfakes forscht.

Corporate Sales Spam: Mehr als tausend Deepfake-Profilbilder bei Linkedin

Gemeinsam mit ihrem Kollegen Josh Goldstein folgte DiResta den Spuren des Fake-Profils. In den folgenden zwei Wochen dokumentierten sie laut eigenen Angaben mehr als 1000 Profile, die sehr wahrscheinlich Fake-Profile seien. Mehr als 70 Unternehmen sollen diese Fake-Profile als Angestellte gelistet haben.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Laut der Forschenden dienen die Fake-Profile vornehmlich dem Erstkontakt potenzieller Neukunden. Wenn der Erstkontakt gelingt, wird die kontaktierte Person an einen echten Menschen weitergeleitet, der beim weiteren Gesprächsverlauf auf das Fake-Profil referenziert.

Einzelne Firmen sollen fertige Fake-Profile im Internet als „Avatar-Profile“ anbieten. Die indische Firma LIA soll pro Avatar 300 US-Dollar pro Monat verlangen und eine Auswahl hunderter Profile bieten, recherchierte die Journalistin Shannon Bond.

Unternehmen – oder deren verantwortliche Sales-Agenturen – sollen mit mehr Profilen eine höhere Reichweite generieren können. Fake-Profile zu mieten oder anzulegen, ist günstiger, als reale Personen für echte Profile anzustellen.

Die Fake-Profile könnten auch als Schutzschild für echte Sales Personen dienen, die sich bei den vielen kalten Erstkontakten nicht den Linkedin-Ruf verderben wollen. Die KI-gefälschten Fotos tragen zur Glaubwürdigkeit der Profile bei und sind nur vom geübten Auge als Fälschung zu erkennen.

Empfehlung

Deepfake-Profile bei Linkedin: Herkunft bleibt ungeklärt

Mehrere vom Nachrichtenportal NPR befragte Unternehmen, die die Fake-Profile als Mitarbeitende führten, hatten laut eigenen Angaben kein Wissen von diesen. Weder Goldstein und DiResta noch NPR konnte den Ursprung der Fake-Profile klären. Die Forschenden meldeten die Fake-Profile, Linkedin löschte sie.

„Es geht nicht um Fehl- oder Desinformation, sondern vielmehr um die Überschneidung eines ziemlich alltäglichen Geschäftsfalles mit KI-Technologie und den daraus resultierenden Fragen zu Ethik und Erwartungen“, schreibt DiRestra bei Twitter. „Welche Annahmen treffen wir, wenn wir anderen in sozialen Netzwerken begegnen? Welche Handlungen überschreiten die Grenze zur Manipulation?“

Zwei kürzlich veröffentlichte Studien zeigen, dass Menschen Deepfake-Porträts fast nicht identifizieren können und diesen im Durchschnitt sogar mehr Vertrauen entgegenbringen als Fotos von realen Personen. Die Autor:innen der letztgenannten Studie begründen dieses Phänomen mit der Durchschnittlichkeit der Deepfake-Gesichter.

Dass Deepfake-Profilbilder bei Täuschungsversuchen im Internet zum Einsatz kommen, ist kein neues Phänomen. Entsprechende Berichte gab es in den vergangenen Jahren wiederholt. Besonders kurios ist die Geschichte des Japaners „Zonggu“, der sich mittels Deepfake-App in eine junge Frau verwandelte, um bei Twitter mehr Follower für seinen Biker-Account zu generieren.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über Deepfakes:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!