Forscher von OpenAI, Microsoft, dem MIT und anderen Technologieunternehmen und akademischen Einrichtungen haben einen Ansatz entwickelt, mit der eine Person anonym beweisen kann, dass sie menschlich ist. Damit soll einer möglichen Flut von KI-Bots und Identitätsdiebstahl entgegengewirkt werden.
Seit einigen Tagen führt ein "Mr. Strawberry" die KI-Community bei X an der Nase herum, indem er angeblich geheime Informationen über die neueste KI-Technologie von OpenAI mit dem Codenamen "Strawberry" preisgibt.
Das Besondere daran: Die Community vermutet, dass es sich bei "Strawberry Man" um einen Bot handeln könnte, der sogar andere Bots steuert - inklusive Sprachausgabe in Audio-Meetings.
Zwar scheint es wahrscheinlicher, dass ein Mensch hinter dem Account steckt. Aber allein die Tatsache, dass die Bot-Lösung überhaupt in Betracht gezogen wird, zeigt: Menschen wissen nicht mehr, was noch Mensch und was Maschine ist.
Ein Mensch-Nachweis soll gegen Bot-Flut helfen
Um diesem Problem zu begegnen, schlagen Forscher von OpenAI, Microsoft, dem MIT und anderen Technologieunternehmen und akademischen Institutionen in einem neuen Paper eine Lösung vor: Personhood Credentials (PHCs). Das sind digitale Berechtigungsnachweise, die bestätigen, dass ihr Inhaber eine reale Person ist, ohne weitere Informationen über seine Identität preiszugeben.
PHCs sollen es ermöglichen, Menschen von selbst fortschrittlichen KI-Systemen zu unterscheiden, indem sie zwei wichtige Defizite von KI ausnutzen: KI-Systeme können Menschen offline nicht überzeugend imitieren und sie können moderne kryptografische Systeme nicht umgehen.
Laut dem Whitepaper muss ein PHC-System zwei grundlegende Anforderungen erfüllen: Zum einen soll ein Aussteller nur einen Berechtigungsnachweis pro Person ausstellen und Möglichkeiten bieten, die Auswirkungen von Übertragung oder Diebstahl von Berechtigungsnachweisen zu mindern.
Zum anderen sollen PHCs es einem Nutzer ermöglichen, anonym über ein dienstspezifisches Pseudonym mit Diensten zu interagieren, wobei seine digitalen Aktivitäten für den Aussteller nicht zurückverfolgbar und für Dienstanbieter nicht verknüpfbar sind, selbst wenn Dienstanbieter und Aussteller zusammenarbeiten.
Mögliche Aussteller solcher Berechtigungsnachweise könnten etwa Staaten sein, die jedem Inhaber einer Steueridentifikationsnummer einen PHC anbieten, ohne eine Möglichkeit, die Verwendung des Nachweises nachzuvollziehen. Auch andere vertrauenswürdige Institutionen wie Stiftungen könnten PHCs ausstellen.
Datenschutz vs. Betrugsprävention
Ein PHC-System muss laut den Autoren zwei Kernziele in Einklang bringen, die in Spannung zueinander stehen können: den Schutz der Privatsphäre und bürgerlichen Freiheiten der Nutzer sowie die Begrenzung betrügerischer Aktivitäten. Das wird laut der Autoren erreicht, wenn es mehrere Aussteller gibt, von denen jeder die Anzahl der Berechtigungsnachweise pro Person begrenzt.
Jede Person kann dann insgesamt eine begrenzte Anzahl von Berechtigungsnachweisen erhalten - mehr als einen, um Risiken für die Privatsphäre und die bürgerlichen Freiheiten entgegenzuwirken, aber nicht so viele, dass der Berechtigungsnachweis seine Fähigkeit verliert, Betrug in großem Maßstab zu verhindern.
Die Forscher verweisen auf die Dringlichkeit eines solchen Mensch-Nachweises und sehen PHCs als vielversprechendes Werkzeug. Sie empfehlen, die Entwicklung von Personhood Credentials als spezifische Gegenmaßnahme zu priorisieren. Dazu gehören Investitionen in die Entwicklung und Erprobung von PHC-Systemen sowie die Förderung ihrer Akzeptanz.
Der an dem Papier beteiligte OpenAI-Forscher Steven Adler verweist auf eine Vorhersage von Meta-Chef Mark Zuckerberg, wonach es bald "Hunderte Millionen oder Milliarden von KI-Agenten geben wird, die das Internet im Auftrag von Menschen nutzen", und fragt: "Was passiert, wenn er recht hat?"
