- ChatGPT ist in Italien wieder verfügbar, die Prüfung von OpenAI geht weiter
Update vom 29. April 2023:
Italien hat ChatGPT wieder zugelassen. OpenAI hatte vor kurzem eine Reihe von Verbesserungen zum Schutz der Privatsphäre eingeführt, die es den Nutzenden unter anderem ermöglichen, ihre eigenen Daten vom KI-Training auszuschließen und über ein Formular der Verwendung ihrer Daten zu widersprechen.
Die Prüfung von OpenAI werde jedoch im Rahmen der europäischen Ad-hoc-Taskforce des Europäischen Datenschutzausschusses fortgesetzt, so die Behörde.
"Die italienische ORKB erkennt die von OpenAI unternommenen Schritte an, um den technologischen Fortschritt mit der Achtung der Rechte des Einzelnen in Einklang zu bringen, und hofft, dass das Unternehmen seine Bemühungen um die Einhaltung der europäischen Datenschutzvorschriften fortsetzen wird."
Update vom 1. April 2023:
OpenAI-CEO Sam Altman reagiert auf Twitter auf die Forderung der italienischen Datenschutzbehörde: Seine Firma nehme "natürlich Rücksicht" auf die italienische Regierung und biete ChatGPT ab sofort nicht mehr in Italien an. OpenAI gehe aber davon aus, alle Datenschutzgesetze einzuhalten.
Ursprünglicher Artikel vom 31. März 2023:
Italien sperrt ChatGPT wegen Datenschutz-Bedenken aus
ChatGPT verarbeitet große Mengen personenbezogener Daten, ohne dass OpenAI transparent macht, wie diese genau verwendet werden. Die italienische Datenschutzbehörde schiebt dem nun einen Riegel vor.
Privatpersonen fragen nach einer persönlichen Geburtstagskarte für Mama, Firmen entwickeln Marketingkonzepte für neue Produkte, ein Hundebesitzer gibt die Blutwerte seines Vierbeiners ein: Im geschützten Chatraum von ChatGPT hat OpenAI mittlerweile Zugriff auf massenhaft skurrile, persönliche und geheime Daten erhalten.
Im Gegensatz zu Social-Media-Diensten dürften bei OpenAI noch mehr private Daten noch ungeschminkter auftauchen, da man sich im ChatGPT-Raum unbeobachtet fühlt. Hinzu kommt, dass auch die Trainingsdaten von GPT-4, dem stärksten ChatGPT-Modell, nicht bekannt sind. Diese könnten ebenfalls personenbezogene Daten enthalten.
Italien entzieht OpenAI und ChatGPT Verarbeitungsrechte für italienische Bürger und Bürgerinnen
Die italienische Datenschutzbehörde kritisiert dieses Vorgehen und untersagt OpenAI die Verarbeitung von Daten italienischer Nutzerinnen und Nutzer. Es fehle die Rechtsgrundlage für "die massenhafte Erhebung und Speicherung personenbezogener Daten zum Zwecke des 'Trainings' der dem Betrieb der Plattform zugrunde liegenden Algorithmen", heißt es in einer Mitteilung.
OpenAI informiere die Nutzerinnen und Nutzer nicht ausreichend transparent über die Datenverarbeitung und schütze zudem Kinder unter 13 Jahren, denen die Nutzung der Plattform laut Nutzungsbedingungen untersagt ist, nicht ausreichend. Die Behörde hat eine Untersuchung eingeleitet.
In den eigenen Datenschutzbestimmungen sichert sich OpenAI alle Rechte an den Inhalten der Nutzerinnen und Nutzer. "Wenn Sie unsere Dienste nutzen, können wir personenbezogene Daten erfassen, die in den Eingaben, Datei-Uploads oder Rückmeldungen enthalten sind, die Sie unseren Diensten zur Verfügung stellen ("Inhalte")." Diese Daten würden unter anderem zu Forschungszwecken und zur Entwicklung neuer Programme und Dienste verwendet.
Es ist bekannt, dass OpenAI eine Trainingsmethode verwendet, bei der menschliches Feedback zu generierten Ergebnissen in einen Datensatz für das weitere KI-Training einfließt. Dazu muss OpenAI menschlichen Input, maschinellen Output und die entsprechende menschliche Bewertung des Outputs sammeln. Bei ChatGPT gelingt das OpenAI über ein integriertes Bewertungssystem für generierte Antworten.
OpenAIs Datenpanne spielt der Datenschutzbehörde in die Karte
Noch funktioniert ChatGPT in Italien, aber OpenAI muss der Aufforderung der italienischen Datenschutzbehörde nachkommen und den Zugang von Italien aus sperren, so Guido Scorza gegenüber Wired Italien. OpenAI muss innerhalb der nächsten 20 Tage reagieren, sonst droht eine Strafe von 20 Millionen Euro oder bis zu vier Prozent des Jahresumsatzes.
OpenAI lieferte der italienischen Behörde erst kürzlich eine Steilvorlage in Sachen Datenschutz-Bedenken: Am 20. März kam es zu einem Datenleck, bei dem Chat- und Zahlungsinformationen von ChatGPT-Nutzern kurzzeitig für andere Nutzende sichtbar waren. Die Datenschutzbehörde erwähnt diesen Vorfall in ihrer Mitteilung als Kritikpunkt. OpenAI hat den Vorfall im eigenen Blog transparent aufgeklärt.