Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16
Update
  • ChatGPT ist in Italien wieder verfügbar, die Prüfung von OpenAI geht weiter

Update vom 29. April 2023:

Italien hat ChatGPT wieder zugelassen. OpenAI hatte vor kurzem eine Reihe von Verbesserungen zum Schutz der Privatsphäre eingeführt, die es den Nutzenden unter anderem ermöglichen, ihre eigenen Daten vom KI-Training auszuschließen und über ein Formular der Verwendung ihrer Daten zu widersprechen.

Die Prüfung von OpenAI werde jedoch im Rahmen der europäischen Ad-hoc-Taskforce des Europäischen Datenschutzausschusses fortgesetzt, so die Behörde.

"Die italienische ORKB erkennt die von OpenAI unternommenen Schritte an, um den technologischen Fortschritt mit der Achtung der Rechte des Einzelnen in Einklang zu bringen, und hofft, dass das Unternehmen seine Bemühungen um die Einhaltung der europäischen Datenschutzvorschriften fortsetzen wird."

Garante

Update vom 1. April 2023:

Anzeige
Anzeige

OpenAI-CEO Sam Altman reagiert auf Twitter auf die Forderung der italienischen Datenschutzbehörde: Seine Firma nehme "natürlich Rücksicht" auf die italienische Regierung und biete ChatGPT ab sofort nicht mehr in Italien an. OpenAI gehe aber davon aus, alle Datenschutzgesetze einzuhalten.

Ursprünglicher Artikel vom 31. März 2023:

Italien sperrt ChatGPT wegen Datenschutz-Bedenken aus

ChatGPT verarbeitet große Mengen personenbezogener Daten, ohne dass OpenAI transparent macht, wie diese genau verwendet werden. Die italienische Datenschutzbehörde schiebt dem nun einen Riegel vor.

Privatpersonen fragen nach einer persönlichen Geburtstagskarte für Mama, Firmen entwickeln Marketingkonzepte für neue Produkte, ein Hundebesitzer gibt die Blutwerte seines Vierbeiners ein: Im geschützten Chatraum von ChatGPT hat OpenAI mittlerweile Zugriff auf massenhaft skurrile, persönliche und geheime Daten erhalten.

Im Gegensatz zu Social-Media-Diensten dürften bei OpenAI noch mehr private Daten noch ungeschminkter auftauchen, da man sich im ChatGPT-Raum unbeobachtet fühlt. Hinzu kommt, dass auch die Trainingsdaten von GPT-4, dem stärksten ChatGPT-Modell, nicht bekannt sind. Diese könnten ebenfalls personenbezogene Daten enthalten.

Empfehlung

Italien entzieht OpenAI und ChatGPT Verarbeitungsrechte für italienische Bürger und Bürgerinnen

Die italienische Datenschutzbehörde kritisiert dieses Vorgehen und untersagt OpenAI die Verarbeitung von Daten italienischer Nutzerinnen und Nutzer. Es fehle die Rechtsgrundlage für "die massenhafte Erhebung und Speicherung personenbezogener Daten zum Zwecke des 'Trainings' der dem Betrieb der Plattform zugrunde liegenden Algorithmen", heißt es in einer Mitteilung.

OpenAI informiere die Nutzerinnen und Nutzer nicht ausreichend transparent über die Datenverarbeitung und schütze zudem Kinder unter 13 Jahren, denen die Nutzung der Plattform laut Nutzungsbedingungen untersagt ist, nicht ausreichend. Die Behörde hat eine Untersuchung eingeleitet.

In den eigenen Datenschutzbestimmungen sichert sich OpenAI alle Rechte an den Inhalten der Nutzerinnen und Nutzer. "Wenn Sie unsere Dienste nutzen, können wir personenbezogene Daten erfassen, die in den Eingaben, Datei-Uploads oder Rückmeldungen enthalten sind, die Sie unseren Diensten zur Verfügung stellen ("Inhalte")." Diese Daten würden unter anderem zu Forschungszwecken und zur Entwicklung neuer Programme und Dienste verwendet.

Es ist bekannt, dass OpenAI eine Trainingsmethode verwendet, bei der menschliches Feedback zu generierten Ergebnissen in einen Datensatz für das weitere KI-Training einfließt. Dazu muss OpenAI menschlichen Input, maschinellen Output und die entsprechende menschliche Bewertung des Outputs sammeln. Bei ChatGPT gelingt das OpenAI über ein integriertes Bewertungssystem für generierte Antworten.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

OpenAIs Datenpanne spielt der Datenschutzbehörde in die Karte

Noch funktioniert ChatGPT in Italien, aber OpenAI muss der Aufforderung der italienischen Datenschutzbehörde nachkommen und den Zugang von Italien aus sperren, so Guido Scorza gegenüber Wired Italien. OpenAI muss innerhalb der nächsten 20 Tage reagieren, sonst droht eine Strafe von 20 Millionen Euro oder bis zu vier Prozent des Jahresumsatzes.

OpenAI lieferte der italienischen Behörde erst kürzlich eine Steilvorlage in Sachen Datenschutz-Bedenken: Am 20. März kam es zu einem Datenleck, bei dem Chat- und Zahlungsinformationen von ChatGPT-Nutzern kurzzeitig für andere Nutzende sichtbar waren. Die Datenschutzbehörde erwähnt diesen Vorfall in ihrer Mitteilung als Kritikpunkt. OpenAI hat den Vorfall im eigenen Blog transparent aufgeklärt.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Die italienische Datenschutzbehörde untersagt OpenAI die Verarbeitung personenbezogener Daten von italienischen Nutzerinnen und Nutzern.
  • Die Behörde kritisiert die massive und intransparente Verarbeitung personenbezogener Daten sowie den ungeschützten Zugang für Kinder unter 13 Jahren. Sie leitet eine Untersuchung ein.
  • OpenAI hat 20 Tage Zeit zu reagieren, sonst droht unter anderem eine Strafe von bis zu 20 Millionen Euro oder vier Prozent des Jahresumsatzes.
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!