Datenschutz und KI - Risiken erkennen, Chancen nutzen

KI und Datenschutz: Eine Einführung KI und Datenschutz: Geht das überhaupt? Künstliche Intelligenz (KI) verändert Wertschöpfungsketten in rasantem Tempo. Unternehmen profitieren von Kostenreduktion, höherer Geschwindigkeit und neuen Geschäftsmodellen. Ob automatisch verfasste Produktbeschreibungen, intelligente Chatbots im Kundenservice oder Code-Vervollständigung für Entwicklerteams: Die Einsatzmöglichkeiten scheinen nahezu grenzenlos und versprechen Effizienzgewinne. Doch so groß die Faszination ist, so laut läuten bei internen Datenschützern und den staatlichen Aufsichtsstellen die Alarmglocken. Denn spätestens, sobald ein solches System mit persönlichen Daten gefüttert wird – seien es Kundendaten oder Mitarbeiterinformationen –, tritt die strenge Datenschutz-Grundverordnung (DSGVO) auf den Plan. Und diese verträgt sich bereits im Grundsatz nicht besonders gut mit generativer KI. Denn der Datenschutz sieht eine größtmögliche Information und Transparenz bei der Verarbeitung von Daten vor. Solche Grundsätze lassen sich aber gerade bei LLM-Modellen nur sehr schwer durchsetzen, denn diese sind von Haus aus Blackboxes. Auch Betroffenengrundrechte wie Auskunft und Löschung sind mit KI-Angeboten nur sehr schwer umzusetzen. Neben diesen grundsätzlichen Problemen stellen sich aber auch ganz viele praktische Fragen: Darf ein Unternehmen überhaupt Texte von einer KI schreiben lassen, wenn darin Kundennamen oder andere persönliche Angaben auftauchen? Wer trägt die Verantwortung, wenn ein externer KI-Dienst genutzt wird? Und wie lässt sich verhindern, dass sensible Daten in die falschen Hände geraten? Wichtig: Typischerweise gibt es an drei Stellen Berührungspunkte zwischen dem Datenschutz und der KI: beim Training, bei der Eingabe und bei der Ausgabe. Diese drei Punkte müssen zwingend bei der KI-Strategie berücksichtigt werden. In unserem Deep Dive beschränken wir uns primär auf die Probleme bei der Nutzung von KI. In diesem Deep Dive werfen wir einen ausführlichen Blick auf die datenschutzrechtlichen Fallstricke beim Einsatz generativer KI in Unternehmen – und zeigen Wege auf, wie sich die neuen Technologien möglichst DSGVO-konform nutzen lassen. Oder anders gefragt: Wie also lassen sich Innovation und Privatsphäre unter einen Hut bringen? Personenbezogene Daten: Was KI-Nutzer wissen müssen Zunächst ein grundlegender Blick auf den Kern des Problems: Was genau sind personenbezogene Daten und warum sind sie im Zusammenhang mit KI so wichtig? Die DSGVO definiert diese Angaben als alle Informationen, auf deren Basis eine Person identifizierbar ist. Das klingt abstrakt, umfasst in der Praxis aber alles von Namen, Adressen und Kundennummern über Standortdaten oder IP-Adressen bis zu Aussagen und Textinhalten, die Rückschlüsse auf eine Person zulassen. Sobald also ein generatives KI-System solche Informationen erfasst, verarbeitet oder ausspuckt, bewegt man sich im Geltungsbereich der DSGVO. Praxisbeispiel: Lässt ein Kundendienst-Mitarbeiter sich von einer KI wie ChatGPT beim Formulieren einer Antwort helfen und kopiert dafür die Anfrage des Kunden (inklusive dessen Name oder Vertragsdetails) in das KI-Tool, werden personenbezogene Daten an einen externen Dienst übermittelt und durch diesen verarbeitet. Ähnlich verhält es sich, wenn eine HR-Abteilung Bewerbungsunterlagen durch ein KI-System analysieren lässt – die Lebensläufe enthalten eindeutig persönliche Angaben. Auch die Daten, auf deren Basis sich Mitarbeiter in Unternehmen bei den KI-Diensten einloggen, unterfallen dem Datenschutz. Auf der anderen Seite: Ohne personenbezogene Daten gibt es aus rechtlicher Sicht kein Datenschutzproblem. Wer eine KI völlig isoliert mit reinen Fantasiedaten oder anonymisierten Informationen füttert, braucht die DSGVO nicht zu fürchten. Doch solche Fälle sind im Unternehmensalltag selten, etwa bei der Verwendung reiner Maschinendaten. Meist arbeiten KI-Anwendungen gerade deshalb so nützlich, weil sie echten Input aus der Firmenumgebung bekommen – und der ist nun einmal oft personenbeziehbar. Die Grenze zwischen anonym und personenbeziehbar verschwimmt leicht: Schon ein Kundenfeedback-Text kann personenbezogen sein, wenn etwa der Verfasser indirekt identifizierbar ist, etwa durch Erwähnung spezifischer Umstände oder über den genutzten Usernamen. Oder die genutzten Maschinendaten enthalten Informationen zu dem zuständigen Maschinenführer. Greift die KI im Unternehmen auf personenbezogene Daten zu oder lässt man sich diese generieren, etwa als potenzielle Kundenliste, muss jedes Unternehmen die Vorgaben der DSGVO einhalten. Das Unternehmen übernimmt in diesem Moment in der Regel die Rolle des „Verantwortlichen“ im Sinne der DSGVO. Das bedeutet, dass die Firma dafür verantwortlich ist, dass die Datenverarbeitung durch die KI rechtskonform abläuft. Diese Verantwortung kann man nicht einfach auf den Hersteller der Software abschieben. Auch wenn ein externer Dienst genutzt wird, bleibt das Unternehmen der Herr der Daten und muss Rechenschaft über deren Verwendung ablegen können. Was bedeutet das konkret? Im nächsten Schritt schauen wir uns die wichtigsten datenschutzrechtlichen Pflichten und Problemfelder an – von der Frage nach der richtigen Rechtsgrundlage über Zweckbindung und Transparenz bis zu speziellen Anforderungen bei automatisierten Entscheidungen. Immer mit dabei: praxisnahe Beispiele und Tipps, wie man die Hürden meistern kann. Personenbezogene Daten im KI-Kontext Der Anwendungsbereich der DSGVO ist also immer dann eröffnet, wenn KI-Systeme personenbezogene Daten verarbeiten. • Beispiel Kundenservice: Ein Chatbot, der Kundenanfragen beantwortet, verarbeitet typischerweise Namen, Kontaktdaten oder Gesprächsverläufe einzelner Kunden. Diese Daten beziehen sich eindeutig auf Personen – die DSGVO ist voll anwendbar. • Beispiel interne Analyse: Nutzt eine Personalabteilung KI, um Mitarbeiterdaten wie Leistungskennzahlen oder E-Mail-Verkehr zu analysieren, werden Daten von identifizierbaren Mitarbeitern verarbeitet. Auch hier greift der Datenschutz. Unternehmen sollten daher zunächst genau prüfen, wo überall personenbezogene Daten in ihre KI-Anwendungen einfließen. Falls möglich, kann eine frühzeitige Anonymisierung oder Pseudonymisierung von Daten den Datenschutzaufwand reduzieren. Das ist aber in vielen Fällen leichter gesagt als getan: Pseudonymisierte Daten (z. B. durch Codes statt Klarnamen) gelten weiterhin als personenbezogen, wenn eine Re-Identifizierung möglich ist. Praxis-Tipp: Machen Sie sich bei jedem KI-Projekt bewusst, welche Datenarten verarbeitet werden und ob ein Personenbezug vorliegt. Diese Bestandsaufnahme ist die Basis für alle weiteren Datenschutzmaßnahmen. Vorsicht mit sensiblen Daten Neben den üblichen personenbezogenen Daten wie Name, Adresse oder Geburtsdatum kennt die DSGVO noch eine weitere Art von persönlichen Informationen: Besondere Vorsicht ist geboten, wenn sensitive Daten nach Art. 9 DSGVO ins Spiel kommen. Hierzu zählen etwa Gesundheitsdaten, biometrische Merkmale oder Informationen zur ethnischen Herkunft. Setzt ein Unternehmen KI zur Verarbeitung solcher besonderen Kategorien personenbezogener Daten ein, z. B. ein KI-System zur Gesichtserkennung oder medizinischen Diagnose, greifen zusätzliche Schutzvorschriften. Beispiele: Ein KI System in einer Klinik analysiert Röntgenbilder. Das erfordert zusätzliche Schutzmaßnahmen und eine ausdrückliche Einwilligung. Gesichtserkennung am Werkstor ist biometrische Verarbeitung. Hier drohen besondere Sanktionen bei Verstößen gegen datenschutzrechtliche Vorgaben. Hier sind strenge rechtliche Erlaubnistatbestände und erhöhte Sicherheitsmaßnahmen erforderlich. Insbesondere gibt es keine Möglichkeit einer Nutzung von derartigen Daten im Rahmen des berechtigten Interesses, denn diese Rechtsgrundlage gilt nicht für sensible Daten. Faktisch macht das etwa die Nutzung von künstlicher Intelligenz im medizinischen Bereich erheblich schwieriger. Rechtlich herausfordernd ist auch die Erfassung derartiger Informationen im Rahmen des KI-Trainings. Anonymisierung und Pseudonymisierung von Daten Im Kontext der KI-Anwendung sind Anonymisierung und Pseudonymisierung zentrale Techniken, um personenbezogene Daten effektiv zu schützen. Vor dem Training eines KI-Modells werden etwa persönliche Identifikatoren durch eindeutige Hash-Werte ersetzt. Diese Hashes erlauben keine direkte Rückführung auf die Originaldaten. Die Zuordnung zwischen den ursprünglichen IDs und den Hash-Werten erfolgt dabei ausschließlich über einen separaten, gut gesicherten Key-Store, also einen externen Anbieter. Diese Trennung zwischen Daten und Schlüsselverwaltung minimiert das Risiko eines unbefugten Zugriffs und verhindert, dass unmittelbar aus dem Trainingsdatensatz Rückschlüsse auf konkrete Personen gezogen werden können. Aus juristischer Sicht sind diese Daten pseudonymisiert, da sie nur für bestimmte Anbieter auflösbar sind. Anonymisiert wären sie, wenn gar keine Umwandlung in personenbezogene Daten für die jeweilige Stelle möglich wäre. Auch in spezifischen Branchenanwendungen zeigen sich effiziente Möglichkeiten der Datenminimierung und Schutzmaßnahmen. Beispielsweise entfernt ein Einzelhändler konsequent alle Kundennamen aus Bestelltextfeldern. Zusätzlich werden Keyword-Ersetzungen genutzt, um spezifische, identifizierende Begriffe durch neutrale Platzhalter zu ersetzen. So wird etwa der Name eines Produkts, das Rückschlüsse auf eine individuelle Person ermöglichen könnte, automatisch durch allgemeine Beschreibungen ersetzt. Durch diese Maßnahmen lassen sich relevante Informationen für die KI-Analyse erhalten, während gleichzeitig personenbezogene Rückverfolgungen zuverlässig ausgeschlossen werden können. Freitextfelder und unspezifische Kommentare stellen bei der Anonymisierung und Pseudonymisierung besondere Herausforderungen dar, da ihre Inhalte oft unstrukturiert sind. Um aufwendige manuelle Nachbearbeitungen zu reduzieren, werden automatisierte Maskierungsverfahren angewandt, die kritische Informationen aus diesen Textpassagen entfernen oder ersetzen. Solche automatisierten Lösungen erhöhen die Effizienz im Datenmanagement erheblich, reduzieren manuelle Arbeitsschritte und sichern zugleich die Einhaltung datenschutzrechtlicher Standards. Trotz der weitreichenden Vorteile bietet insbesondere die Pseudonymisierung keine absolute Sicherheit hinsichtlich der Anonymität von Daten. Vielmehr bleibt pseudonymisierten Daten stets ein gewisses Risiko inhärent, denn solange der Schlüssel zur Rückverknüpfung existiert, bleiben diese Daten personenbezogen im Sinne der Datenschutzgrundverordnung. Pseudonymisierung darf deshalb keinesfalls als Freifahrtschein verstanden werden. Unternehmen sind verpflichtet, den Schlüssel zu pseudonymisierten Daten besonders sicher zu verwahren und geeignete technische sowie organisatorische Maßnahmen zu implementieren, um einen Missbrauch wirksam auszuschließen. Nur so bleibt gewährleistet, dass personenbezogene Daten im Einklang mit rechtlichen Vorgaben verarbeitet und verwendet werden. Beispiel: Ein konkretes Beispiel für die Anonymisierung medizinischer Daten im Kontext von KI-Forschung ist die Analyse von Patientendaten in klinischen Studien zur Entwicklung personalisierter Therapiemodelle. Vor der Auswertung durch KI-Systeme werden sämtliche direkte Identifikatoren, wie Namen, Geburtsdaten und Krankenversicherungsnummern, vollständig entfernt oder durch Hash-Werte ersetzt. Zusätzlich werden sensible Gesundheitsinformationen gruppiert, sodass mindestens zehn Patienten pro Merkmal (z.B. Diagnose, Altersgruppe oder Behandlungsform) zusammengefasst sind, um die sogenannte k-Anonymität zu gewährleisten. Automatisierte Verfahren maskieren potenziell identifizierende Hinweise in Arztberichten oder Freitextnotizen, wodurch eine nachträgliche Rückverfolgung ausgeschlossen wird. Diese Vorgehensweise ermöglicht es Forschern, aussagekräftige KI-Analysen durchzuführen und gleichzeitig strenge Datenschutzanforderungen gemäß DSGVO und nationalen Datenschutzvorschriften zu erfüllen. Verantwortlichkeiten und Rollenverteilung Wer ist verantwortlich? Rollenverteilung zwischen Unternehmen und KI-Anbietern Eine häufige Annahme bei nichtjuristischen Praktikern ist: „Wir nutzen doch nur die KI-Software von Anbieter X, also muss der sich um den Datenschutz kümmern.“ Leider greift diese Hoffnung zu kurz. Im Datenschutzrecht kommt es darauf an, wer die Zwecke und Mittel der Verarbeitung von persönlichen Informationen bestimmt. In den meisten Fällen ist das nutzende Unternehmen selbst. Es entscheidet, welche Daten es in das KI-System einspeist und zu welchem Zweck, etwa um Kundenanfragen zu beantworten oder Bewerbungen auszuwerten. Damit ist das Unternehmen Verantwortlicher im Sinne der DSGVO und trägt die juristische Hauptverantwortung. Der KI-Anbieter hingegen wird häufig im Auftrag des eigentlichen Verantwortlichen tätig. Er ist als sogenannter Auftragsverarbeiter tätig: Dieser stellt die Plattform oder das Modell bereit und verarbeitet die Daten im Auftrag des Unternehmens, streng nach dessen Weisungen. Beispiel: Eine Firma setzt einen Cloud-Dienst wie ChatGPT Enterprise oder einen anderen generativen KI-Service ein, um Mitarbeiter bei der Texterstellung zu unterstützen. Die Mitarbeiter geben firmeninterne Texte ein, der Dienst liefert Vorschläge. Hier muss das Unternehmen mit dem KI-Anbieter einen Auftragsverarbeitungsvertrag (AVV) abschließen. In diesem Vertrag wird geregelt, was der Dienstleister mit den Daten machen darf und was nicht. Typischerweise verpflichtet sich der Anbieter, die erhaltenen Daten ausschließlich für den vorgegebenen Zweck, namentlich die Texterstellung, zu nutzen, sie sicher zu verwahren, nicht an Unbefugte weiterzugeben oder nach Auftragsende zu löschen. Solche Verträge sind nach Art. 28 DSGVO Pflicht, sobald externe Dienstleister personenbezogene Daten im Auftrag verarbeiten. Seriöse KI-Anbieter stellen entsprechende Verträge meist proaktiv im Rahmen des Vertragsschlusses zur Verfügung. Unternehmen sollten darauf achten und den Papierkram erledigen, bevor die Daten fließen. Beispiel: OpenAI bietet einen Auftragsverarbeitungsvertrag (Auch: Data Processing Addendum, DPA) für Geschäftskunden an. Dieser Vertrag ist für die Nutzung der OpenAI-API sowie für die Lizenzmodelle Team und Enterprise verfügbar, jedoch nicht für die kostenlosen oder Pro-Versionen von ChatGPT oder DALL-E Labs. Der Abschluss des DPA erfolgt über einen elektronischen Signaturprozess, der auf der OpenAI-Website unter https://openai.com/policies/data-processing-addendum initiiert werden kann. Im Rahmen dieses Prozesses müssen Unternehmen ein Online-Formular ausfüllen, in dem sie ihren vollständigen rechtlichen Firmennamen, ihre Organisations-ID und weitere Informationen angeben. Unternehmen aus der EU sollten dabei OpenAI Ireland Ltd. als Vertragspartner wählen. Mit diesem DPA verpflichtet sich OpenAI, die Daten gemäß den Weisungen seiner Kunden zu verarbeiten und sicherzustellen, dass Daten aus Geschäftskonten nicht zum Training der KI-Modelle verwendet werden. Allerdings gibt es auch Konstellationen, in denen der KI-Anbieter selbst zum Verantwortlichen oder zum Mitverantwortlichen wird. Dies ist dann der Fall, wenn er nicht nur im Kundenauftrag handelt, sondern eigene Zwecke und Interessen verfolgt. Eine sogenannte gemeinsame Verantwortlichkeit (Joint Control) liegt zum Beispiel vor, wenn Unternehmen und KI-Anbieter gemeinsam ein System trainieren und beide Seiten die Ergebnisse nutzen wollen. In diesem Fall müssen sie vertraglich gemäß Art. 26 DSGVO genau festlegen, wer für welche Teilprozesse verantwortlich ist und wie die Pflichten verteilt sind. Ein anderes Szenario: Wenn ein Unternehmen einfach einen frei verfügbaren KI-Dienst ohne Vertrag nutzt, etwa die öffentliche ChatGPT-Webseite, und der Anbieter die eingegebenen Daten für eigene Zwecke wie zur Verbesserung seines Modells weiterverwendet. In diesem Fall ist dieser KI-Anbieter zumindest für diese Weiterverwendung eigenständig verantwortlich. Im Grunde teilen sich dann Unternehmen und Dienst den Datenbestand, jeder für seine Ziele – eine ziemlich heikle Angelegenheit, weil das Unternehmen in so einem Fall eigentlich keine Kontrolle mehr hat, was mit den Daten passiert. Genau deshalb warnen Datenschutzbeauftragte eindringlich davor, ohne klare Vertragsbeziehung personenbezogene Daten an KI-Dienste zu geben, etwa im Rahmen der sogenannten Schatten-KI. Man läuft sonst Gefahr, Daten unrechtmäßig an einen Dritten weiterzugeben. Das Unternehmen muss in puncto Verantwortlichkeit also die Zügel in der Hand behalten. Dazu gehört, klare Verträge mit KI-Dienstleistern abzuschließen, genau hinzuschauen, wer was mit den Daten tut, und im Zweifel eher Anbieter zu wählen, die transparent arbeiten und EU-Standards erfüllen. Sollte es zu einer Panne kommen – etwa ein Datenleck beim KI‑Anbieter –, haftet gegenüber den Betroffenen zunächst einmal das Unternehmen als Verantwortlicher. Dieses kann sich zwar intern beim Dienstleister schadlos halten, aber der Reputationsschaden und der unmittelbare Ärger liegen erst mal beim Unternehmen selbst. Deshalb ist es so wichtig, nur mit vertrauenswürdigen Partnern zu arbeiten und sich regelmäßig zu vergewissern, dass diese die vereinbarten Datenschutzstandards einhalten. Rechtsgrundlagen für den KI-Einsatz Rechtsgrundlagen im Überblick Die Verarbeitung personenbezogener Daten ist stets an das Vorliegen einer Rechtsgrundlage gebunden. Denn die DSGVO ist ein sogenanntes Verbotsgesetz mit Erlaubnisvorbehalt. Die Verarbeitung personenbezogener Daten ist also nur dann gestattet, wenn es hierfür eine Erlaubnis in Form einer Rechtsgrundlage gemäß Artikel 6 DSGVO, gibt. Jede Verarbeitung fremder persönlicher Informationen ist zunächst verboten und rechtswidrig, es sei denn, die Verarbeitung ist durch eine Rechtsgrundlage gestattet. Art. 6 DSGVO nennt die von der DSGVO anerkannten Erlaubnistatbestände: 1. Einwilligung durch ausdrückliche, informierte und freiwillige Genehmigung der betroffenen Person in die Datenverwendung. 2. Vertragliche Verpflichtung und vorvertragliche Maßnahmen zu deren Durchführung die Datenverarbeitung erforderlich ist, etwa die Kontaktdaten eines Käufers in einem Online-Shop. 3. Rechtliche Verpflichtung (typischerweise Aufzeichnungs- und Archivierungspflichten im Handels- oder Steuerrecht). 4. Schutz lebenswichtiger Interessen (gilt z. B. bei medizinischen Notfällen, Bewusstlosigkeit etc., wenn die betroffene Person nur so geholfen werden kann). 5. Wahrnehmung öffentlicher Interessen oder Ausübung öffentlicher Gewalt (rechtfertigt einen Großteil der polizeilichen Datenverarbeitungen). 6. Wahrung berechtigter Interessen des Verarbeiters, worunter auch wirtschaftliche Interessen von Unternehmen fallen können Trotz dieser vermeintlich breiten Auswahl an verschiedenen Rechtsgrundlagen gestaltet sich bei der Verarbeitung personenbezogener Daten durch KI das Finden einer Erlaubnis als recht herausfordernd und im Einzelfall schwierig. Um das Offensichtliche zuerst abzuräumen: Die Verarbeitung personenbezogener Daten wird sich mit großer Wahrscheinlichkeit im Regelfall nicht auf rechtliche Verpflichtungen, den Schutz lebenswichtiger Interessen oder die Wahrnehmung öffentlicher Interessen stützen lassen. Damit bleiben zur weiteren Betrachtung möglicher Rechtsgrundlagen lediglich die Einwilligung, die vertragliche Grundlage und die berechtigten Interessen. Einwilligung (Art. 6 Abs. 1 lit. a DSGVO) Die in der Öffentlichkeit verbreitetste Rechtsgrundlage ist die Einwilligung gemäß Art. 6 DSGVO. Hierzu gehört etwa das Zustimmen zu Cookie-Bannern auf Webseiten oder eine Anmeldung zu einem Newsletter. Im Kontext der Entwicklung und Nutzung von KI ist diese Rechtsgrundlage allerdings kaum praxistauglich. Gerade im Rahmen der Entwicklung, wenn es um das Zusammenstellen eines Trainingsdatensatzes und dessen Verwendung geht, ist die Einholung einer Einwilligung aller betroffenen Personen praktisch nahezu unmöglich. Dies liegt insbesondere daran, dass die Trainingsdatensätze aus riesigen Datenmengen bestehen und es dabei praktisch nicht möglich ist, sämtliche erfasste Personen zu identifizieren, geschweige denn, sie einzeln zu kontaktieren und um eine wirksame Einwilligung zu bitten. Beispiel: Ein Online-Händler für Mode möchte eine Trainingsdatenbank mit den Daten aus dem Kaufverhalten seiner Kunden erstellen, um eine KI zu entwickeln, die gezielt Kaufvorschläge erstellt. Der Modehändler hat in Deutschland 200.000 registrierte Kunden und verschickt an alle seine Kunden mehrere Mailings, mit denen er um die Einwilligung in die neue Datenverarbeitung zu Trainingszwecken bittet. Im Rahmen des Mailings werden die Kunden umfassend über die Datenverarbeitung informiert und können mit einem Klick auf einen Button ihre Einwilligung erteilen. Doch auch nach dem Dritten Mailing haben immer noch weniger als die ein Drittel der registrierten Kunden ihre Einwilligung gegeben. Der Händler steht nun vor der Entscheidung, ob er das Vorhaben aufgibt oder mit dem kleineren Datensatz als erhofft seine Trainingsdatenbank aufbaut. Die Einwilligung nach DSGVO stellt allerdings immer dann eine gut nutzbare Rechtsgrundlage dar, wenn eine besonders tiefgehende, individuelle Datenverarbeitung – wie bei starker Personalisierung – erfolgt. Oftmals dürfte die Einwilligung jedoch auch die letzte Alternative sein, wenn keine andere gesetzliche Erlaubnisnorm greift. Die Einwilligung muss dabei freiwillig, informiert, für den jeweiligen Zweck und eindeutig erfolgen. Praktisch bedeutet dies, dass die betroffenen Personen aktiv zustimmen müssen, beispielsweise durch das Setzen eines Häkchens in einem nicht vorangekreuzten Opt-in-Feld. Ein verständliches Beispiel ist ein Streamingdienst, der mittels KI-Unterstützung Filme empfiehlt. Für eine einfache Empfehlung auf Basis allgemeiner Nutzerdaten kann die Verarbeitung zwar oft auf berechtigte Interessen gemäß Art. 6 Abs. 1 S. 1 lit. f) DSGVO gestützt werden. Möchte der Dienst jedoch eine tiefe, verhaltensbasierte Personalisierung vornehmen – etwa durch Auswertung detaillierter Sehgewohnheiten, Klickverhalten und kombinierte Offline- und Online-Daten –, ist in der Regel eine ausdrückliche Einwilligung der Nutzer erforderlich. Gerade bei der Verknüpfung verschiedener Datenquellen, wie bei einem Datenaustausch zwischen verschiedenen Diensten, ist besondere Transparenz geboten. Die Nutzer müssen klar und verständlich darüber informiert werden, wie ihre Daten verwendet werden und wie die Daten ihres Online-Einkaufes in die Werbeausspielung bei einem Streamingdienst einfließen. Zu beachten ist, dass die Einwilligung jederzeit widerrufen werden kann gemäß Art. 7 Abs. 3 DSGVO. Im Falle des Widerrufs darf das Profil des Nutzers sofort nicht mehr für die KI-gestützte Verarbeitung genutzt werden; technisch muss ein sofort wirksamer Opt-out-Schalter vorhanden sein. Systeme müssen daher so gestaltet sein, dass sie einen Widerruf unmittelbar umsetzen können – andernfalls droht ein Verstoß gegen die DSGVO. Praxistipp: Es liegt an der Verantwortlichen Stelle die Datenverarbeitung so zu gestalten, dass nach dem Widerruf die Datenverarbeitung eingestellt und die gespeicherten Daten gelöscht werden können. Der Vorhalt, dass dies technisch nicht möglich ist, hat keine rechtliche Relevanz. Für die Dokumentation gilt: Die verantwortlichen Stellen müssen nachweisen können, wann, wie und mit welchem Inhalt eine Einwilligung eingeholt wurde. Dies umfasst das Datum, die verwendete Methode (z. B. Online-Formular) und den konkreten Einwilligungstext. Diese Dokumentation ist essenziell, um die Gültigkeit der Einwilligung im Streitfall belegen zu können. Gerade im KI-Kontext ist die Einwilligung als Rechtsgrundlage jedoch nicht immer praktikabel. Beim Training großer KI-Modelle mit Massendaten – etwa durch Web-Scraping – ist es praktisch unmöglich, von allen betroffenen Personen eine Einwilligung einzuholen. Hier sollte zumeist auf das berechtigte Interesse abgestellt werden, sofern keine besonderen Kategorien personenbezogener Daten betroffen sind. Die Einwilligung ist vorwiegend dann sinnvoll und rechtlich tragfähig, wenn ein enger Kontakt zum Betroffenen besteht, etwa bei der direkten Interaktion mit Kunden oder Beschäftigten. Nicht unter die DSGVO hingegen fällt die Verarbeitung synthetischer Daten, also solcher, die vollständig künstlich erzeugt wurden und keine reale Person mehr identifizierbar machen. Werden für das Training von KI ausschließlich synthetische Daten verwendet, ist die DSGVO nicht einschlägig, da kein Personenbezug mehr besteht. Vertragserfüllung und vorvertragliche Maßnahmen (Art. 6 Abs. 1 lit. b DSGVO) Eine Datenverarbeitung im KI-Umfeld ist zulässig, wenn sie zur Erfüllung eines Vertrags oder zur Durchführung vorvertraglicher Maßnahmen erforderlich ist, die auf Anfrage der betroffenen Person erfolgen. Klassische Beispiele sind KI-gestützte Übersetzungsdienste, bei denen die Verarbeitung personenbezogener Daten unmittelbar zur Vertragserfüllung dient. Ebenso kann die Nutzung eines Chatbots zur Verwaltung einer bevorstehenden Hotelreservierung als vorvertragliche Maßnahme unter diese Rechtsgrundlage fallen. Entscheidend ist dabei nicht, dass der Einsatz der KI zwingend erforderlich oder alternativlos ist. Nach der Rechtsprechung des Europäischen Gerichtshofs (EuGH) genügt es, wenn keine praktikableren und weniger eingreifenden Alternativen zur Verfügung stehen und die Verarbeitung objektiv für die Vertragsdurchführung erforderlich ist. Dies öffnet der KI-Nutzung im Rahmen der Erfüllung von Verträgen eine Tür. Abwägungssache: Das berechtigte Interesse Bei der Verarbeitung personenbezogener Daten durch Künstliche Intelligenz spielt das berechtigte Interesse gemäß Artikel 6 (Absatz 1 Satz 1 lit. f) DSGVO eine zentrale Rolle. Diese Vorschrift erlaubt die Verarbeitung, wenn sie zur Wahrung berechtigter Interessen des Verantwortlichen oder eines Dritten erforderlich ist und nicht die Interessen oder Grundrechte und Grundfreiheiten der betroffenen Personen überwiegen. Das berechtigte Interesse ist dabei weit gefasst und umfasst sowohl wirtschaftliche als auch organisatorische Belange. So kann insbesondere ein Onlinehändler KI einsetzen, um Betrugsbestellungen zu erkennen und dadurch das wirtschaftliche Risiko zu minimieren. Ebenso kann ein Logistikunternehmen mithilfe von KI das Paketaufkommen prognostizieren, um Lieferverzögerungen zu vermeiden und Ressourcen effizienter einzusetzen. Voraussetzung für die rechtmäßige Nutzung des berechtigten Interesses ist eine sorgfältige Interessenabwägung. Hierbei müssen die Vorteile für das Unternehmen, wie die Betrugsprävention oder die Prozessoptimierung, gegen die Interessen, also Grundrechte und Grundfreiheiten sowie das Interesse an minimaler Invasivität der Datenverarbeitung, der betroffenen Personen abgewogen werden. Insbesondere zu berücksichtigen ist das Recht auf informationelle Selbstbestimmung. Die Gewährleistung transparenter Informationen über die Datenverarbeitung ist essenziell: Betroffene müssen nachvollziehen können, zu welchem Zweck und in welchem Umfang ihre Daten verarbeitet werden. Dies erhöht nicht nur die Akzeptanz, sondern kann die Abwägung zugunsten des Unternehmens beeinflussen. Beispiel: Ein Online-Händler hat erkannt, dass immer wieder neue Accounts angelegt werden, die sofort größere Bestellungen kostspieliger Waren an Paketstationen vornehmen. In 90% dieser Fälle handelt es sich um Betrüger, die mit im Darknet gekauften Kreditkartendaten Warenbestellungen vornehmen und diese dann weiterverkaufen. Der Online-Händler nutzt die Daten über die bekannten Betrugsfälle, um eine KI darauf zu trainieren bei neuen Accounts nach Mustern zu suchen und diese im Zweifel für Bestellungen zu sperren. Weder für das Training noch für die Analyse der neuen Accounts hat der Online-Händler eine Einwilligung eingeholt. Er macht geltend, dass er nicht weiter durch ein solches Vorgehen geschädigt werden möchte und die angegebenen personenbezogenen Daten in aller Regel verfälscht sein dürften. Daher überwiegt sein Interesse an der Datenverarbeitung. Ferner sind Maßnahmen zur Minderung des Eingriffs zu ergreifen, um die Zulässigkeit der Verarbeitung zu stärken. Hierzu zählen insbesondere die Pseudonymisierung personenbezogener Daten, die Beschränkung des Zugriffs auf notwendige Informationen und die Begrenzung der Speicherdauer. Solche technische und organisatorische Maßnahmen tragen dazu bei, das Risiko für die Betroffenen zu minimieren und den Grundsatz des Datenschutzes durch Technikgestaltung (Privacy by Design) umzusetzen. Um ein berechtigtes Interesse überzeugend darzulegen, empfiehlt es sich, das legitime Ziel, im Optimalfall sind es mehrere, klar zu benennen, die Erforderlichkeit der Verarbeitung zu begründen und die getroffenen Schutzmaßnahmen detailliert zu beschreiben. Die nachfolgende Interessenabwägung sollte dabei systematisch erfolgen und muss daher auch die berechtigten Erwartungen der Betroffenen einbeziehen. Dabei gilt: Je intensiver der KI-Einsatz ist, desto umfangreicher sollte auch die Erforderlichkeit dargelegt werden. Nur so kann der Interessenausgleich angemessen dargestellt werden. Eine Abwägung, die ohne Interessen der betroffenen Personen vorgenommen wird, ist jedoch unvollständig. Wer als Kunde oder Mitarbeiter mit einer bestimmten Datenverarbeitung rechnen muss, ist grundsätzlich weniger schutzbedürftig als Außenstehende oder besonders vulnerable Personengruppen wie Minderjährige. Das Ergebnis dieser Abwägung sollte stets im Datenschutzkonzept dokumentiert werden. Eine solche Dokumentation erleichtert im Zweifelsfall den Nachweis gegenüber den Aufsichtsbehörden und schafft Rechtssicherheit. Die Rechtsprechung, etwa des Europäischen Gerichtshofs, betont die Notwendigkeit einer objektiven und einzelfallbezogenen Abwägung. Pauschale Begründungen reichen daher nicht aus.Vielmehr muss das berechtigte Interesse konkret und nachvollziehbar dargelegt und die Erforderlichkeit der Verarbeitung für den jeweiligen Zweck belegt werden. Praxistipp: Wenn sich der KI-Einsatz ändert, also beispielsweise der Einsatz von der KI ausgedehnt wird oder mehr Daten in die Verarbeitung aufgenommen werden, muss auch die Abwägung noch einmal angepasst werden. Mit einer Veränderung der Verarbeitung kann auch die Interessenabwägung zu Gunsten der betroffenen Personen kippen, da deren Interesse an minimaler Datenverarbeitung nun doch überwiegt. Rechtsgrundlagen bei besonderen Kategorien personenbezogener Daten Werden durch KI-Anwendungen besondere Kategorien personenbezogener Daten (z. B. Gesundheitsdaten, biometrische Daten) verarbeitet, sind die Hürden wiederum deutlich höher. Der Artikel 9 Abs. 2 DSGVO sieht die Verarbeitung ausnahmsweise vor, wenn die ausdrückliche Einwilligung vorliegt oder wenn die betroffene Person die Daten öffentlich gemacht hat. Im Beschäftigungskontext kann auch eine Betriebsvereinbarung oder eine gesetzliche Pflicht die Verarbeitung rechtfertigen. Dennoch ist insbesondere vor dem Hintergrund der besonderen Sensibilität dieser Datenkategorien die Verarbeitung durch Künstliche Intelligenz gut abzuwägen. Der rechtliche Rahmen ist hier gegenüber den übrigen Datenkategorien deutlich eingeschränkt. Insoweit sollte neben einer verlässlichen Rechtsgrundlage auch sichergestellt sein, dass Betroffenenrechte eingehalten werden können und eine Löschung der Daten möglich ist. Kernprinzipien des Datenschutzes bei KI Zweckbindung und Datenminimierung: KI-Einsatz im Rahmen halten Haben Sie einmal eine Rechtsgrundlage identifiziert, ist der nächste Schritt zu fragen: Wozu sollen die Daten durch die KI verarbeitet werden und ist das mit dem ursprünglichen Zweck vereinbar? Die DSGVO schreibt das Prinzip der Zweckbindung vor. Daten dürfen nur für klar definierte, vorher festgelegte Zwecke verarbeitet werden. Für generative KI bedeutet das: Man muss von Anfang an festlegen, warum man personenbezogene Daten in die KI einspeist. Und man darf diese Daten nicht einfach für ganz andere Zwecke verwenden, die mit dem ursprünglichen nichts mehr zu tun haben. Beispiel: Ein Online-Händler sammelt über Jahre hinweg Kundendaten, um Bestellungen abzuwickeln und Support-Anfragen zu beantworten. Nun möchte das Unternehmen diese Kommunikationsdaten nehmen, um eine eigene KI zu trainieren, die Kundenfragen automatisiert beantworten kann. Ist das noch vom ursprünglichen Zweck "Kundenbetreuung im Rahmen des Kaufs" gedeckt, oder schon ein neuer Zweck? Hier kommt es auf den Kontext an. Wahrscheinlich müsste das Unternehmen zumindest in seiner Datenschutzerklärung klargestellt haben, dass Kundendaten auch zur Verbesserung des Kundenservice (z.B. durch Training von KI-Modellen) genutzt werden. Fehlt ein solcher Hinweis, bewegt man sich in einer Grauzone. Unter Umständen wäre eine nachträgliche Einwilligung der Kunden erforderlich, um ihre alten Support-Tickets nun zum KI-Training zu verwenden. Oder man argumentiert, es sei ein "kompatibler Zweck", da letztlich das Ziel – nämlich guter Kundenservice – gleich bleibt, nur das Werkzeug (KI) neu hinzugekommen ist. Diese Abwägung ist heikel und sollte gründlich geprüft werden, bevor man live geht. Eng verwoben mit der Zweckbindung ist der Grundsatz der Datenminimierung. KI-Modelle – vordergründig die großen – neigen dazu, möglichst viele Daten als Input zu wollen, nach dem Motto: Je mehr Informationen, desto besser die Ergebnisse. Dennoch muss ein Unternehmen sparsam sein: Es dürfen nur die personenbezogenen Daten verarbeitet werden, die für den angestrebten Zweck wirklich erforderlich sind. Praktisch bedeutet das: So wenig persönliche Informationen wie möglich an die KI übergeben. Wenn ein Kundenchatbot eine Frage beantworten soll, reicht vielleicht die Frage selbst als Input; man muss nicht gleich den kompletten Kundenaccount mit Geburtsdatum, Adresse und Kaufhistorie in den Prompt packen. Ebenso in der Personalabteilung: Will man generative KI nutzen, um aus Bewerbungsanschreiben Schlüsselqualifikationen herauszufiltern, könnte man überlegen, ob man die Dokumente vorher anonymisiert oder zumindest Felder wie Name und Kontakt entfernt. Das reduziert nicht nur das Datenschutzrisiko, sondern verhindert auch ungewollte Bias – denn wenn die KI keine Namen sieht, kann sie auch niemanden (bewusst oder unbewusst) aufgrund der Herkunft oder des Geschlechts bevorzugen oder benachteiligen. Ein anschauliches Negativbeispiel lieferte im Jahr 2023 der Elektronikkonzern Samsung: Mitarbeiter hatten dort sensible Firmeninterna (darunter Quellcode und Meeting-Notizen) in ChatGPT eingegeben, um sich bei der Analyse helfen zu lassen. Die KI erhielt damit weit mehr Informationen, als eigentlich nötig gewesen wären – und diese Daten landeten auf fremden Servern außerhalb der Kontrolle des Unternehmens. Der Vorfall schlug hohe Wellen und führte dazu, dass Samsung die Nutzung externer KI-Dienste vorerst unterband. Die Lehre daraus: Es ist absolut entscheidend, intern Regeln aufzustellen, welche Daten in welche KI eingegeben werden dürfen. Geschäftsgeheimnisse und personenbezogene Daten sollte man nur dann an externe KI-Modelle schicken, wenn es unvermeidbar ist und wenn sämtliche Schutzmaßnahmen greifen. Oft lässt sich der gleiche Effekt erzielen, indem man Dummy-Daten verwendet oder die Eingaben vorher entpersonalisiert. Das Ziel von Zweckbindung und Datenminimierung ist letztlich, die Datenhoheit beim Unternehmen und den betroffenen Personen zu belassen. Die KI soll keinen Freibrief bekommen, einmal gewonnene Daten endlos weiterzuverwenden. Und für das Unternehmen bedeutet das: klare Nutzungsbeschränkungen definieren. Ein generatives KI-System darf nicht zur Datenkrake werden, die aus Bequemlichkeit mit jedem verfügbaren Datenschnipsel gefüttert wird. Im Zweifel gilt: lieber etwas weniger Daten einspeisen und dafür auf der sicheren Seite sein. Wenn Algorithmen entscheiden: Automatisierte Entscheidungen und Profilbildung Generative KI kann nicht nur Texte vorschlagen, sondern teilweise auch eigenständig Entscheidungen vorbereiten oder treffen – beispielsweise indem sie aus Daten Muster erkennt und eine Empfehlung ausspricht. Wenn eine KI jedoch beginnt, Entscheidungen über das Schicksal von Personen zu treffen, schlägt die DSGVO nochmals Alarm. Deren Artikel 22 DSGVO schreibt vor, dass betroffene Personen das Recht haben, nicht ausschließlich einer automatisierten Entscheidung unterworfen zu sein, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie erheblich beeinträchtigt. Übersetzt: Wichtige Entscheidungen dürfen nicht vollautomatisch von einer Maschine gefällt werden, zumindest nicht ohne besondere Vorkehrungen. Fallbeispiel: Stellen wir uns einen KI-gestützten Bewerbungsprozess vor: Die KI bewertet jede Bewerbung mit einem Score oder generiert eine Empfehlung "geeignet" oder "ungeeignet". Wenn das Unternehmen nun alle Bewerbungen mit niedrigem Score automatisch absagt, hätten wir faktisch eine automatisierte Auswahlentscheidung, die für die abgelehnten Bewerber natürlich eine erhebliche Auswirkung hat – dieser hat den Job nicht bekommen. Ähnliches ließe sich denken bei Kreditanträgen, Versicherungsabschlüssen oder auch weniger gravierenden Fällen wie der automatisierten Personalisierung von Angeboten. Sobald die KI-Logik darüber entscheidet, wie jemand behandelt wird – sei es eine Ablehnung, eine Einstufung oder auch nur die Einordnung in ein Profil („dieser Kunde ist high value, jener nicht“) –, bewegen wir uns im Feld der automatisierten Einzelentscheidung oder zumindest des Profilings (automatisierte Auswertung persönlicher Merkmale). Die DSGVO verbietet solche Praktiken nicht komplett, aber setzt hohe Hürden. Entweder muss die automatisierte Entscheidung für den Vertragsabschluss oder die ‑erfüllung erforderlich sein, was selten der Fall sein wird – man könnte an Online-Angebote denken, wo ohne automatisierte Prozesse ein Massenbetrieb unmöglich ist. Oder es liegt eine ausdrückliche Einwilligung der betroffenen Person vor, dass sie mit der automatisierten Entscheidung einverstanden ist. Außerdem haben Betroffene stets das Recht, einen Menschen prüfen zu lassen. Das heißt, wenn jemand mit einer automatisierten Entscheidung unzufrieden ist, muss das Unternehmen gewährleisten, dass ein Mitarbeiter den Fall manuell anschaut und der Person gegebenenfalls die Gründe erklärt, genauer gesagt das Ergebnis korrigiert. Für die Unternehmenspraxis bedeutet das: Wird generative KI nur als Assistenz eingesetzt – z. B. schlägt ein Tool dem Personaler vor, welche Bewerber vielversprechend aussehen, die finale Entscheidung trifft aber immer noch ein Mensch – dann bewegt man sich eher in einem unkritischen Bereich. Hier sprechen wir von unterstützter Entscheidungsfindung. Wichtig wäre trotzdem, transparent zu sein. der Bewerber sollte wissen, dass KI im Auswahlprozess mitwirkt, und auf Fairness zu achten. Die Bewerber können Diskriminierungsfreiheit verlangen: Die KI darf nicht systematisch z. B. bestimmte Altersgruppen schlechter bewerten, was man im Training oder in den Einstellungen steuern muss. Wird jedoch eine Entscheidung komplett an die KI delegiert, sollte man äußerst vorsichtig sein. In vielen Fällen wäre das nicht zulässig, ohne vorher Einwilligungen einzuholen oder andere Voraussetzungen zu erfüllen. Dabei stellt sich zwar die Frage, ob nicht auch ein menschlicher Entscheidungsträger etwa in der Personalabteilung Vorurteile haben kann und zum Beispiel diskriminierende Entscheidungen umsetzt. Dieses berücksichtigt der Gesetzgeber jedoch nicht. Ein weiterer Aspekt in diesem Zusammenhang ist die Erklärbarkeit von KI-Entscheidungen. Wenn jemand fragt: „Warum wurde ich abgelehnt?“, muss das Unternehmen eine nachvollziehbare Antwort geben können, und zwar in verständlichen Worten. Das ist bei komplexen Modellen oft schwierig bis unmöglich: „Die KI hat nun mal so entschieden“ reicht nicht. Hier fordern die DSGVO und auch die KI-Verordnung (KIVO), dass zumindest grobe Kriterien benannt werden – und diverse KI-ethische Leitlinien verlangen Transparenz und Nachvollziehbarkeit. Unternehmen sollten also, falls sie KI-Entscheidungshilfen einsetzen, parallel Richtlinien erarbeiten, wie die Ergebnisse interpretiert und erklärt werden. Meist sind generative KI-Modelle in vielen betrieblichen Einsätzen eher unterstützend als vollends entscheidend. Dennoch: Dieser Punkt sollte stets auf dem Radar sein, um nicht ungewollt in einen DSGVO-Verstoß hineinzuschlittern. Praxistipp: KI-Verordnung beachten! Gleiches gilt gerade in diesem Bereich auch für die Reglungen der KI-Verordnung. Denn gerade die oben genannten Beispiele im Bereich HR und Versicherungen stellen beide Hochrisiko-KI dar, für welche die KIVO besonders hohe Compliance-Regeln aufstellt. Transparenzpflichten bei der Verarbeitung personenbezogener Daten durch KI Die Verarbeitung personenbezogener Daten unterliegt strengen Transparenzpflichten, welche in den Artikeln 12 bis 14 DSGVO geregelt werden. Diese Pflichten sind angesichts der Komplexität und teilweisen Intransparenz moderner KI-Systeme besonders bedeutsam und auch schwierig umzusetzen. Ziel ist es, betroffenen Personen nachvollziehbar darzulegen, wie und zu welchem Zweck ihre Daten verarbeitet werden, um informierte Entscheidungen und wirksamen Rechtsschutz zu ermöglichen. Es dürfte wenig überraschen, dass sich diese Anforderungen nur schwer mit einem Black-Box-System wie bei ChatGPT und Co. vereinbaren lassen. Rechtsgrundlagen und zentrale Transparenzanforderungen Der Transparenzgrundsatz ist in Art. 5 DSGVO verankert. Verantwortliche müssen personenbezogene Daten „in einer für die betroffene Person nachvollziehbaren Weise“ verarbeiten. Die konkreten Informationspflichten finden sich in Art. 12 ff. DSGVO. Betroffene sind bei Erhebung der Daten oder, falls die Daten nicht direkt bei ihnen erhoben werden, spätestens innerhalb eines Monats nach der Erhebung umfassend zu informieren. Die Informationen müssen präzise, transparent, verständlich und leicht zugänglich in klarer und einfacher Sprache erfolgen. Ergänzend fordert die KI-Verordnung gemäß Art. 13 u. 26 bei Vorliegen von Hochrisiko-KI-Systemen weitergehende Transparenz über die Funktionsweise und Risiken von KI-Systemen. Den betroffenen Personen müssen durch den Verantwortlichen aufgrund dieser rechtlichen Vorgaben konkret folgende Informationen bereitgestellt werden: • Identität und Kontaktdaten des Verantwortlichen • Verarbeitungszwecke und Rechtsgrundlagen • Kategorien verarbeiteter personenbezogener Daten • Empfänger oder Kategorien von Empfängern (z. B. Drittanbieter) • Speicherdauer bzw. Kriterien für die Festlegung der Dauer (z. B. Löschfristen) • Hinweise auf Betroffenenrechte (z. B. Auskunft, Löschung, Widerspruch) • Gegebenenfalls Informationen zu einer automatisierten Entscheidungsfindung, wie sie bei KI oft vorkommen wird, einschließlich Profiling, deren Logik, Tragweite und angestrebte Auswirkungen auf die betroffene Person Diesen Informationspflichten nachzukommen, kann für die verantwortliche Stelle zu einer echten Herausforderung werden, da viele KI-Systeme, insbesondere die Branchenriesen aus den USA, nicht gerade offen kommunizieren, was mit personenbezogenen Daten passiert, sobald sie einmal übermittelt worden sind. Deutlich einfacher gestaltet sich die rechtskonforme Information daher, wenn europäische, quelloffene oder selbst gehostete KI-Systeme genutzt werden. Transparenzpflichten durch die KI-Verordnung Im Kontext von KI-Systemen ist zudem nach Art. 26 Abs. 11 der KI-Verordnung ausdrücklich darauf hinzuweisen, dass die betroffene Person einer Verarbeitung eines Hochrisiko-KI-Systems unterliegt. Idealerweise soll darauf direkt bei der Erhebung der Daten informiert werden. Weitere Transparenzpflichten entstehen bei der Interaktion mit einem KI-System. Hier ist der Nutzer gemäß Art. 50 Abs. 1 AI-Act darüber zu informieren, dass er mit einem KI-System und nicht mit einem Menschen interagiert. Fallbeispiel: Wird beispielsweise ein KI-Chatbot im Kundenservice eines Versicherers eingesetzt, muss der Nutzer im Chatfenster klar erkennen können, dass er mit einer KI interagiert. Die ergänzend dazu bereitgestellte Datenschutzerklärung sollte zudem die verarbeiteten Datenkategorien (z. B. Chatprotokolle, Kontaktdaten), die Speicher- und Löschfristen (z. B. Anonymisierung nach 30 Tagen) sowie etwaige Drittanbieter benennen. Die wesentliche Funktionslogik des Systems – etwa, dass Antworten automatisiert auf Basis vorheriger Kundeneingaben generiert werden – ist in verständlicher Sprache zu erläutern. Nicht notwendig sind Informationen über die konkrete Funktionsweise der KI. Technische Details dürfen intern dokumentiert bleiben, solange die Transparenz für die Nutzer gewährleistet ist. Minimierung von Risiken und Datenschutz durch Technikgestaltung Die DSGVO verlangt gemäß Art. 25 Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen. Der Art. 32 regelt zudem die Sicherheit der Verarbeitung und beinhaltet zusätzliche technische und organisatorische Maßnahmen, um Datenschutzrisiken zu minimieren. Beispielsweise können Chatprotokolle nach 30 Tagen anonymisiert werden, um Langzeitrisiken zu reduzieren. Werden bestimmte personenbezogene Daten nur im Hintergrund verarbeitet und nicht im Output angezeigt, ist dies datenschutzrechtlich zulässig. Filtermechanismen, die die Ausgabe personenbezogener Daten verhindern, wirken sich zugunsten der Betroffenen aus. Es kann daher untersagt werden, nach konkreten Personen zu fragen oder personenbezogene Daten im Output anzuzeigen, etwa indem Fragen nach aktuellen Positionsinhabern oder individuellen Interessen blockiert werden. Grenzen der Transparenzpflicht und Schutz von Geschäftsgeheimnissen Die Transparenzpflicht erstreckt sich nicht auf die vollständige Offenlegung von Geschäftsgeheimnissen oder detaillierten technischen Algorithmen. Es genügt, die wesentliche Funktionsweise und die maßgeblichen Entscheidungslogiken in verständlicher Form zu beschreiben. Die Offenlegung darf also nicht dazu führen, dass Betriebs- und Geschäftsgeheimnisse gefährdet werden, solange gleichzeitig die Transparenz für die Betroffenen gewährleistet bleibt. Zusammenspiel von DSGVO und AI-Act Der AI-Act ergänzt die Transparenzpflichten der DSGVO insbesondere für Hochrisiko-KI-Systeme. Sie fordert eine nachvollziehbare Dokumentation der Funktionsweise, laufende Protokollierung, inklusive mindestens sechs Monate Aufbewahrung. Gefordert werden auch verständliche Informationen der Betroffenen über die Rolle der KI im Entscheidungsprozess. Bei Verstößen drohen erhebliche Bußgelder, sowohl nach DSGVO als auch nach AI-Act. Dies sind zudem nicht aufeinander anzurechnen und sie können unabhängig voneinander verhängt werden. Risikomanagement und Datenschutz-Folgenabschätzung Gut dokumentiert: Die Datenschutzfolgenabschätzung Gemäß Art. 35 DSGVO ist eine sogenannte Datenschutzfolgenabschätzung (DSFA) durchzuführen, wenn eine geplante Verarbeitung personenbezogener Daten ein potenzielles Risiko für die Betroffenen aufweist, insbesondere bei Verwendung neuer Technologien, aufgrund ihrer Art, ihres Umfangs, ihrer Umstände und Zwecke voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Dabei handelt es sich um ein Gutachten, in dem der geplante Prozess analysiert wird und festgehalten wird, dass die dadurch bestehenden Risiken durch wirksame technische und organisatorische Maßnahmen auf ein Minimum beschränkt werden. KI-Systeme gelten unstreitig als neue Technologien, und Datenschutzaufsichtsbehörden gehen davon aus, dass beim KI-Einsatz zum Beispiel im Beschäftigtenverhältnis regelmäßig eine DSFA erforderlich ist. Die Verarbeitung von Mitarbeiterdaten zur Verhaltens- und Leistungsbewertung durch KI wird zudem nach Anhang III des AI-Acts als Hochrisiko-KI-System eingestuft, was zusätzliche Anforderungen und Pflichten für Unternehmen nach sich zieht. Der AI-Act selbst verweist zudem für Hochrisiko-KI an diversen Stellen auf die Pflicht zur Durchführung einer DSFA, sofern die Voraussetzungen des Artikels 35 DSGVO vorliegen. Die Verarbeitung personenbezogener Daten mittels einer (Hochrisiko-)KI zieht damit nicht zwingend eine DSFA-Pflicht nach sich, jedoch sollte das Vorliegen einer solchen Pflicht stets intensiv geprüft werden. Fallbeispiel: Die Pflicht zur Durchführung einer Datenschutzfolgenabschätzung (DSFA) nach Art. 35 DSGVO ist bei der Verarbeitung personenbezogener Daten durch Künstliche Intelligenz im Beschäftigtenkontext von zentraler Bedeutung. Dies gilt insbesondere, wenn Unternehmen KI-Systeme zur Überwachung und Analyse von Mitarbeiterkommunikation, etwa zur Erkennung von Insider-Risiken in E-Mails, einsetzen. Ein solches Vorgehen betrifft regelmäßig eine große Zahl von Beschäftigten und greift tief in deren Persönlichkeitsrechte ein, da es sich um eine abhängige Personengruppe handelt und die Eingriffsintensität hoch ist. Im oben dargestellten Beispiel analysiert ein Konzern interne E-Mails, um Insider-Risiken zu erkennen. Die Maßnahme betrifft hunderte Beschäftigte und löst die DSFA-Pflicht aus, da sowohl die Anzahl der betroffenen Personen als auch deren Schutzbedürftigkeit (abhängige Arbeitnehmer) und die potenziellen Auswirkungen (bspw. Fehlklassifikation, „Chill-Effekte“) ein hohes Risiko begründen. Die DSFA muss sodann die spezifischen Risiken identifizieren, etwa die Gefahr von Fehlklassifikationen durch die KI oder abschreckende Effekte auf das Kommunikationsverhalten der Beschäftigten. Als Gegenmaßnahmen können technische Einstellungen wie Alert Thresholds, also vordefinierte Grenzwerte, welche als Alarm- oder Warnschwellen dienen, um Anomalien bei der Verarbeitung festzustellen, implementiert werden, um Fehlalarme zu minimieren und die Verhältnismäßigkeit zu wahren. DSFA: Verhältnismäßigkeit der Verarbeitung Die DSFA dient nicht nur allein der Identifikation und Bewertung von Risiken. Dies würde ein solches Gutachten zu einem rein protokollarischen Instrument umdeuten. Eine DSFA sollte auch für die Entwicklung von Maßnahmen zur Risikominimierung genutzt werden. Sie ist ein zentrales Instrument, um die Einhaltung der Grundsätze der DSGVO – insbesondere Rechtmäßigkeit, Transparenz, Datenminimierung und Integrität – nachzuweisen. Im Rahmen eines DSFA-Prozesses werden oftmals Konzepte und Ideen erarbeitet, welche der Sicherung der Rechte der Betroffenen zugutekommen. Die DSFA muss zudem vor Beginn der Verarbeitung abgeschlossen und fortlaufend aktualisiert werden, insbesondere wenn sich die Risiken oder die eingesetzte Technologie ändern. Auch die Transparenz gegenüber und die Beteiligung der Mitarbeitenden stellen sinnvolle Maßnahmen dar, um für die Verhältnismäßigkeit der Verarbeitung zu sorgen. Die Beschäftigten müssen etwa umfassend und verständlich über den Einsatz der KI, deren Funktionsweise, die verarbeiteten Daten und ihre Rechte, insbesondere das Widerspruchsrecht gemäß Art. 13 u. 14 DSGVO, informiert werden. Die Minimierung des Eingriffs kann zudem durch technische und organisatorische Vorkehrungen – wie die Begrenzung der Auswertung auf dienstliche Kommunikation, die regelmäßige Überprüfung des Zwecks und die jährliche Evaluierung der Notwendigkeit – sichergestellt werden. Zuletzt müssen die Ergebnisse der DSFA und die getroffenen Maßnahmen revisionssicher dokumentiert werden. Die Einbindung des Betriebsrats ist nach § 87 Abs. 1 Nr. 6 BetrVG zudem zwingend erforderlich, wenn KI-Systeme zur Überwachung von Verhalten oder Leistung eingesetzt werden. Besonders zu beachten sind die durch Art. 5 KIVO eingeführten Verbote bestimmter KI-Praktiken. So ist etwa der Einsatz von KI zu Predictive Policing am Arbeitsplatz, also zur Vorhersage individueller Straftaten oder Pflichtverletzungen auf Basis von Profiling, grundsätzlich untersagt. Ebenso ist die Emotionserkennung am Arbeitsplatz durch KI-Systeme verboten, es sei denn, sie dient medizinischen oder sicherheitsrelevanten Zwecken gemäß Art. 5 KIVO. Verstöße gegen diese Verbote können mit drastischen Bußgeldern geahndet werden. Dies wären bereits vor dem AI-Act besonders kritische und daher DSFA-pflichtige Verarbeitungen gewesen und sind nun verboten und können auch mit der Durchführung einer DSFA nicht mehr in Rechtskonformität gehoben werden. Drittlandtransfer: Übermittlung von Daten außerhalb Europas Die Übermittlung personenbezogener Daten in Länder außerhalb der EU, die sogenannten Drittländer, zu denen insbesondere die USA zählen, ist nach den Artikeln 44 bis 50 der Datenschutz-Grundverordnung mit erheblichen rechtlichen und praktischen Herausforderungen verbunden. Die Problematik wird besonders deutlich am Beispiel eines deutschen Unternehmens, das einen US-amerikanischen KI-Textgenerator nutzt und dabei Daten in ein Rechenzentrum in die USA übermittelt. Zentrale Voraussetzung für eine Übermittlung von persönlichen Daten in ein Land außerhalb der EU ist, dass das Datenschutzniveau im Drittland dem der Europäischen Union im Wesentlichen entspricht. Dies wird in der Regel durch einen sogenannten Angemessenheitsbeschluss der Europäischen Kommission nach Artikel 45 DSGVO festgestellt. Für die USA existiert derzeit mit dem EU-US Data Privacy Framework (DPF) ein solcher Angemessenheitsbeschluss, der jedoch nur DPF-zertifizierten US-Unternehmen ein angemessenes Schutzniveau bescheinigt und damit Datentransfers erheblich erleichtert. Im oben genannten Beispiel ist der KI-Anbieter unter dem DPF zertifiziert, wodurch das Risiko für unzulässige Datenübermittlungen deutlich reduziert wird. Das deutsche Unternehmen muss daher lediglich einen Auftragsverarbeitungsvertrag gemäß Artikel 28 DSGVO mit dem US-Anbieter abschließen, um den Datentransfer rechtlich zu regeln. Dennoch bleibt ein Restrisiko immanent bestehen. Übermittlung ohne das EU-US Datenschutzabkommen Denn die aktuelle Rechtslage bleibt jedoch volatil. Das DPF-Abkommen ist politisch und rechtlich nicht unumstritten und zudem ist es auch keinesfalls sicher, dass es im Rahmen der Trump-Regierung in dieser Form erhalten bleibt. Bereits die Vorgängerregelungen – Safe Harbor und Privacy Shield – wurden durch den EuGH wegen unzureichender Garantien für EU-Bürger gekippt (vgl. EuGH, Urteil C-311/18 – „Schrems II“). Auch beim aktuellen DPF bestehen Zweifel an der Dauerhaftigkeit, da sowohl politische Entwicklungen in den USA als auch mögliche Klagen vor dem EuGH eine erneute Aufhebung wahrscheinlich erscheinen lassen. Sollte das Data Privacy Framework durch politische Entscheidungen in den USA oder ein Urteil des EuGH außer Kraft gesetzt werden, müssten Unternehmen kurzfristig auf Standardvertragsklauseln (Standard Contractual Clauses, kurz SCC) und zusätzliche Schutzmaßnahmen ausweichen. Die Rechtsprechung des EuGH macht deutlich, dass die Anforderungen an den Schutz personenbezogener Daten bei Drittlandübermittlungen hoch sind und der Verantwortliche stets nachweisen können muss, dass die Rechte der betroffenen Personen gewahrt bleiben. Um auf einen möglichen Wegfall des Angemessenheitsbeschlusses vorbereitet zu sein, wird bereits jetzt empfohlen, zusätzlich auf SCCs zurückzugreifen. Diese von der EU-Kommission vorgegebenen Vertragsmuster verpflichten den Datenempfänger im Drittland zu einem mit der EU vergleichbaren Datenschutzniveau. Die Wirksamkeit der SCC hängt jedoch davon ab, dass im Empfängerland keine Regelungen bestehen, die die Einhaltung der Klauseln faktisch unmöglich machen – etwa durch weitreichende staatliche Zugriffsbefugnisse auf die Daten. Beispiel: Eine deutsche Hausgesellschaft mit 800 Angestellten hostet ein Sprachmodel für einen Unternehmenschatbot selbst auf Servern von Amazon Web Service (AWS). Das Hosting ist hauptsächlich auf Servern in der EU sowie redundant in den USA vereinbart. Damit findet nach einhelliger Ansicht der Datenschutzbehörden ein Transfer in die USA statt. Amazon gehört zu den unter dem DPF zertifizierten Unternehmen. Der Datentransfer in die USA ist daher nicht problematisch und kann über einen einfachen Auftragsverarbeitungsvertrag (AVV) geregelt werden. Um sich auf den Wegfall des DPF vorzubereiten, schließt die Hausgesellschaft jedoch ergänzend mit AWS die EU-Standardvertragsklauseln ab und lässt den eigenen Datenschutzbeauftragten ein Transfer Impact Assessment vorbereiten. Die Standardvertragsklauseln ersetzen nun den bereits abgeschlossenen AVV und stehen mit diesem nicht in Konkurrenz. Zur weiteren Risikominimierung sollte weiterhin ein Trainings-Opt-out vereinbart werden, das verhindert, dass die übermittelten Daten zum Training fremder KI-Modelle genutzt werden. Dies dient sowohl dem Schutz der Vertraulichkeit als auch der Wahrung von Geschäftsgeheimnissen. Zusätzlich ist ein Transfer Impact Assessment (TIA) erforderlich, in dem insbesondere das Risiko durch Zugriffe US-amerikanischer Behörden bewertet wird. Technische Maßnahmen wie Verschlüsselung können dabei helfen, verbleibende Restrisiken zu minimieren. Zudem sind nicht alle KI-Anbieter in den USA nach dem DPF zertifiziert – das prominenteste Beispiel dafür ist OpenAI, der Anbieter von ChatGPT. In solchen Fällen können Datenübermittlungen nur auf Basis von SCC und den beschriebenen ergänzenden Maßnahmen erfolgen. Die Übermittlung von personenbezogenen Daten in die USA bleibt damit auch bei der Nutzung von KI weiterhin besonders heikel. Betroffenenrechte und KI Eines der größten Probleme im Verhältnis der DSGVO zu generativer KI sind die Betroffenenrechte, die nur schwer miteinander in Einklang zu bringen sind. Die DSGVO räumt betroffenen Personen in den Artikeln 12 bis 23 umfassende Rechte ein, die den Schutz ihrer personenbezogenen Daten gewährleisten und die Transparenz sowie die Kontrolle über die Datenverarbeitung sicherstellen. Diese Rechte sind zentral für das Verhältnis zwischen Betroffenen und datenverarbeitenden Unternehmen. Das Recht auf Auskunft Gemäß Artikel 15 DSGVO steht jeder betroffenen Person das Recht auf Auskunft zu. Dies bedeutet, dass ein Kunde von dem Unternehmen, das einen Chatbot zur Kundenberatung betreibt, verlangen kann, sämtliche über ihn gespeicherten personenbezogenen Daten offenzulegen. Dazu zählen auch Informationen, zu welchen Zwecken die Daten verarbeitet werden, welche Speicherdauer vorgesehen ist und welche weiteren Empfänger der personenbezogenen Daten es gibt. In der Praxis umfasst dies typischerweise Log-Auszüge der Interaktionen sowie gespeicherte Profilmerkmale. Die verantwortliche Stelle ist zudem verpflichtet, diese Informationen in verständlicher Form bereitzustellen und dabei auch die Zwecke der Verarbeitung, die Kategorien der Daten, etwaige Empfänger und die geplante Speicherdauer zu benennen. Das vollständige Beauskunften der Verarbeitung dürfte dabei oftmals an ganz praktische Grenzen stoßen. Deutsche Unternehmen, welche beispielweise über eine Schnittstelle ein Sprachmodell eines US-Anbieters in ihre Unternehmensprozesse integriert haben, wissen zwar sehr genau, welche Daten sie zu welchen Zwecken sie selbst verarbeiten. Was der KI-Anbieter nach der erfolgten Übermittlung mit den Daten anstellt, ist unmöglich zu sagen. Hier arbeiten der Black-Box-Effekt der KI sowie die Verschwiegenheit der auf ihre Geschäftsgeheimnisse fokussierten US-Amerikaner miteinander Hand in Hand – zum Nachteil des Datenschutzes. Denn faktisch dürfte es kaum möglich sein, solche Auskünfte im Rahmen der Nutzung von KI zu geben. Nicht nur fehlt es an einer Datenbank für die Inhalte des KI-Systems. Zusätzlich können sich direkt bei der KI abgefragte Inhalte bei jeder neuen Anfrage verändern. Hierbei handelt es sich um ein nur schwer zu lösendes Problem. Das Recht auf Löschung Neben der Auskunft kann der Betroffene gemäß Artikel 17 DSGVO die Löschung seiner personenbezogenen Daten („Recht auf Vergessenwerden“) verlangen. Unternehmen müssen diesem Wunsch grundsätzlich nachkommen, sofern keine gesetzlichen Aufbewahrungspflichten oder andere vorrangige Gründe entgegenstehen. Die Löschung hat sich dabei auf sämtliche Systeme zu erstrecken, in denen die Daten verarbeitet wurden – also auf operative Datenbanken, Backups und Analyse-Pipelines. Ein Löschprotokoll dokumentiert die einzelnen Schritte, um die Nachvollziehbarkeit und Rechenschaftspflicht (Art. 5 Abs. 2 DSGVO) zu gewährleisten. Im Kontext von KI und maschinellem Lernen ergeben sich hierbei jedoch praktische Herausforderungen. Werden personenbezogene Daten zur Schulung von KI-Modellen verwendet, ist das nachträgliche Entfernen einzelner Datensätze aus bereits trainierten Modellen („AI Unlearning“) technisch komplex und gegenwärtig nur eingeschränkt zuverlässig. Zwar werden viele Modelle regelmäßig neu trainiert, sodass gelöschte Datensätze langfristig nicht mehr in die Trainingsdaten einfließen. In der Zwischenzeit bleibt jedoch ein Restrisiko, dass Informationen aus den Daten weiterhin im Modell enthalten sind. Die Durchsetzung des Löschanspruchs ist daher in der Praxis schwer zu kontrollieren, was auch von der Aufsichtsbehörde kritisch betrachtet werden kann. Fallbeispiel: Der Microsoft Copilot machte in 2024 von sich reden, weil er bei Nachfragen zu einem deutschen Gerichtsreporter diesem allerhand Straftaten anhängte. So sei der Gerichtsreporter ein Kinderschänder, Ausbrecher aus einer Psychatrie, Witwenbetrüger und einiges weiteres. Selbstredend hatte der Reporter hierüber nur berichtet und keine dieser Taten begangen. Die KI hatte also nach dem Training mit dessen Artikeln dem Reporter fälschlicherweise die Straftaten selbst zugeordnet. Auch nachdem die Sache publik wurde tat sich Microsoft mit der Berichtigung schwer. Mehrfach wurden die falschen Angaben entfernt, waren kurz darauf jedoch wieder abrufbar. Schwerer Stand für Betroffene Die DSGVO sieht neben Auskunft und Löschung weitere Rechte vor: das Recht auf Berichtigung (Art. 16), Einschränkung der Verarbeitung (Art. 18), Datenübertragbarkeit (Art. 20) und Widerspruch (Art. 21). Verantwortliche Stellen müssen sicherstellen, dass diese Rechte technisch und organisatorisch umgesetzt werden können. Dies kann sich bei komplexen KI-Systemen als äußerst herausfordernd darstellen – freundlich formuliert. Um unter anderem falsche personenbezogene Daten, welche zum Training benutzt worden sind, gemäß Artikel 16 DSGVO zu berichtigen, müsste ähnlich wie bei der Löschung an den Trainingsdatensatz herangegangen werden. In diesem müssten die falschen Daten ausfindig gemacht und korrigiert werden, woraufhin zu guter Letzt die KI mit den korrekten Daten neu trainiert werden müsste. Auch wenn damit die Löschungs-, Berichtigungs- und Einschränkungsrechte prinzipiell durchsetzbar sind, ist infrage zu stellen, ob und inwieweit die KI-Anbieter, oftmals mit Sitz in den USA, gewillt sind, regelmäßig ihre Datenbanken auf Anforderung zu aktualisieren und dann regelmäßig ein kostspieliges Neutraining durchzuführen. Wenig überraschend sind diesbezüglich von den Anbietern aktuell keinerlei Zugeständnisse zu hören. Die vollständige Durchsetzung von Betroffenenrechten gemäß DSGVO gegenüber den großen KI‑Anbietern hat daher aktuell einen schweren Stand. Aktuell setzen die Anbieter daher auf Filter, um unliebsame Ausgaben zu verhindern. Es werden also technische Restriktionen implementiert, um bestimmte Ausgaben, wie die Rezeptur für die Herstellung gefährlicher Stoffe aus Haushaltsmitteln, zu verhindern. Diesen Filtern steht jedoch eine findige Nutzerbasis gegenüber, die mittels Prompt-Hacking, also der Eingabe von intelligenten Prompts zur Überlistung der KI, dennoch an die unerwünschten Ausgaben gelangt. Bekanntheit erlangten dabei die Trennung jedes einzelnen Wortes durch einen Punkt, sodass kein vollständiger Satz mehr erkannt werden konnte, oder der sogenannte „Grandma-Hack“. Hierbei sollte die KI vorgeben, als sei sie die Großmutter des Nutzers, und ihm die Rezeptur von Kampfstoffen als Gute-Nacht-Geschichte vorlesen. Die großen Anbieter haben es mittlerweile geschafft, die meisten dieser Lücken zu schließen. Dennoch zeigen diese Beispiele, dass selbst umfassendste Filtermaßnahmen keinen vollständig wirksamen Schutz bieten können. Praxis-Tipps: So gelingt der DSGVO-konforme KI-Einsatz Nach all den theoretischen Pflichten und Risiken stellt sich zum Abschluss die Frage: Wie setzt man das nun in der Praxis um? Hier einige Best Practices und Lösungsansätze, die sich abzeichnen, um generative KI verantwortungsbewusst zu nutzen: Frühzeitig interne Regeln festlegenBevor ein neues KI-Tool im Unternehmen freigegeben wird, sollten die Spielregeln klar sein. Welche Daten dürfen mit der KI verarbeitet werden und welche nicht? Gibt es Freigabeprozesse oder muss der Datenschutzbeauftragte vorab prüfen? Ein schriftlicher Leitfaden oder eine Policy für Mitarbeiter kann Missverständnisse vermeiden. Darin kann z. B. stehen, dass keine sensiblen Kunden- oder Mitarbeiterdaten über offene KI-Plattformen eingegeben werden dürfen, oder dass jede automatisierte Antwort vor dem Versenden gegengelesen werden muss. Datenschutz beim Anbieter evaluierenNicht jeder schillernde KI-Dienst ist auch datenschutzkonform. Unternehmen sollten sich die Datenschutzinformationen des Anbieters genau ansehen. Werden Daten zu eigenen Zwecken genutzt? Wo stehen die Server? Ist das Unternehmen nach europäischen Standards zertifiziert? Im Zweifel lieber auf einen Anbieter setzen, der in der EU hostet oder einen guten Ruf in Sachen Privacy hat – auch wenn vielleicht die Modelle etwas weniger „magisch“ erscheinen als beim Silicon-Valley-Vorreiter. Auftragsverarbeitung vertraglich absichernWie oben beschrieben, führt kaum ein Weg an einem Auftragsverarbeitungsvertrag vorbei, wenn externe KI-Dienste genutzt werden. Ebenso sollten die Verarbeitungsverzeichnisse -- eine Art Inventarliste aller Datenverarbeitungen im Unternehmen, die laut DSGVO geführt werden muss -- um den KI-Einsatz ergänzt werden. Dokumentation ist das A und O: Nur was schriftlich festgehalten ist, lässt sich im Zweifel gegenüber Prüfern verteidigen. Datenschutz-Folgenabschätzung durchführenInsbesondere bei größeren KI-Projekten oder solchen mit heiklen Daten sollte eine DSFA zum Projektstart gehören. Sie zwingt dazu, strukturiert über Risiken nachzudenken und Gegenmaßnahmen zu planen. Oft kommen dabei Punkte ans Licht, an die man zuvor gar nicht gedacht hatte – etwa die zuvor erwähnte Problematik der späteren Löschung von Trainingsdaten. Durch die DSFA kann man rechtzeitig Plan B entwickeln, bevor man in eine Falle tappt. Daten fließen kontrolliertFalls möglich, sollten Unternehmen den Datenfluss zur KI kontrollieren und begrenzen. Das kann technisch unterstützt werden: etwa ein Proxy, der alle Anfragen an einen KI-Dienst abfängt und prüft (eventuell nach bestimmten Mustern filtert, um keine sensiblen Inhalte herauszulassen). Oder man entscheidet sich für ein On-Premise-Modell: Einige generative KI-Systeme kann man in einer privaten Cloud oder auf eigenen Maschinen betreiben, wodurch keine externen Transfers nötig sind. Zwar erfordert das mehr IT-Infrastruktur und Know-how, aber es könnte sich lohnen, wenn man regelmäßig mit vertraulichen Daten arbeitet. Notfallpläne bereithaltenWas, wenn doch etwas schiefgeht? Auch das gehört zur Vorsorge. Unternehmen sollten vorbereiten, wie sie auf einen Datenschutzvorfall im KI-Kontext reagieren. Beispiel: Sollte ein KI-Anbieter versehentlich Daten leaken oder missbrauchen, muss man ggf. binnen 72 Stunden die Aufsichtsbehörde informieren (Meldepflicht bei Datenpannen). Es schadet nicht, ein solches Szenario einmal durchzuspielen. Ebenso sollte klar sein, wie man reagieren würde, wenn Betroffene Auskunft oder Löschung verlangen, wie oben diskutiert. Mitarbeiter einbeziehenEine neue Technologie im Betrieb ist immer auch Change Management. Die Belegschaft sollte nicht nur Regeln auferlegt bekommen, sondern auch den Nutzen verstehen. Wenn Mitarbeitende erkennen, dass KI ihnen Arbeit abnimmt, werden sie eher bereit sein, die Datenschutzvorgaben dazu mitzutragen. Umgekehrt sollten sie auch sensibilisiert sein, dass ein Verstoß ernsthafte Konsequenzen haben kann – bis zu hohen Bußgeldern für das Unternehmen oder einem Image-Schaden, der Kundenvertrauen kostet. Einige große Firmen haben es vorgemacht und zunächst Testphasen mit ausgewählten Teams durchgeführt, um Erfahrungen zu sammeln, bevor KI breit ausgerollt wurde. In solchen Pilotprojekten kann man gemeinsam mit den Nutzern herausfinden, wo Stolpersteine liegen (geben die Mitarbeiter vielleicht aus Versehen doch zu viele Daten ein? Wie kann man sie dabei unterstützen, das Richtige zu tun?). Diese Learnings fließen dann in die finalen Guidelines ein. Fazit: Mit Verantwortung in die KI-Zukunft Generative KI bietet Unternehmen faszinierende Möglichkeiten – von automatisch erstellten Texten über smarte Kundenassistenten bis hin zu kreativer Unterstützung in Entwicklung und Design. Doch die rechtlichen Spielregeln dürfen bei allem Innovationsdrang nicht vergessen werden. Die DSGVO bildet den Rahmen, in dem sich auch KI-Anwendungen bewegen müssen. Für Unternehmensverantwortliche und IT-Fachkräfte ohne juristischen Hintergrund mag das Thema zunächst einschüchternd wirken: viele Fachbegriffe, unklare Grauzonen und drohende Bußgelder im Hinterkopf. Dieser Beitrag hat gezeigt, dass man die Herausforderung meistern kann, wenn man sie systematisch angeht. Wichtig ist ein gesunder Mix aus Technikverständnis und Datenschutz-Know-how. Weder sollte man die KI unbedarft auf Daten loslassen, noch muss man aus Angst vor dem Datenschutz komplett auf die Technologie verzichten. Entscheidend sind Transparenz, Planung und Kontrolle. Unternehmen, die frühzeitig die Datenschutzbeauftragten und Juristen mit den Technikern an einen Tisch bringen, sind klar im Vorteil. Gemeinsam kann ausgelotet werden, welche Anwendungen unbedenklich sind, wo Risiken bestehen und wie man Lösungen findet – sei es durch Anonymisierung, vertragliche Absicherungen oder technische Adjustierungen. Die Praxis zeigt: Mit einigen Best Practices (wie dem Abschluss von AV-Verträgen, dem Deaktivieren von KI-Trainings auf Basis von Eingabedaten, strikten internen Policys und regelmäßigen Überprüfungen) lässt sich generative KI zumindest ansatzweise DSGVO-konform einsetzen. Es erfordert zwar anfangs zusätzliche Arbeit, aber diese Investition zahlt sich aus. Schließlich geht es nicht nur darum, Ärger mit Aufsichtsbehörden zu vermeiden. Es geht auch um das Vertrauen von Kunden und Mitarbeitern. Wer offensiv kommuniziert, dass man verantwortungsvoll mit Daten umgeht – selbst wenn man topmoderne KI-Tools nutzt –, der stärkt sein Image als vertrauenswürdiges, zukunftsorientiertes Unternehmen. Ein hilfreicher Wegweiser kann hier die KI-Checkliste der Hamburger Datenschutzbehörde sein, die wir in Form einer Checkliste im Rahmen dieses Deep Dives veröffentlichen. Generative KI und DSGVO – das sind zwar keine guten Freunde, aber es ist auch kein grundsätzlicher Widerspruch, sondern eine Aufforderung, Technik und Recht verantwortungsvoll zusammenzubringen. Mit der richtigen Herangehensweise kann die Reise in die KI-Zukunft gelingen, ohne dass man über Datenschutzfallen stolpert. Kurz gesagt: KI nutzen, aber mit Verstand und Verantwortung – dann steht dem Fortschritt nichts im Wege. Checkliste – Einsatz Künstlicher Intelligenz (KI) in Unternehmen Auf Basis der „Checkliste zum Einsatz LLM-basierter Chatbots“, Hamburgischer Beauftragter für Datenschutz und Informationsfreiheit, 13. 11. 2023 Nr. Prüffeld Konkrete To-do-Punkte Rechtsquellen/Belege* 1 Governance & Richtlinien - Schriftliche KI-Policy (Scope, Rollen, verbotene/erlaubte Szenarien).„Formulieren Sie klare und dokumentierte interne Weisungen …“ Art. 5, 24 DSGVO; § 26 BDSG; Erwägungsgr. 74 DSGVO 2 Einbindung DSB und Interessenvertretungen - Frühe Konsultation DSB, IT-Security, ggf. BR/PR.- Durchführung DSFA bei hohem Risiko. Art. 35 DSGVO; § 38 BDSG 3 Funktions-Accounts - Nur dienstliche Sammel-Konten ohne Personenbezug verwenden.„Beschäftigte sollten nicht eigenständig … ein Konto erstellen.“ Art. 25 DSGVO (Privacy by Design) 4 Starke Authentifizierung - Komplexe Passwörter + MFA.„Betrieblich genutzte Accounts … bieten ein erhebliches Missbrauchspotential.“ Art. 32 Abs. 1 DSGVO 5 Keine Eingabe personenbezogener Daten - Verbot > 0-Daten-Policy, sofern Anbieter Training/Log nutzt.„Dürfen keine personenbezogenen Daten an die KI übermittelt werden.“ Art. 6 Abs. 1, 9 DSGVO; CJEU Schrems II (C-311/18, 2020) 6 Output-Kontrolle - Prüfen, dass Ergebnisse frei von identifizierbaren Daten sind.„Achten Sie darauf, dass Ergebnisse … möglichst keine personenbezogenen Daten enthalten.“ (White & Case LLP, EU-Parlament) Art. 5 Abs. 1 lit. d DSGVO (Richtigkeit) 7 Vermeidung indirekter Personenbezüge - Eingaben anonymisieren, Kontext prüfen (Re-Identifizierungsgefahr). Art. 4 Nr. 1 DSGVO; BVerfG, 1 BvR 1299/05 („Volkszählungsurteil 2.0“) 8 Opt-out-Training - Vertragsklauseln/Settings: Deaktiv. Trainingsnutzung. Art. 28 Abs. 3 DSGVO; AI Act Art. 53 i. V. m. Anhang XI 9 Opt-out-History/Logging - Chat-History abschalten oder Minimierung einstellen. Art. 25 DSGVO 10 Fakten-Validierung („Halluzinationen“) - Vier-Augen-Prinzip; Quellencheck; Versionierung.„Die Ergebnisse einer Chatbot-Anfrage sind mit Vorsicht zu genießen.“ (whitecase.com)(europarl.europa.eu) Art. 5 Abs. 1 lit. d DSGVO 11 Diskriminierungs-Check - Bias-Tests, Fairness-Audits; AGG-Compliance. Art. 10 AI Act (Daten-Governance); § 7 AGG 12 Mensch in der Letztentscheidung - Kein rechtswirksamer Voll-Auto-Output; Dokument. Entscheidungsspielraum.„Entscheidungen mit Rechtswirkung sollten … nur von Menschen getroffen werden.“ Art. 22 DSGVO; Art. 5 Abs. 1 e AI Act 13 Schulung & Bewusstsein - Regelmäßige Trainings, Leitfäden, Szenario-Workshops Art. 39 Abs. 1 lit. b DSGVO 14 Schutz von Geschäftsgeheimnissen & IP - NDA-Klauseln; keine vertraulichen Infos prompten; § 6 GeschGehG beachten. GeschGehG; UrhG § 2 15 Regulatorisches Monitoring - Beobachtung AI Act-Sekundärrecht (Guidelines, Codes of Practice).„Regelmäßig überprüfen, ob die internen Vorgaben angepasst werden müssen.“ Verordnung (EU) 2024/1689 (AI Act) 16 AI Act Risk Classification - System einordnen: unacceptable (Art. 5 AI Act → Verbot seit 02 Feb 2025), high-risk (Art. 6 ff.), GPAI (Art. 52 ff.), limited/minimal. Art. 5, 6, 52 AI Act 17 Technische Dokumentation & Konformität - Annex IV-Dokumentation; Qualitäts-, Risk-, Cyber-Management; CE-Kennzeichen vor Inverkehrbringen. Art. 17–19, 49 AI Act 18 Eintrag EU-Datenbank - High-Risk-Systeme vor Inverkehrbringen im EU-Register anmelden. Art. 60 AI Act 19 KI-Incident-Management - Meldeprozesse für schwerwiegende Vorfälle (Art. 62 AI Act); Verzeichnis von Prompt-Logs. Art. 62 AI Act 20 Lieferketten-Compliance - Verträge: Sub-Processor-Flows, Standardvertragsklauseln, U.S.-Data-Privacy-Framework prüfen. Art. 28 DSGVO; CJEU Schrems II Hinweise zur Umsetzung Dokumentieren Sie jede Prüfposition (Nachweis-Accountability, Art. 5 Abs. 2 DSGVO). Integrale Betrachtung: Datenschutz, Arbeits-, Wettbewerbs-, Urheber- und Handelsrecht zusammendenken. Kontinuierliches Review: Technische Releases, neue Use-Cases und aufsichtsbehördliche Leitlinien (EDPB, BfDI, HmbBfDI) spätestens halbjährlich evaluieren. Revisionssichere Ablage: Richtlinien, DSFAs, Reports & Audit-Logs versionieren (GoBD-Konformität). Hinweise zur Umsetzung Dokumentieren Sie jede Prüfposition (Nachweis-Accountability, Art. 5 Abs. 2 DSGVO). Integrale Betrachtung: Datenschutz, Arbeits-, Wettbewerbs-, Urheber- und Handelsrecht zusammendenken. Kontinuierliches Review: Technische Releases, neue Use-Cases und aufsichtsbehördliche Leitlinien (EDPB, BfDI, HmbBfDI) spätestens halbjährlich evaluieren. Revisionssichere Ablage: Richtlinien, DSFAs, Reports & Audit-Logs versionieren (GoBD-Konformität). Die Autoren: Niklas Mühleis ist Rechtsanwalt und Partner der Kanzlei Heidrich Rechtsanwälte in Hannover Joerg Heidrich ist Justiziar und Datenschutzbeauftragter von Heise Medien, Fachanwalt für IT-Recht und Partner der Kanzlei Heidrich Rechtsanwälte.

Datenschutz und KI - Risiken erkennen, Chancen nutzen

KI und Datenschutz: Eine Einführung

KI und Datenschutz: Geht das überhaupt?

heise KI PROKI VERSTEHEN UND ANWENDEN

heise KI PRO
KI VERSTEHEN UND ANWENDEN