KI-Governance - So setzen Sie generative KI perfekt im Unternehmen um

Einleitung Definition und Bedeutung von KI-Governance Die Regulierung künstlicher Intelligenz ist ein junges und hochdynamisches Gebiet. Auf internationaler Ebene sind sich Regierungen und Aufsichtsräte noch nicht einig, welche übergeordneten Rahmenbedingungen für die Steuerung und Kontrolle von KI-Aktivitäten in einer Organisation gelten sollen. Es gibt bislang kein internationales Standardwerk, das alle Bereiche, Einsatzmöglichkeiten und Sicherheitsniveaus von KI-Systemen umfassend abdeckt und behandelt. Ein zentrales Problem besteht darin, dass KI ein Sammelbegriff für verschiedene Technologien ist, die jeweils unterschiedliche Regulierungsansätze und Governance-Methoden erfordern. Dementsprechend unterscheiden sich die geeigneten Governance-Ansätze für generative KI-Systeme wie ChatGPT und für andere KI-Systeme wie maschinelle Bildverarbeitungssysteme oder Finanzprognosetools. Daher ist es unmöglich, ein einziges KI-Governance-Framework zu entwickeln, das alle Arten von KI, Technologien und Risikoniveaus gleichermaßen gut abdeckt. Der Kontext einer Organisation, etwa die Branche, in der ein KI-System eingesetzt wird, bestimmt maßgeblich, wie streng oder detailliert ein KI-Governance-Framework umgesetzt werden muss. Hersteller von Medizinprodukten, die direkten Einfluss auf die Gesundheit von Menschen haben, müssen ein deutlich strengeres KI-Governance-Konzept umsetzen als Unternehmen, die lediglich eine einfache ChatGPT-Instanz einsetzen. Ebenso ist zwischen KI-Software und KI-Anwender-Unternehmen zu unterscheiden. Die Entwicklung von KI-Systemen sollte selbst bei nicht kritischen oder, wie der EU AI Act sagt, „Hochrisiko-Systemen“, nach strengen Vorgaben und Prozessen erfolgen. Die unvorhersehbaren Auswirkungen von verantwortungslos eingesetzten oder entwickelten KI-Systemen in scheinbar unkritischen Bereichen können drastische Folgen haben, etwa wenn die (halb)automatisierte News-KI tatsächliche Ereignisse völlig verdreht. Durch die undurchsichtige Natur von insbesondere Deep-Learning-Systemen können Entscheidungen oft nicht erklärt oder nachvollzogen werden. Fehlentscheidungen von KI-Systemen werden möglicherweise erst spät erkannt und haben dann bereits Schaden angerichtet. Ein Beispiel ist die automatisierte Ablehnung von Gesundheitsleistungen in den USA, die zum Tod einer Patientin führte, weil sie nicht mehr versorgt wurde. Trotz der heterogenen Anforderungen, die verschiedene Formen von KI-Systemen und Unternehmensspezifika an ein einheitliches KI-Governance-Framework stellen, lassen sich Kernelemente guter KI-Governance identifizieren. Sie sind im folgenden Deep Dive zusammengefasst und basieren auf Erfahrungswerten aus der Anwendungs- und Beratungspraxis sowie auf internationalen Ansätzen zur Förderung vertrauenswürdiger KI (EU ALTAI, NIST, OECD) und ersten Standardisierungsversuchen, wie der Deutschen Normungsroadmap für Künstliche Intelligenz und der ISO/IEC 42001:2023. Neben diesen Grundsätzen haben wir Handlungsempfehlungen (als „Empfehlung“ gekennzeichnet) für die Umsetzung von KI-Governance beschrieben, die sich in der Praxis bewährt haben. Die Kernelemente unseres KI-Governance-Frameworks sind für jedes Unternehmen anwendbar. Sie sollten jedoch genau prüfen, inwieweit der Anwendungsfall und der Kontext Ihrer Organisation mehr oder weniger Elemente des Frameworks erfordern. Unternehmen, die KI-Systeme nicht selbst entwickeln, haben signifikant andere Governance-Anforderungen als KI-Software-Firmen. Für Organisationen, die generative KI in Form einer ChatGPT-Business-Instanz nutzen möchten, haben wir eine vereinfachte Muster-Governance mit Beispielen (als „Beispielfall“ gekennzeichnet; in Bereichen, in denen der Beispielfall nicht zutrifft, haben wir ihn weggelassen) erstellt. Dennoch empfehlen wir dringend, sich mit allen Aspekten unseres Governance-Frameworks auseinanderzusetzen, da diese Prinzipien einen langfristig erfolgreichen Einsatz sowie die Weiterentwicklung von KI(-Anwendungen) im Unternehmen ermöglichen. Auch wenn Sie heute noch keine KI-Systeme entwickeln oder anpassen, kann sich das ob der Dynamik des Marktes rasch ändern. Denkbar wäre etwa die umfangreiche Anpassung existierender KI-Modelle durch zusätzliches Datentraining, das sogenannte Feintuning. Wir sprechen in dem Text sowohl von KI-Governance als auch von KI-Richtlinien. Beides ist eng miteinander verbunden: Die Governance gibt einen organisatorischen Rahmen und definiert die Prozesse und Prinzipien darin, die KI-Richtlinie legt Regeln und Standards fest. Hier die Definitionen: KI-Governance beschreibt den übergeordneten Rahmen zur Steuerung und Kontrolle von KI-Aktivitäten in einem Unternehmen oder einer Organisation. Hier geht es um die konkreten Prozesse, Strukturen und Mechanismen zur praktischen Umsetzung der in den Richtlinien festgelegten Prinzipien. KI-Governance umfasst also die gesamte organisatorische und technische Infrastruktur, die nötig ist, um KI-Systeme gemäß den definierten Richtlinien zu entwickeln, einzusetzen und zu überwachen. KI-Richtlinien legen konkrete Regeln und Standards für den Einsatz von KI fest. Sie zielen darauf ab, Transparenz zu schaffen, die rechtskonforme Nutzung der neuen Technologie zu gewährleisten und klare Verantwortlichkeiten zu definieren. Lesen Sie sämtliche Details und Empfehlungen in unserem Deep Dive. Ein Richtlinien-Muster haben wir ebenfalls in der KI-PRO-Community zum Download hinterlegt. KI-Richtlinien und KI-Governance ergänzen sich also in der Praxis. Die Richtlinien bilden die schriftlich fixierte inhaltliche Grundlage, während die Governance-Strukturen für deren Umsetzung und Einhaltung sorgen. Gemeinsam tragen sie dazu bei, dass der Einsatz von KI kontrolliert und verantwortungsvoll im Rahmen der Compliance-Vorgaben erfolgt. Überblick aktueller Ansätze für KI-Governance Der EU AI Act ist ein umfassender Regulierungsrahmen für künstliche Intelligenz in der EU. Er kategorisiert KI-Systeme nach Risiko-Leveln und legt entsprechende Anforderungen fest. Für Organisationen empfiehlt er die Einrichtung robuster KI-Governance-Strukturen. Das AI-Office der Europäischen Kommission soll dabei helfen, den AI Act praktisch umzusetzen, unter anderem durch „Ausarbeitung von Verhaltenskodizes auf dem neuesten Stand der Technik, um die Regeln in Zusammenarbeit mit führenden KI-Entwicklern, der wissenschaftlichen Gemeinschaft und anderen Experten zu präzisieren“ sowie die „Vorbereitung von Anleitungen und Leitlinien“. Diese Empfehlungen wurden im Juli 2025 veröffentlicht. Die ALTAI-Prinzipien (Assessment List for Trustworthy AI) bieten Unternehmen einen praktischen Leitfaden für vertrauenswürdige KI. Sie umfassen Aspekte wie menschliche Kontrolle, technische Robustheit, Privatsphäre, Transparenz und Rechenschaftspflicht. Für die KI-Governance empfehlen sie unter anderem die Einrichtung eines KI-Ethikrats und regelmäßige Folgenabschätzungen. Die OECD-Prinzipien für KI betonen die Wichtigkeit von Transparenz, Robustheit und Verantwortlichkeit. Für Organisationen empfehlen sie die Implementierung von Risikomanagementsystemen und die Förderung von KI-Kompetenz bei Mitarbeitern. Ein Beispiel ist die Einrichtung von „AI Stewards“ in Unternehmen, die KI-Projekte begleiten und überwachen. Der US-Ansatz zur KI-Regulierung setzt stark auf freiwillige Standards und Brancheninitiativen. Der „Blueprint for an AI Bill of Rights“ gibt Empfehlungen wie algorithmische Fairness und Datenschutz. Für Unternehmen werden regelmäßige KI-Audits und die Einbeziehung diverser Stakeholder bei der KI-Entwicklung empfohlen. Ein konkretes Beispiel ist die Zusammenarbeit von Tech-Unternehmen und Bürgerrechtsgruppen bei der Entwicklung von Gesichtserkennungs-KI. Kernelemente von KI-Governance Grundlagen und Kontext Kontext und Ziele der Organisation Für eine effektive KI-Governance ist es entscheidend, den Kontext und die Ziele der Organisation zu verstehen. Dazu gehören die Analyse des internen und externen Umfelds sowie die Berücksichtigung der Anforderungen relevanter Interessengruppen (Kunden, Regulierungsbehörden, Öffentlichkeit etc.). Zum Beispiel müssen in der Medizinbranche eingesetzte KI-Systeme wesentlich höhere Anforderungen erfüllen als generative KI-Chatbots in einer Werbeagentur. Die Organisation sollte den Geltungsbereich ihrer KI-Governance klar definieren und dokumentieren. Das umfasst die Identifikation relevanter gesetzlicher Vorgaben (etwa des EU AI Act), die Bestimmung wichtiger Stakeholder sowie die Festlegung der Grenzen und Anwendbarkeit des Systems. Empfehlung: Eine umfassende Stakeholder-Analyse bietet hier einen guten Absprungpunkt. Sie kann optimal in Tandem mit klaren KPIs und Zielen in ein Positionspapier für die eigene KI-Strategie eingearbeitet werden. Beispielfall: Definieren Sie, für welche spezifischen Aufgaben ChatGPT in Ihrem Unternehmen eingesetzt wird (etwa Unterstützung bei der Erstellung von Anzeigentexten, Newslettern, Social-Media-Beiträgen oder bei der Ideenfindung) und welche Ziele Sie damit erreichen wollen. KI-Richtlinie Ein zentrales Element der KI-Governance ist die Entwicklung und Dokumentation einer KI-Richtlinie. Sie legt konkrete Regeln und Standards für den Einsatz von KI fest, während die KI-Governance den übergeordneten Rahmen zur Steuerung und Kontrolle von KI-Aktivitäten in einer Organisation festlegt. Die Grundsätze einer solchen Richtlinie haben wir in unserem Deep Dive zu KI-Richtlinien festgehalten. KI-Richtlinien sollten final von der Geschäftsleitung festgelegt und kommuniziert werden. Um ihre fortlaufende Eignung und Wirksamkeit sicherzustellen, muss die KI-Richtlinie in regelmäßigen, geplanten Abständen oder bei Bedarf überprüft und gegebenenfalls angepasst werden. Die Organisation muss sicherstellen, dass KI-Richtlinien mit anderen organisatorischen Richtlinien abgestimmt sind. Eine KI-Richtlinie gibt allen Beteiligten Orientierung und bildet den Rahmen für die verantwortungsvolle Nutzung von KI in der Organisation. Empfehlung: Entwickeln Sie die KI-Richtlinie in enger Abstimmung mit der Geschäftsführung, da sie wesentlichen Einfluss auf die strategische Ausrichtung der Organisation haben kann. Beziehen Sie aber auch unbedingt jene Personen mit ein, die mit KI arbeiten sollen, damit die Richtlinie praktisch bleibt und keine theoretische Innovationsbremse wird. Beispielfall: Legen Sie zur Regelung der Nutzung von ChatGPT fest, dass es ausschließlich als Werkzeug zur Unterstützung verwendet wird und alle Inhalte von menschlichen Mitarbeitenden überprüft und angepasst werden müssen. Interne Organisation Für die erfolgreiche Umsetzung der KI-Governance ist eine angemessene interne Organisation unerlässlich. Rollen und Verantwortlichkeiten sollten entsprechend dem Umfang und den Bedürfnissen der Organisation definiert und zugewiesen werden. Zudem sollte ein Prozess etabliert werden, der es Mitarbeitern ermöglicht, Bedenken oder Probleme im Zusammenhang mit KI-Systemen zu melden. Das Top-Management sollte die KI-Governance der Organisation in regelmäßigen Abständen überprüfen, um deren fortdauernde Eignung, Angemessenheit und Wirksamkeit sicherzustellen. Das ist insbesondere wichtig, da sich die Technologie derzeit rasant weiterentwickelt und teilweise täglich neue Entwicklungen veröffentlicht werden, die potenziell Auswirkungen auf Ihr Unternehmen haben können. Empfehlung: Implementieren Sie eine Matrix-Organisationsstruktur für KI-Governance, die funktionsübergreifende Zusammenarbeit fördert. Definieren Sie klare Verantwortlichkeiten und Eskalationspfade für KI-bezogene Entscheidungen und Risiken. Szenario „Optimal“: Etablieren Sie ein „KI-Center of Excellence“, das Best Practices entwickelt, Schulungen durchführt und als zentrale Anlaufstelle für KI-Fragen dient. Szenario „Minimal“: Benennen Sie „KI-Botschafter“, die Bedürfnisse in den Teams abfragen und bündeln. Eine exemplarische Rollenverteilung für eine generelle interne Organisation und Verteilung der Aufgaben kann so aussehen: Chief AI Officer: Zentrale Überwachung der KI-Governance Compliance/Rechtsabteilung: Einhaltung von Regulationen, Gesetzen und ethischen Standards IT-Sicherheitsexperten: Sicherheit von KI-Systemen Business-Analysten: Harmonisierung von Projekten in KI-Strategie, Identifikation von neuen Anwendungsfällen IT-Systemexperten: Integration von KI-Systemen in IT-Systemlandschaft Data Scientists/AI-Engineers: Entwicklung, Betrieb und Wartung von KI-Systemen Beispielfall: Benennen Sie einen Hauptverantwortlichen für die Überwachung der ChatGPT-Nutzung. Kompetenzen und Schulungen Die Organisation muss sicherstellen, dass alle beteiligten Personen über die notwendigen Kompetenzen verfügen, um ihre Aufgaben im Kontext der KI-Governance effektiv zu erfüllen. Das umfasst die Implementierung von Schulungsprogrammen und die Dokumentation der erworbenen Kenntnisse und Fähigkeiten. Alle Mitarbeitenden in der Organisation, die mit KI arbeiten, sollten ein einheitliches Verständnis und eine einheitliche Definition der Begrifflichkeiten haben, aber auch von den (Un-)Möglichkeiten der Technologie. Eine gute Orientierung bieten das Glossar der Deutschen Normungsroadmap für Künstliche Intelligenz oder die in der ISO/IEC 22989:2022 definierten Begriffe und Konzepte. Um über die Entwicklungen und damit die Optionen fürs Unternehmen auf dem Laufenden zu bleiben, eignen sich Fachmagazine wie THE DECODER oder heise online und renommierte Fachdienste wie heise KI PRO, die gleichermaßen einen journalistischen, aber auch praxisorientierten Hintergrund haben. Das ist wichtig, da es gerade zum Thema generative KI sehr viele Angebote auf niedrigem oder qualitativ unterdurchschnittlichem Level gibt. Empfehlung: Entwickeln Sie ein abgestuftes KI-Schulungsprogramm für verschiedene Mitarbeiterebenen und Abteilungen. Implementieren Sie ein Zertifizierungssystem für KI-Kompetenzen und machen Sie bestimmte Zertifizierungen zur Voraussetzung für KI-bezogene Rollen. Erstellen Sie ein unternehmensweit zugängliches KI-Glossar mit klaren Definitionen und Beispielen. Integrieren Sie dieses Glossar in alle KI-bezogenen Schulungsmaterialien und Dokumentationen. Legen Sie gute Quellen für Informationen zu KI fest. Allgemeine Medien sind dazu nur bedingt geeignet, da sie sich vornehmlich auf aufmerksamkeitsstarke Schlagzeilen, aber nicht unbedingt auf die professionelle Nutzung konzentrieren. Beispielfall: Führen Sie regelmäßige Schulungen zur effektiven und verantwortungsvollen Nutzung von ChatGPT durch. Erstellen Sie ein einfaches, für alle zugängliches Dokument mit den wichtigsten Begrifflichkeiten zur KI-Nutzung in Ihrem Unternehmen. Definieren Sie darin klar und verständlich Begriffe wie „Prompt“, „Algorithmus“ und „Bias“. Erklären Sie, warum ChatGPT nur sehr eingeschränkt zur Recherche taugt. Risikomanagement Risiken und Risikobewertungsprozess Ein zentraler Bestandteil von KI-Governance ist die Identifikation und Dokumentation von Risiken. Die Organisation muss definieren, welche Risiken im Zusammenhang mit KI-Systemen akzeptabel sind und welche nicht. Diese Risikodefinition bildet die Grundlage für alle weiteren Risikomanagement-Aktivitäten. Der Risikobewertungsprozess muss im Einklang mit Gesetzen, der KI-Richtlinie und den KI-Zielen der Organisation stehen. Er sollte so gestaltet sein, dass wiederholte Risikobewertungen konsistente, valide und vergleichbare Ergebnisse liefern. Der Prozess umfasst die Identifikation von Risiken, die das Erreichen der KI-Ziele fördern oder behindern können, sowie deren Analyse und Bewertung. Dabei werden potenzielle Konsequenzen für die Organisation, Einzelpersonen und die Gesellschaft sowie die Eintrittswahrscheinlichkeit der Risiken betrachtet. Die Ergebnisse der Risikoanalyse werden mit den definierten Risikokriterien verglichen, um den Handlungsbedarf zu ermitteln. Empfehlung: Implementieren Sie einen strukturierten KI-Risikobewertungsprozess, der quantitative und qualitative Methoden kombiniert (etwa das NIST-Framework). Führen Sie vierteljährliche Risikobewertungen durch und integrieren Sie die Ergebnisse in den Entscheidungsprozess für KI-Projekte. Entwickeln Sie eine KI-Risikomatrix, die spezifische Risiken für verschiedene KI-Anwendungen und deren potenzielle Auswirkungen auf das Unternehmen und seine Stakeholder abbildet. Ein Anhaltspunkt könnte die in Artikel 9 beschriebenen Anforderungen für Risikomanagement von Hochrisiko-Systemen des EU AI Acts sein. Beispielfall: Etablieren Sie einen einfachen Prozess zur Identifikation und Bewertung von Risiken bei der ChatGPT-Nutzung (siehe „Best Practices“ weiter unten in diesem Deep Dive). Führen Sie regelmäßige Team-Meetings mit den Verantwortlichen durch, um aufgetretene Probleme und potenzielle neue Risiken zu diskutieren. Risikominimierungsmaßnahmen Basierend auf den Ergebnissen der Risikobewertung muss die Organisation einen ausformulierten KI-Risikoplan entwickeln. Der Plan sollte mit den KI-Zielen des Unternehmens in Einklang stehen und gut dokumentiert, kommuniziert sowie für relevante Interessengruppen zugänglich sein. Er legt fest, welche Maßnahmen ergriffen werden, um identifizierte Risiken zu minimieren und auf ein akzeptables Niveau zu reduzieren. Das Prinzip der Risikominimierung ist Kernstück des EU AI Acts und vieler internationaler Regulierungsansätze. Dementsprechend sollte das Thema Priorität haben. Empfehlung: Risiko-Tracker-Software wie das Open-Source-Tool Microsoft Responsible AI Tracker können helfen, einen Überblick der Risiken und Gegenmaßnahmen aufzubauen. Beispielfall: Definieren Sie konkrete Maßnahmen zur Risikominimierung, wie das Vier-Augen-Prinzip bei der Content-Erstellung mit ChatGPT. Ermutigen Sie Mitarbeiter, kritisch mit den generierten Inhalten umzugehen und diese als Basis für die weitere Arbeit, aber nicht unbedingt als Endprodukt zu betrachten. KI-Lebenszyklus Nicht jedes Unternehmen oder jede Organisation entwickelt KI-Systeme. Allerdings kann der Betrieb von nicht selbst entwickelten KI-Modellen die Notwendigkeit von Überwachungsmaßnahmen mit sich ziehen. KI-Governance muss deshalb den gesamten KI-Lebenszyklus, von der Konzeption bis zum Betrieb eines KI-Systems, im Blick haben. Eventuell sind für Ihr Unternehmen nur einige Teilaspekte relevant. Der EU AI Act trennt zwischen Hersteller (KI-Entwickler) und Anwender: Als KI-Entwickler im Sinne des EU‑AI‑Acts gilt, wer ein KI-System oder ein generelles KI-Modell entwickelt oder entwickeln lässt und unter eigenem Namen oder Markenzeichen auf den Markt bringt oder in Betrieb nimmt – unabhängig davon, ob das kostenlos oder gegen Bezahlung geschieht. Sollte ein Anwender das KI-System maßgeblich modifizieren, könnte er allerdings auch Hersteller sein. Die hier beschriebenen KI-Governance-Konzepte sind also nicht nur für Unternehmen interessant, die KI selbst entwickeln. KI-Lifecycle der OECD Design und Entwicklung Bei Design und Entwicklung von KI-Systemen müssen die Werte der Organisation berücksichtigt werden. Beispielsweise sollten bei einem Fokus auf „Fairness“ entsprechende Maßnahmen in der Entwicklung implementiert werden. Es müssen Prozesse für ein vertrauenswürdiges Design und eine verantwortungsvolle Entwicklung etabliert werden. Wichtige Aspekte umfassen: Definition der Lebenszyklusphasen Festlegung von Testanforderungen und -methoden Bestimmung von Anforderungen an die menschliche Aufsicht Planung von Zeitpunkten für Folgenabschätzungen Erwartungen und Regeln für Trainingsdaten Erforderliche Expertise und Schulungen für Entwickler Freigabekriterien Notwendige Genehmigungen und Abnahmen Änderungsmanagement Benutzerfreundlichkeit und Kontrollierbarkeit Einbindung von Interessengruppen Die Entwicklung muss umfassend dokumentiert werden, einschließlich der Zielsetzung, Trainingsmethoden, Feinabstimmung und potenzieller Sicherheitsrisiken. Empfehlung: Implementieren Sie einen Stage-Gate-Prozess (Aufteilung von Entwicklungsvorhaben in zu durchlaufende Tore/„Gates“, die Qualitätskriterien abfragen) für KI-Entwicklungsprojekte mit definierten Überprüfungspunkten für Ethik, Sicherheit und Compliance. Daten für KI-Systeme Alle relevanten Informationen zu Datenquellen müssen dokumentiert werden, einschließlich Herkunft, letztem Änderungsdatum und Prozessen für das Daten-Labeling. Datenmanagement: Beim Datenmanagement müssen Auswirkungen auf Privatsphäre und Sicherheit berücksichtigt werden. Die Verwendung der Daten im System muss im Hinblick auf Transparenz und Erklärbarkeit dokumentiert werden. Es muss sichergestellt werden, dass die Daten repräsentativ, aktuell und korrekt sind. Datenschutz und Sicherheit: Die Organisation muss spezifische Prozesse zur Sicherstellung der Privatsphäre und Sicherheit von Daten implementieren und dokumentieren. Das umfasst: Datenschutz: Prozesse zur Einhaltung der Datenschutzgesetze, einschließlich der DSGVO, und zur Sicherstellung der Vertraulichkeit und Integrität personenbezogener Daten. Sicherheit: Maßnahmen zur Sicherstellung der Sicherheit der Daten und der KI-Systeme, einschließlich der Identifikation und Mitigation von Bedrohungen wie Data-Poisoning und Model-Inversion-Angriffen. Data Poisoning: Böswillige Manipulation der Trainingsdaten eines KI-Modells, um dessen Verhalten zu beeinflussen. Beispiel: Einfügen falscher Produktbewertungen, um das Empfehlungssystem eines Online-Shops zu manipulieren. Prompt Injection: Ausnutzen der Eingabeaufforderung (Prompt) eines KI-Systems, um es zu unbeabsichtigten Aktionen zu verleiten. Beispiel: Einem Chatbot Anweisungen geben, die seine ursprünglichen Sicherheitsrichtlinien umgehen. Model Inversion: Technik zur Extraktion von Trainingsdaten aus einem trainierten Modell, was Datenschutzrisiken birgt. Beispiel: Rekonstruktion von Adressen/persönlichen Daten aus einem Trainingsdatensatz. Dokumentation: Detaillierte Dokumentation aller Datenschutz- und Sicherheitsmaßnahmen sowie regelmäßige Überprüfung und Aktualisierung dieser Maßnahmen. Datenvorbereitung: Die Organisation sollte Kriterien für die Auswahl von Datenvorbereitungs- und Datenaufbereitungsmethoden definieren und dokumentieren. Daten, die in einem KI-System verwendet werden, müssen häufig vorbereitet werden, um sie für eine bestimmte Aufgabe nutzbar zu machen. Häufig verwendete Datenvorbereitungsmethoden umfassen statistische Exploration, Datenreinigung, Imputation, Normalisierung, Skalierung und Codierung. Empfehlung: Entwickeln Sie einen umfassenden Daten-Governance-Rahmen speziell für KI-Projekte, der Datenqualität, Datenschutz und ethische Datennutzung abdeckt. Implementieren Sie automatisierte Tools zur Überwachung der Datenqualität und zur Erkennung potenzieller Bias in Datensätzen. Etablieren Sie klare Richtlinien für die Datensammlung, -speicherung und -nutzung, die sowohl rechtliche als auch ethische Aspekte berücksichtigen. Beispielfall: Etablieren Sie Richtlinien zum Umgang mit Kundendaten bei der ChatGPT-Nutzung. Regeln Sie insbesondere den Umgang mit der Eingabe von personenbezogenen Daten. Ressourcen und Tooling Alle Ressourcen müssen dokumentiert werden, einschließlich KI-Systemkomponenten, Daten, Algorithmen, System- und IT-Infrastruktur sowie beteiligten Personen. Verwendete Optimierungsmethoden, Algorithmen und Modelle müssen ebenfalls dokumentiert werden. Die Dokumentation sollte detaillierte Informationen über die Herkunft, Nutzung und Verwaltung dieser Ressourcen enthalten, um eine vollständige Transparenz und Nachvollziehbarkeit zu gewährleisten. Empfehlung: Erstellen Sie einen zentralen Katalog aller KI-bezogenen Tools und Ressourcen mit Nutzungsrichtlinien und Genehmigungsprozessen. Testing und Validierung Testkriterien und Freigabekriterien müssen dokumentiert werden. Verifizierungs- und Validierungsmaßnahmen für das KI-System sowie die Kriterien für deren Einsatz müssen ebenfalls spezifiziert und dokumentiert werden. Das umfasst auch die Verifikation und Validierung von Datensätzen. Empfehlung: Testen Sie dazu Open-Source-Tools wie Deepchecks, oder CheckList. Deployment und Betrieb Ein detaillierter Release- und Deployment-Plan muss erstellt werden, der festlegt, wo und wann das System in Betrieb genommen wird. Notwendige Elemente für Leistungsüberwachung, Reparaturen, Updates und Support müssen definiert und dokumentiert werden. Bei KI-Systemen mit kontinuierlichem Lernen ist eine konstante Überwachung der Leistung bzw. des Outputs erforderlich. Beispiele für Überwachungsmetriken sind der F1-Score zur Bewertung von Falsch-Positiv- und Falsch-Negativ-Raten. Event-Logs müssen geführt werden, um den Betrieb des Systems nachvollziehbar zu machen. Empfehlung: Etablieren Sie ein 24/7-Monitoring-System für kritische KI-Systeme mit klaren Eskalationspfaden und Notfallprotokollen. Umgang mit Nichtkonformitäten und Korrekturmaßnahmen Die Organisation muss Prozesse zur Identifikation und Behandlung von Nichtkonformitäten einrichten. Es müssen entsprechende Korrekturmaßnahmen implementiert werden, um die Ursachen von Nichtkonformitäten zu beseitigen und deren Wiederauftreten zu verhindern. Diese Maßnahmen sind zu dokumentieren und regelmäßig zu überprüfen. Empfehlung: Implementieren Sie ein zentrales System zur Erfassung und Verfolgung von KI-bezogenen Compliance- oder Sicherheitsverstößen und Korrekturmaßnahmen. Führen Sie vierteljährliche Überprüfungen der Nichtkonformitäten durch, um Muster zu identifizieren und systemische Verbesserungen vorzunehmen. Beispielfall: Etablieren Sie einen Prozess für den Umgang mit problematischen, etwa qualitativ minderwertigen ChatGPT-Outputs. Sperren Sie bei unpassenden Outputs den betreffenden Prompt und leiten Sie ihn zur Überprüfung an die verantwortliche Person weiter. Krisenmanagement und Notfallplanung Die Organisation sollte bei besonders kritischen KI-Systemen einen umfassenden Plan für das Krisenmanagement und Notfallszenarien im Zusammenhang mit KI-Systemen entwickeln. Dieser Plan sollte potenzielle Krisensituationen identifizieren, klare Eskalationsprozesse definieren und Notfallmaßnahmen festlegen. Empfehlung: Besonders bei ausfallkritischen Systemen sind Fallback- bzw. Backup-Systeme zu implementieren. Impact Assessment Ein umfassendes Impact-Assessment ist ein wesentlicher Bestandteil des verantwortungsvollen KI-Managements. Es zielt darauf ab, potenzielle Auswirkungen des KI-Systems auf Individuen und die Gesellschaft zu identifizieren und zu bewerten. Das Impact Assessment sollte als kontinuierlicher Prozess verstanden werden, der regelmäßig überprüft und aktualisiert wird. Wichtige Aspekte Bei der Durchführung eines Impact Assessments für KI-Systeme müssen folgende Schlüsselaspekte berücksichtigt werden: Rechtliche Position und Lebenschancen von Individuen Physisches und psychologisches Wohlbefinden von Individuen Universelle Menschenrechte Gesellschaftliche Auswirkungen Elemente des Impact Assessments Ein effektives Impact-Assessment für KI-Systeme sollte folgende Elemente beinhalten: Bedingungen für erneute Überprüfung Identifizierung möglicher Konsequenzen Wahrscheinlichkeitseinschätzung Bewertung und Maßnahmen Langfristige Auswirkungen und Nachhaltigkeit Das Impact Assessment sollte auch die langfristigen Auswirkungen der KI-Systeme auf Umwelt, Gesellschaft und Wirtschaft berücksichtigen. Das umfasst die Bewertung des Energieverbrauchs und der CO₂-Emissionen, die durch den Betrieb der KI-Systeme verursacht werden, sowie mögliche langfristige Auswirkungen auf Arbeitsmarkt und soziale Strukturen. Die Organisation sollte Strategien entwickeln, um negative Auswirkungen zu minimieren und positive Beiträge zur nachhaltigen Entwicklung zu maximieren. Empfehlung: Entwickeln Sie eine umfassende Impact-Assessment-Checkliste, die technische, ethische, soziale und wirtschaftliche Aspekte abdeckt. Das Impact Assessment der französischen Datenschutzbehörde CINIL und das EU-ALTAI-Tool liefern gute Impulse dazu. Dokumentation und Transparenz Eine umfassende und präzise Dokumentation ist ein zentraler Bestandteil einer effektiven KI-Governance. Sie gewährleistet Transparenz, Nachvollziehbarkeit und unterstützt die kontinuierliche Verbesserung der KI-Systeme. Technische Dokumentation Die technische Dokumentation sollte detaillierte Informationen über das KI-System enthalten, einschließlich: Systembeschreibung Akzeptable Fehlerraten und Robustheit Verwendete Datensätze Algorithmen und Modelle Leistungsmetriken Sicherheitsmaßnahmen Aktualisierungen und Versionshistorie Bekannte Einschränkungen und Verzerrungen Empfehlung: Eine gute Orientierung bieten die Anforderungen an technische Dokumentation im EU AI Act (Anhang XI). Dokumentation für Stakeholder Neben der technischen Dokumentation ist es wichtig, angemessene Informationen (das bedeutet nicht: alle Informationen!) für verschiedene Stakeholder bereitzustellen, einschließlich Endnutzern, Kunden, Entscheidungsträgern, Aufsichtsbehörden, Entwicklern und Ethik-Komitees. Transparenz und Erklärbarkeit Maßnahmen zur Förderung von Transparenz und Rechenschaftspflicht müssen implementiert werden, einschließlich klarer Kommunikation über die Verwendung von KI-Systemen und Bereitstellung von Erklärungen für KI-Entscheidungen, wo angemessen. Ein Beispiel für gut definierte Rechenschaftspflicht sind definierte Verantwortlichkeiten und Zuständigkeiten innerhalb der Organisation für die Überwachung und Verwaltung der KI-Systeme. Empfehlung: Implementieren Sie Tools zur Erklärung von KI-Entscheidungen (etwa LIME, SHAP) in Ihre KI-Systeme und machen Sie deren Verwendung obligatorisch für hochriskante Anwendungen. Entwickeln Sie Richtlinien für die Kommunikation von KI-Entscheidungen an Endnutzer und schulen Sie Mitarbeiter in der Interpretation und Erklärung von KI-Outputs. Beispielfall: Kennzeichnen Sie alle KI-Outputs (vor allem aber generierte Bilder), die vollautomatisch mit ChatGPT erstellt wurden. Stakeholder-Management und externe Beziehungen Stakeholder-Identifikation und -Engagement Etablieren Sie Mechanismen für ein kontinuierliches Engagement mit relevanten Stakeholdern, einschließlich regelmäßiger Konsultationen. Die Zusammenarbeit mit Experten und die Teilnahme an branchenweiten Initiativen sind insbesondere bei derart dynamischen Technologien und den damit einhergehenden Veränderungen wichtig. Lieferanten Die Organisation sollte einen Prozess etablieren, um sicherzustellen, dass die Nutzung von Diensten, Produkten oder Materialien von Lieferanten mit dem verantwortungsvollen Ansatz der Organisation zur Entwicklung und Nutzung von KI-Systemen übereinstimmt. Das umfasst die Dokumentation, wie die KI-Systeme und -Komponenten von Dritten in die von der Organisation entwickelten oder verwendeten Systeme integriert werden. Die Organisation muss sicherstellen, dass Verantwortlichkeiten innerhalb des Lebenszyklus der KI-Systeme klar zwischen der Organisation, ihren Partnern, Lieferanten, Kunden und Drittanbietern zugewiesen sind. Prozesse zur Überprüfung und Sicherstellung, dass die Nutzung von Drittanbieterdiensten den organisatorischen Richtlinien entspricht, müssen eingerichtet werden. Empfehlung: Entwickeln Sie einen KI-spezifischen Verhaltenskodex für Lieferanten und machen Sie dessen Einhaltung zur Voraussetzung für Geschäftsbeziehungen. Beispielfall: Überprüfen Sie halbjährlich die Nutzungsbedingungen und Datenschutzrichtlinien von OpenAI und passen Sie Ihre internen Prozesse entsprechend an oder suchen Sie rechtzeitig Alternativen, etwa Anthropic oder aber Plattformen, die eine breite Palette aktueller KI-Modelle zur Auswahl stellen. Kunden Kundenerwartungen müssen berücksichtigt, Feedback integriert und Transparenz über die Verwendung von KI-Systemen gewährleistet werden. Dafür ist es hilfreich, in der KI-Richtlinie zu definieren, in welchen Fällen die Verwendung von KI offengelegt werden muss. Empfehlung: Veröffentlichen Sie Ihren Ansatz zu KI (etwa eine öffentliche, angepasste Version der KI-Richtlinie) und schaffen Sie so Vertrauen gegenüber Ihren Kunden. Beispielfall: Definieren Sie, welche Kennzeichnungen gegenüber Kunden notwendig sind, etwa „Bild mithilfe von DALL-E 3 generiert“. Verantwortungsvolle Nutzung und ethische Richtlinien Ethische Richtlinien und Prinzipien Es sollten klare ethische Richtlinien und Prinzipien für den Einsatz von KI-Systemen definiert werden, die rechtliche Compliance sicherstellen und potenzielle Risiken, etwa für den Ruf des Unternehmens, adressieren. Empfehlung: Entwickeln Sie einen umfassenden Ethik-Kodex für KI, der spezifische Richtlinien für verschiedene KI-Anwendungen enthält. Implementieren Sie ein Ethik-Review-Board für KI-Projekte und machen Sie dessen Genehmigung zur Voraussetzung für die Entwicklung und den Einsatz von KI-Systemen. Etablieren Sie einen jährlichen Ethik-Audit-Prozess, der die Einhaltung des Ethik-Kodex in KI-Projekten überprüft und Verbesserungsmöglichkeiten identifiziert. Etablierte Richtlinien für vertrauenswürdige KI lauten (EU ALTAI): Menschliche Autonomie und Aufsicht Technische Robustheit und Sicherheit Datenschutz und Datenverwaltung Transparenz Vielfalt, Nichtdiskriminierung und Fairness Ökologisches und gesellschaftliches Wohlergehen Verantwortlichkeit Beispielfall: Definieren und kommunizieren Sie grundlegende ethische Prinzipien für die ChatGPT-Nutzung. Verbieten Sie etwa die Nutzung von ChatGPT zur Erstellung irreführender Werbung oder zur Verbreitung von Fehlinformationen, etwa durch realistische Bilder von Personen des öffentlichen Lebens oder geschützten Produkten und Inhalten? Menschliche Aufsicht Es muss ein angemessenes Modell für die menschliche Aufsicht implementiert werden, sei es HITL (Human-in-the-Loop), HOTL (Human-on-the-Loop) oder HOOTL (human-out-of-the-loop). Das „Human-in-the-loop“-Prinzip Das „human-on-the-loop“-Prinzip Das „human-out-of-the-loop“-Prinzip v. o. n. u.: HITL (human-in-the-loop), HOTL (human-on-the-loop) und HOOTL (human-out-of-the-loop). Human-in-the-Loop: Ein Mensch muss die Aktion auslösen Human-on-the-Loop: Ein Mensch kann eine Aktion abbrechen Human-out-of-the-Loop: kein menschliches Handeln erforderlich Empfehlung: Definieren Sie Kriterien für die Wahl des angemessenen Modells menschlicher Aufsicht (HITL, HOTL, HOOTL) basierend auf Risiko und Anwendungsfall. Beispielfall: Etablieren Sie Prozesse, bei denen bestimmte ChatGPT-generierte Inhalte (etwa sensible Kommunikation) von einem weiteren Mitarbeitenden überprüft werden, bevor der Inhalt in eine Präsentation, Webseite oder ein Projekt übernommen wird. Kontinuierliche Überwachung und Verbesserung Ein System zur kontinuierlichen Überwachung und Bewertung der KI-Systeme sollte eingerichtet werden, das regelmäßige Leistungsüberprüfungen und die Bewertung von Auswirkungen umfasst. Empfehlung: Führen Sie jährliche „KI-Gesundheitschecks“ durch, bei denen alle Aspekte Ihrer KI-Systeme und -Prozesse gründlich überprüft und bewertet werden. Best Practices Ein effektives KI-Governance-System erfordert einen ganzheitlichen Ansatz. Die folgenden Best Practices helfen dabei: Ein interdisziplinäres KI-Governance-Team ist der Grundstein für eine erfolgreiche Strategie. Dieses Team sollte Experten aus IT, Recht, Ethik und relevanten Fachabteilungen umfassen. So kann unter anderem ein Datenschutzbeauftragter wichtige Einblicke in Compliance-Fragen liefern, während ein Ethiker potenzielle moralische Dilemmata aufzeigen kann. Praxisbeispiel: Google hat schon 2018 KI-Prinzipien für das Unternehmen definiert. In der Umsetzung dieser Prinzipien setzen sie auf interdisziplinäre Teams: "Vielfalt der Beiträge. Die ständigen Mitglieder unserer Überprüfungsausschüsse sind Google- und funktionsübergreifend, technisch und nicht-technisch. Mehrere Mitglieder haben einen sozialwissenschaftlichen, philosophischen und ethischen Hintergrund. Wir sind bewusst mehrstufig aufgebaut und umfassen Mitglieder am Anfang ihrer Karriere bis hin zu leitenden Angestellten. Interne und externe Beiträge haben für uns Priorität, insbesondere dann, wenn unsere eigenen Erfahrungen nicht in unsere Entscheidungen einfließen können. Direkte Beiträge von externen Fachleuten und betroffenen Gruppen sind ebenfalls wichtig. So haben uns beispielsweise die Bewertungen der Auswirkungen auf die Menschenrechte, die von Organisationen wie BSR als Bestandteil unserer Sorgfaltspflicht im Bereich der Menschenrechte bereitgestellt werden, sehr geholfen. Es ist wichtig, dass alle Stimmen gehört werden, was nicht immer einfach ist." - Tracy Frey, Director, Product Strategy & Operations, Cloud AI Das Buy-in der Geschäftsleitung ist entscheidend. Regelmäßige Berichte an die Führungsebene helfen, die Bedeutung des Themas zu unterstreichen und auch die dazu nötigen Ressourcen zu sichern. Ein vierteljährlicher KI-Governance-Bericht macht Fortschritte nachvollziehbar und zeigt Herausforderungen und Empfehlungen. Praxisbeispiel: Ein Beispiel ist die Einführung von ethischen Richtlinien für vertrauenswürdige KI und einer dazugehörigen KI-Governance bei der Volkswagen AG. Hier wurde explizit sehr früh in der Entwicklung der KI-Richtlinien der Vorstand einbezogen. Das ermöglichte ein erfolgreiches Roll-out von begleitenden Schulungsmaßnahmen. Die Kommunikation der Initiative wurde etwa durch die Beteiligung der IT-Vorständin Hauke Stars gestärkt. LinkedIn-Kommentar von Hauke Stars zu einer VW-KI-Kampagne Ein umfassendes KI-Inventar bildet die Basis für effektives Management. Es sollte alle KI-Systeme und -Projekte im Unternehmen erfassen, von der Chatbot-Anwendung im Kundenservice bis zum Predictive-Maintenance-System in der Produktion. Praxisbeispiel: Amazon bietet mit seinem SageMaker Model Monitor eine Lösung für die Überwachung von KI-Systemen in Produktion. Da KI-Modelle anfällig für unvorhergesehene Veränderungen (etwa Modelldrift) sind, sollte die Performance stetig überwacht werden. SageMaker bietet dazu KI-Governance-Funktionen wie Dokumentation und Dashboards. Eine Risiko-Klassifizierung hilft, Ressourcen gezielt einzusetzen. Ein dreistufiges System (niedrig/mittel/hoch) könnte insbesondere ein KI-basiertes Empfehlungssystem für Produkte als „niedrig“, ein HR-Screening-Tool als „mittel“ und ein autonomes Fahrzeugsystem als „hoch“ einstufen. Eine einfache Ampellogik ist empfehlenswert. Praxisbeispiel: Der EU AI Act („KI-Verordnung“) schlägt folgende Risikoklassen vor, die als gute Einstufung für eine interne Risiko-Klassifizierung dienen: Risikoklassen des EU AI Acts Ethik-Checklisten für KI-Projekte stellen sicher, dass wichtige Fragen nicht übersehen werden. Eine solche Liste kann Punkte wie „Wurden potenzielle Bias in den Trainingsdaten überprüft?“ oder „Ist das System für Nutzer transparent und erklärbar?“ enthalten. Praxisbeispiel: Microsoft hat eine „AI Fairness Checkliste“ entwickelt, die als Basis für eine eigene Checkliste dienen kann. Das Unternehmen stellt ebenfalls einen Werkzeugkasten auf GitHub für vertrauenswürdige KI zur Verfügung. Microsoft AI Fairness Checklist KI-Folgenabschätzungen müssen vor der Implementierung neuer Systeme durchgeführt werden. Das kann eine Analyse der Auswirkungen auf Arbeitsplätze, Datenschutz oder gesellschaftliche Fairness umfassen. Das muss nicht immer negativ besetzt sein, gerade erwartete Produktivitätsgewinne können somit kommuniziert und später abgeglichen werden. Wenn Sie also keine negativen Folgen für Mensch und Umwelt erwarten, sondern starke Produktivitätszuwächse, können Sie auf Basis der Folgeabschätzung geeignete KPIs einführen, um Ihre erwarteten Ergebnisse zu validieren. Praxisbeispiel: Microsoft hat auch ein Template für ein umfangreiches „Impact Assessment“ von KI-Systemen veröffentlicht. Responsible AI Impact Assessment Template Regelmäßige KI-spezifische Schulungen für Mitarbeitende fördern das Verständnis und die verantwortungsvolle Nutzung. Die Inhalte können von grundlegenden KI-Konzepten bis zu ethischen Überlegungen reichen. Aus unserer Erfahrung heraus ist das einer der Grundsteine für eine erfolgreiche Integration von KI ins Unternehmen. Nur wer sich persönlich abgeholt und aktiv eingebunden fühlt, beginnt, mit KI zu arbeiten. Praxisbeispiel: Deloitte Deutschland hat einen „KI-Führerschein“ für Mitarbeitende entwickelt, den alle Mitarbeitenden machen müssen: "Wir haben es auch ganz bewusst "Führerschein" genannt. Warum? Weil die KI der neue Co-Pilot im Team ist. Und da muss man jetzt erst einmal gemeinsam fahren lernen. Wir befinden uns im „Age of Will". Wir alle werden mit KI arbeiten. KI wird nicht alle Beratenden ersetzen, aber sie wird Aufgaben ersetzen, wird Arten der Leistungserbringung verändern und so weiter und so fort. Dieses Bewusstsein wollen wir unseren Mitarbeitenden verschaffen, um sie auch zu ermutigen, Dinge auszuprobieren." - Nicolai Andersen, Deloitte Global Leader | Strategy, Risk & Transactions Eine externe Prüfung der KI-Governance kann wertvolle Einblicke liefern und die Glaubwürdigkeit erhöhen. Das kann etwa durch unabhängige Audits oder die Teilnahme an Brancheninitiativen erfolgen. Praxisbeispiel: Das Projekt „Zertifizierte KI“ (Fraunhofer, BSI, Universität Bonn, DIN, Universität Köln, Universität Aachen) bietet einen kostenlosen Prüfkatalog, der eine gute erste Anlaufstelle für die Prüfung von KI-Systemen darstellt. Ziel des Projekts ist es, eine unabhängige KI-Zertifizierung zu schaffen. Anbieter wie BSI bieten Zertifizierungen nach ISO 42001, die Ihre KI-Governance umfangreich prüfen. Durch eine schrittweise Umsetzung der KI-Governance lernen Sie aus Erfahrungen und können das System kontinuierlich verbessern. Ein Pilotprojekt könnte beispielsweise in einer einzelnen Abteilung starten, bevor es unternehmensweit ausgerollt wird. Auch müssen nicht zum Start gleich alle Schulungsmaterialien oder perfekte Richtlinien fertig sein. Praxisbeispiel: SAP veröffentlichte seine KI-Richtlinien („Guiding Principles for Artificial Intelligence“) 2018. Die Richtlinie etablierte grundlegende Regeln im Umgang mit KI, blieb allerdings vage in der Umsetzung. Erst 2022, also vier Jahre später, folgte ein umfangreicheres Rahmenwerk, das eine KI-Governance-Struktur einführte („SAP Global AI Ethics Policy“). SAP Global AI Ethics Policy Zusammenfassung KI-Governance-Team aus verschiedenen Bereichen zusammenstellen (IT, Recht, Ethik, Fachabteilungen) KI-Inventar erstellen: Alle KI-Systeme und -Projekte erfassen Risiko-Klassifizierung für KI-Systeme einführen (etwa niedriges/mittleres/hohes Risiko) Ethik-Checklisten für KI-Projekte entwickeln Prozess für KI-Folgenabschätzungen einführen KI-spezifische Schulungen für Mitarbeiter durchführen Unterstützung der Geschäftsleitung einholen und regelmäßiges Reporting zu KI-Governance Externe Prüfung der KI-Governance in Betracht ziehen Schrittweise Umsetzung: Mit Pilotprojekten starten und System iterativ ausbauen Fazit und Handlungsempfehlungen Künstliche Intelligenz ist nicht einfach die nächste industrielle Revolution: Selbst wenn die Fähigkeiten aktueller Sprachmodelle auf dieser Stufe stehen bleiben, sind sie bereits ein unverzichtbares Werkzeug im Arbeitsalltag für Effizienz und Qualität. Während einige Branchen und Unternehmen KI heute mehr oder weniger intensiv nutzen, ist die Tendenz eindeutig: KI wird menschliche Arbeit fundamental und nachhaltig verändern. Bei heise wurde etwa seit September 2023 über ein Jahr an zusätzlicher Arbeit durch Text-KI ermöglicht. Wer sich dieser Entwicklung verschließt, notwendige Veränderungen nicht angeht oder offensichtliche KI-Anwendungen ignoriert, riskiert, von Wettbewerbern überholt zu werden und langfristig an Relevanz zu verlieren. "KI ist ein digitales Gehirn in großen Computern" - Ilya Sutskever, Miterfinder von ChatGPT Unser Umgang mit diesem digitalen Gehirn, auch Co-Intelligenz genannt, die Effektivität seiner Integration in Unternehmen, die produktive Einbindung an der Seite von Mitarbeitenden und die sichere Nutzung seiner Fähigkeiten werden maßgeblich bestimmen, inwieweit wir die Zukunft aktiv mitgestalten. Mit dem EU AI Act und anderen internationalen Regulierungen beginnen Regierungen, KI staatlich zu kontrollieren. Noch herrscht große Unsicherheit darüber, welche konkreten Maßnahmen Unternehmen ergreifen müssen, um diese (mehr oder weniger sinnvollen) Regularien einzuhalten. Für den EU AI Act beispielsweise gibt es noch keine endgültigen Umsetzungsrichtlinien. Führende Wirtschaftsprüfer betonen jedoch, dass Unternehmen, die heute proaktiv eine solide KI-Governance etablieren, mit hoher Wahrscheinlichkeit gut auf den EU AI Act vorbereitet sein werden. Wir empfehlen an dieser Stelle unseren Deep Dive für den Monat Oktober, in dem wir den EU AI Act ausführlich von Fachleuten analysieren lassen. Jede Organisation, jedes Unternehmen, das KI einsetzen will, benötigt eine durchdachte KI-Governance. An klaren Regeln, definierten Prozessen und transparenten Verantwortlichkeiten führt kein Weg vorbei, wenn KI professionell genutzt werden soll. Es ist keine Option mehr, sich ausschließlich auf IT-Abteilungen oder einzelne engagierte Mitarbeitende zu verlassen. Digitale Transformation ist eine holistische Angelegenheit und generative KI legt durch ihre bemerkenswerte Dynamik den Finger in diesen oft wunden Punkt. Es bedarf eines strukturierten, nachhaltigen und unternehmensweiten Ansatzes. Mit diesem Deep Dive haben Sie einen umfassenden Überblick über die wichtigsten Kernelemente einer effektiven KI-Governance zur Verfügung. Nun liegt es an Ihnen, dieses Wissen in die Praxis umzusetzen und KI erfolgreich in Ihrem Unternehmen zu implementieren.

KI-Governance - So setzen Sie generative KI perfekt im Unternehmen um

Einleitung

Definition und Bedeutung von KI-Governance

heise KI PROKI VERSTEHEN UND ANWENDEN

heise KI PRO
KI VERSTEHEN UND ANWENDEN