Eine neue ISO-Norm soll einen übergeordneten Rahmen für die verantwortungsvolle Entwicklung von KI schaffen.
Die Internationale Organisation für Normung (ISO) und die Internationale Elektrotechnische Kommission (IEC) haben die neue internationale Norm ISO/IEC 42001 verabschiedet. Diese Norm soll Organisationen dabei unterstützen, KI-Systeme verantwortungsvoll zu entwickeln und einzusetzen.
ISO/IEC 42001 ist die weltweit erste Norm für KI-Managementsysteme und soll eine nützliche Orientierungshilfe in einem sich schnell entwickelnden Technologiebereich bieten. Sie befasst sich mit verschiedenen Herausforderungen, die KI mit sich bringt, wie ethische Überlegungen, Transparenz und kontinuierliches Lernen. Für Organisationen soll der Standard eine strukturierte Möglichkeit bieten, Risiken und Chancen im Zusammenhang mit KI auszubalancieren.
Der Standard richtet sich an Unternehmen, die KI-basierte Produkte oder Dienstleistungen anbieten oder nutzen. Er ist für alle KI-Systeme konzipiert und soll in verschiedenen Anwendungsbereichen und Kontexten anwendbar sein. Eine Leseprobe stellt die ISO auf dieser Seite zur Verfügung, der Volltext kostet 187 Schweizer Franken.
ISO hat bereits mehrere KI-Normen entwickelt, darunter ISO/IEC 22989, die KI-Terminologie definiert, ISO/IEC 23053, die ein Rahmenwerk für KI und maschinelles Lernen bereitstellt, und ISO/IEC 23894, die Leitlinien für KI-bezogenes Risikomanagement bietet. ISO/IEC 42001 dient nun der übergreifenden Steuerung.
AWS integriert ISO-Standard
Amazons IT-Abteilung Amazon Web Services (AWS) hat sich bereits der neuen Norm ISO/IEC 42001 angeschlossen. AWS hat seit 2021 an der Entwicklung mitgearbeitet und bereits vor der endgültigen Veröffentlichung der Norm Grundlagen geschaffen.
Das US-Unternehmen stellt unter anderem die wichtige Server-Infrastruktur für Sprachmodelle wie Claude bereit. Anthropic, der Entwickler von Claude, hat sich schon früh für eine verantwortungsvolle Nutzung der Technologie eingesetzt und eine "Verfassung" für LLMs entwickelt.
AWS betrachtet Vertrauen in KI als entscheidend und sieht die Integration von Standards wie ISO/IEC 42001, die KI-Governance fördern, als einen Weg, öffentliches Vertrauen aufzubauen.
Internationale Normen sind ein wichtiges Instrument zur Unterstützung von Organisationen bei der Umsetzung nationaler regulatorischer Anforderungen in Konformitätsmechanismen, einschließlich technischer Praktiken, die weltweit weitgehend kompatibel sind. Wirksame Normen tragen dazu bei, die Verwirrung darüber zu verringern, was KI ist und was verantwortungsvolle KI beinhaltet, und helfen der Industrie, sich auf die Verringerung potenzieller Schäden zu konzentrieren. AWS arbeitet in einer Gemeinschaft verschiedener internationaler Stakeholder an der Verbesserung neuer KI-Standards zu einer Vielzahl von Themen wie Risikomanagement, Datenqualität, Bias und Transparenz.
Swami Sivasubramanian, VP Data und Machine Learning bei AWS
Mit KI-Fortschritt wächst der Regulierungsbedarf
Mit dem zunehmenden Einsatz von KI in allen Sektoren wächst auch die Sorge über mögliche Schäden, die durch den unkontrollierten Einsatz von KI-Systemen entstehen können. Wenn beispielsweise Entwickler:innen großer Sprachmodelle keine entsprechenden Leitplanken integrieren, können sie für kriminelle Zwecke missbraucht werden, wie Open-Source-Projekte beweisen.
Der Trend in der KI-Regulierungslandschaft geht dahin, verantwortungsvolle KI als gesetzliche Anforderung zu etablieren. Organisationen können daher verantwortungsvolle KI-Praktiken in ihre Systeme integrieren oder darauf warten, dass neue Vorschriften sie dazu zwingen.
Der EU AI Act, der bereits 2021 von der Europäischen Kommission initiiert und dieses Jahr verabschiedet wurde, zielt ebenfalls auf die Regulierung von KI in Europa ab und könnte auch die Gesetzgebung außerhalb der EU beeinflussen.
Der Vorschlag verfolgt einen risikobasierten Ansatz und soll für alle Akteur:innen gelten, die in der EU ein KI-System entwickeln oder betreiben. Zusammen mit ISO/IEC 42001 signalisiert diese Gesetzgebung einen breiteren kulturellen Wandel in der Technologiebranche und anderen Industrien hin zu verantwortungsvoller KI.
