Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Eine neue ISO-Norm soll einen übergeordneten Rahmen für die verantwortungsvolle Entwicklung von KI schaffen.

Die Internationale Organisation für Normung (ISO) und die Internationale Elektrotechnische Kommission (IEC) haben die neue internationale Norm ISO/IEC 42001 verabschiedet. Diese Norm soll Organisationen dabei unterstützen, KI-Systeme verantwortungsvoll zu entwickeln und einzusetzen.

ISO/IEC 42001 ist die weltweit erste Norm für KI-Managementsysteme und soll eine nützliche Orientierungshilfe in einem sich schnell entwickelnden Technologiebereich bieten. Sie befasst sich mit verschiedenen Herausforderungen, die KI mit sich bringt, wie ethische Überlegungen, Transparenz und kontinuierliches Lernen. Für Organisationen soll der Standard eine strukturierte Möglichkeit bieten, Risiken und Chancen im Zusammenhang mit KI auszubalancieren.

Der Standard richtet sich an Unternehmen, die KI-basierte Produkte oder Dienstleistungen anbieten oder nutzen. Er ist für alle KI-Systeme konzipiert und soll in verschiedenen Anwendungsbereichen und Kontexten anwendbar sein. Eine Leseprobe stellt die ISO auf dieser Seite zur Verfügung, der Volltext kostet 187 Schweizer Franken.

Anzeige
Anzeige

ISO hat bereits mehrere KI-Normen entwickelt, darunter ISO/IEC 22989, die KI-Terminologie definiert, ISO/IEC 23053, die ein Rahmenwerk für KI und maschinelles Lernen bereitstellt, und ISO/IEC 23894, die Leitlinien für KI-bezogenes Risikomanagement bietet. ISO/IEC 42001 dient nun der übergreifenden Steuerung.

AWS integriert ISO-Standard

Amazons IT-Abteilung Amazon Web Services (AWS) hat sich bereits der neuen Norm ISO/IEC 42001 angeschlossen. AWS hat seit 2021 an der Entwicklung mitgearbeitet und bereits vor der endgültigen Veröffentlichung der Norm Grundlagen geschaffen.

Das US-Unternehmen stellt unter anderem die wichtige Server-Infrastruktur für Sprachmodelle wie Claude bereit. Anthropic, der Entwickler von Claude, hat sich schon früh für eine verantwortungsvolle Nutzung der Technologie eingesetzt und eine "Verfassung" für LLMs entwickelt.

AWS betrachtet Vertrauen in KI als entscheidend und sieht die Integration von Standards wie ISO/IEC 42001, die KI-Governance fördern, als einen Weg, öffentliches Vertrauen aufzubauen.

Internationale Normen sind ein wichtiges Instrument zur Unterstützung von Organisationen bei der Umsetzung nationaler regulatorischer Anforderungen in Konformitätsmechanismen, einschließlich technischer Praktiken, die weltweit weitgehend kompatibel sind. Wirksame Normen tragen dazu bei, die Verwirrung darüber zu verringern, was KI ist und was verantwortungsvolle KI beinhaltet, und helfen der Industrie, sich auf die Verringerung potenzieller Schäden zu konzentrieren. AWS arbeitet in einer Gemeinschaft verschiedener internationaler Stakeholder an der Verbesserung neuer KI-Standards zu einer Vielzahl von Themen wie Risikomanagement, Datenqualität, Bias und Transparenz.

Swami Sivasubramanian, VP Data und Machine Learning bei AWS

Mit KI-Fortschritt wächst der Regulierungsbedarf

Mit dem zunehmenden Einsatz von KI in allen Sektoren wächst auch die Sorge über mögliche Schäden, die durch den unkontrollierten Einsatz von KI-Systemen entstehen können. Wenn beispielsweise Entwickler:innen großer Sprachmodelle keine entsprechenden Leitplanken integrieren, können sie für kriminelle Zwecke missbraucht werden, wie Open-Source-Projekte beweisen.

Empfehlung

Der Trend in der KI-Regulierungslandschaft geht dahin, verantwortungsvolle KI als gesetzliche Anforderung zu etablieren. Organisationen können daher verantwortungsvolle KI-Praktiken in ihre Systeme integrieren oder darauf warten, dass neue Vorschriften sie dazu zwingen.

Der EU AI Act, der bereits 2021 von der Europäischen Kommission initiiert und dieses Jahr verabschiedet wurde, zielt ebenfalls auf die Regulierung von KI in Europa ab und könnte auch die Gesetzgebung außerhalb der EU beeinflussen.

Der Vorschlag verfolgt einen risikobasierten Ansatz und soll für alle Akteur:innen gelten, die in der EU ein KI-System entwickeln oder betreiben. Zusammen mit ISO/IEC 42001 signalisiert diese Gesetzgebung einen breiteren kulturellen Wandel in der Technologiebranche und anderen Industrien hin zu verantwortungsvoller KI.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Die Internationale Organisation für Normung (ISO) und die Internationale Elektrotechnische Kommission (IEC) haben die weltweit erste KI-Managementsystem-Norm ISO/IEC 42001 verabschiedet, die Organisationen bei der verantwortungsvollen Entwicklung und Nutzung von KI-Systemen unterstützt.
  • Die Norm behandelt Herausforderungen wie ethische Überlegungen, Transparenz und kontinuierliches Lernen und richtet sich an Unternehmen, die KI-basierte Produkte oder Dienstleistungen anbieten oder nutzen.
  • Amazon Web Services (AWS) hat sich bereits der neuen Norm ISO/IEC 42001 verpflichtet und arbeitet an der Verbesserung der neuen KI-Standards zu Themen wie Risikomanagement, Datenqualität, Verzerrung und Transparenz.
Quellen
Jonathan ist Technikjournalist und beschäftigt sich stark mit Consumer Electronics. Er erklärt seinen Mitmenschen, wie KI bereits heute nutzbar ist und wie sie im Alltag unterstützen kann.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!