Inhalt
newsletter Newsletter

Das Europäische Parlament hat seine endgültige Position zum EU-Gesetz über künstliche Intelligenz veröffentlicht und dabei einige Änderungen gegenüber dem ursprünglichen Entwurf hervorgehoben.

Eine der wichtigsten Änderungen ist die Ausweitung des Geltungsbereichs des Gesetzes. Die Definition von "künstlicher Intelligenz" wird erweitert und umfasst nun auch maschinelle Systeme, die mit unterschiedlichem Grad an Autonomie Vorhersagen, Empfehlungen oder Entscheidungen für implizite und explizite Ziele generieren können, was ... sehr weit gefasst ist.

Das Verbot biometrischer Identifizierungssysteme, wie sie beim Social Scoring verwendet werden, wurde ausgeweitet, und "Empfehlungssysteme sehr großer Online-Plattformen" können als KI-Systeme mit hohem Risiko eingestuft werden, d.h. als Systeme, die der Gesundheit, Sicherheit, den Grundrechten oder der Umwelt von Menschen erheblichen Schaden zufügen.

"Das KI-Gesetz wird weltweit die Richtung für die Entwicklung und den Umgang mit künstlicher Intelligenz vorgeben und sicherstellen, dass diese Technologie, die unsere Gesellschaft aufgrund der enormen Vorteile, die sie bieten kann, radikal verändern wird, im Einklang mit den europäischen Werten der Demokratie, der Grundrechte und der Rechtsstaatlichkeit entwickelt und eingesetzt wird", sagt der Ko-Berichterstatter Dragos Tudorache.

Anzeige
Anzeige

Weitere KI-Systeme wurden in die Liste der verbotenen Systeme aufgenommen, z. B. für vorausschauende Polizeiarbeit und biometrische Kategorisierung, und einige Bußgelder für Verstöße wurden erheblich gesenkt.

Generative KI auf dem Prüfstand

Generative KI wird nun explizit im Gesetz erwähnt und muss einer Vorabprüfung unterzogen werden. Unternehmen, die grundlegende Modelle anbieten, wären verpflichtet, potenzielle Risiken für Bereiche wie Gesundheit, Sicherheit, grundlegende Menschenrechte, Umwelt, Demokratie und Rechtsstaatlichkeit zu bewerten und zu adressieren. Außerdem müssten sie diese Modelle in der EU-Datenbank registrieren lassen, bevor sie sie auf den EU-Markt bringen.

Generative KI-Systeme, die auf solchen Modellen beruhen, wie ChatGPT, müssten Transparenzanforderungen erfüllen (sie müssten offenlegen, dass der Inhalt von KI generiert wurde, was auch dazu beitragen würde, so genannte Deepfake-Bilder von echten Bildern zu unterscheiden) und Schutzmaßnahmen gegen die Erzeugung illegaler Inhalte gewährleisten.

Die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes werden im Laufe des Tages beginnen.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!