Das Europäische Parlament hat seine endgültige Position zum EU-Gesetz über künstliche Intelligenz veröffentlicht und dabei einige Änderungen gegenüber dem ursprünglichen Entwurf hervorgehoben.
Eine der wichtigsten Änderungen ist die Ausweitung des Geltungsbereichs des Gesetzes. Die Definition von "künstlicher Intelligenz" wird erweitert und umfasst nun auch maschinelle Systeme, die mit unterschiedlichem Grad an Autonomie Vorhersagen, Empfehlungen oder Entscheidungen für implizite und explizite Ziele generieren können, was ... sehr weit gefasst ist.
Das Verbot biometrischer Identifizierungssysteme, wie sie beim Social Scoring verwendet werden, wurde ausgeweitet, und "Empfehlungssysteme sehr großer Online-Plattformen" können als KI-Systeme mit hohem Risiko eingestuft werden, d.h. als Systeme, die der Gesundheit, Sicherheit, den Grundrechten oder der Umwelt von Menschen erheblichen Schaden zufügen.
"Das KI-Gesetz wird weltweit die Richtung für die Entwicklung und den Umgang mit künstlicher Intelligenz vorgeben und sicherstellen, dass diese Technologie, die unsere Gesellschaft aufgrund der enormen Vorteile, die sie bieten kann, radikal verändern wird, im Einklang mit den europäischen Werten der Demokratie, der Grundrechte und der Rechtsstaatlichkeit entwickelt und eingesetzt wird", sagt der Ko-Berichterstatter Dragos Tudorache.
Weitere KI-Systeme wurden in die Liste der verbotenen Systeme aufgenommen, z. B. für vorausschauende Polizeiarbeit und biometrische Kategorisierung, und einige Bußgelder für Verstöße wurden erheblich gesenkt.
Generative KI auf dem Prüfstand
Generative KI wird nun explizit im Gesetz erwähnt und muss einer Vorabprüfung unterzogen werden. Unternehmen, die grundlegende Modelle anbieten, wären verpflichtet, potenzielle Risiken für Bereiche wie Gesundheit, Sicherheit, grundlegende Menschenrechte, Umwelt, Demokratie und Rechtsstaatlichkeit zu bewerten und zu adressieren. Außerdem müssten sie diese Modelle in der EU-Datenbank registrieren lassen, bevor sie sie auf den EU-Markt bringen.
Generative KI-Systeme, die auf solchen Modellen beruhen, wie ChatGPT, müssten Transparenzanforderungen erfüllen (sie müssten offenlegen, dass der Inhalt von KI generiert wurde, was auch dazu beitragen würde, so genannte Deepfake-Bilder von echten Bildern zu unterscheiden) und Schutzmaßnahmen gegen die Erzeugung illegaler Inhalte gewährleisten.
Die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes werden im Laufe des Tages beginnen.
