Inhalt
newsletter Newsletter

KI-Experten der EU warnen in ihrem zweiten Bericht vor Massenüberwachung und Social-Scoring-Systemen.

Anzeige

Im ersten Bericht aus dem April rief eine von der EU eigens für KI-Themen eingesetzte Expertengruppe eine menschenzentrierte, vertrauenswürdige Künstliche Intelligenz als Ziel der europäischen KI-Strategie aus: Sie soll durch menschliche Kontrolle, robuste Systeme, Datenschutz, Transparenz, Vielfältigkeit und Verantwortlichkeit realisiert werden.

Der zweite Bericht enthält nun konkrete Empfehlungen, wie diese Ziele erreicht werden sollen: Der öffentliche Sektor müsse als Vorbild mit vertrauenswürdiger KI vorangehen und es brauche höhere Investitionen in Forschung und Bildung.

Die Gruppe rät außerdem zu einer engeren Zusammenarbeit zwischen Staaten und Wirtschaft, einem Binnenmarkt ohne Grenzen für KI-Technologie und eine Überwachung der Auswirkungen von KI.

Anzeige
Anzeige

Die Warnungen stehen im zweiten Bericht der von der EU im Juni 2018 eingesetzten "High-Level Expert Group on Artificial Intelligence".

Staaten sollen Allmacht widerstehen

Die Experten warnen in ihrem Bericht auch vor der dunklen Seite Künstlicher Intelligenz: KI-gestützte Überwachungssysteme.

Auch wenn die Versuchung für Regierungen womöglich groß sei, eine "sichere Gesellschaft" mit einem allgegenwärtigen KI-Überwachungssystem zu schaffen, wäre dies "äußerst gefährlich", heißt es in der Veröffentlichung.

Staaten sollen auf KI-gestützte Massenüberwachung verzichten: Wo Überwachung nötig sei, soll auf vertrauenswürdige KI-Systeme gesetzt werden, die mit Grundgesetzen und ethischen Prinzipien vereinbar seien. Es müsse sichergestellt werden, dass KI-Überwachung "nicht dazu dient, (politische) Opposition oder demokratische Prozesse zu unterdrücken oder zu untergraben."

Ebenfalls im Zielkreuz der Experten: Die KI-betriebene, massenhafte Bewertung von Individuen, wie sie etwa in Chinas Sozialkreditsystem stattfindet. Die Gruppe fordert ein komplettes Verbot solcher Systeme.

Empfehlung

Wie auch beim ersten Bericht der Expertengruppe gilt: Alle Inhalte sind nur Empfehlungen und haben keine Rechtsgültigkeit.

Dafür braucht es, wie Gruppenmitglied Thomas Metzinger bereits im April sagte, "Regeln, die bindend sind, durchsetzbar und demokratisch voll legitimiert."

Nun ist der Gesetzgeber an der Reihe.

Quelle: Europäische Union

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über Künstliche Intelligenz:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!