EU-Experten fordern Verbot von KI-gestützter Massenüberwachung
KI-Experten der EU warnen in ihrem zweiten Bericht vor Massenüberwachung und Social-Scoring-Systemen.
Im ersten Bericht aus dem April rief eine von der EU eigens für KI-Themen eingesetzte Expertengruppe eine menschenzentrierte, vertrauenswürdige Künstliche Intelligenz als Ziel der europäischen KI-Strategie aus: Sie soll durch menschliche Kontrolle, robuste Systeme, Datenschutz, Transparenz, Vielfältigkeit und Verantwortlichkeit realisiert werden.
Der zweite Bericht enthält nun konkrete Empfehlungen, wie diese Ziele erreicht werden sollen: Der öffentliche Sektor müsse als Vorbild mit vertrauenswürdiger KI vorangehen und es brauche höhere Investitionen in Forschung und Bildung.
Die Gruppe rät außerdem zu einer engeren Zusammenarbeit zwischen Staaten und Wirtschaft, einem Binnenmarkt ohne Grenzen für KI-Technologie und eine Überwachung der Auswirkungen von KI.
Die Warnungen stehen im zweiten Bericht der von der EU im Juni 2018 eingesetzten "High-Level Expert Group on Artificial Intelligence".
Staaten sollen Allmacht widerstehen
Die Experten warnen in ihrem Bericht auch vor der dunklen Seite Künstlicher Intelligenz: KI-gestützte Überwachungssysteme.
Auch wenn die Versuchung für Regierungen womöglich groß sei, eine "sichere Gesellschaft" mit einem allgegenwärtigen KI-Überwachungssystem zu schaffen, wäre dies "äußerst gefährlich", heißt es in der Veröffentlichung.
Staaten sollen auf KI-gestützte Massenüberwachung verzichten: Wo Überwachung nötig sei, soll auf vertrauenswürdige KI-Systeme gesetzt werden, die mit Grundgesetzen und ethischen Prinzipien vereinbar seien. Es müsse sichergestellt werden, dass KI-Überwachung "nicht dazu dient, (politische) Opposition oder demokratische Prozesse zu unterdrücken oder zu untergraben."
Ebenfalls im Zielkreuz der Experten: Die KI-betriebene, massenhafte Bewertung von Individuen, wie sie etwa in Chinas Sozialkreditsystem stattfindet. Die Gruppe fordert ein komplettes Verbot solcher Systeme.
Wie auch beim ersten Bericht der Expertengruppe gilt: Alle Inhalte sind nur Empfehlungen und haben keine Rechtsgültigkeit.
Dafür braucht es, wie Gruppenmitglied Thomas Metzinger bereits im April sagte, "Regeln, die bindend sind, durchsetzbar und demokratisch voll legitimiert."
Nun ist der Gesetzgeber an der Reihe.
Quelle: Europäische Union
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.