KI-Experten der EU warnen in ihrem zweiten Bericht vor Massenüberwachung und Social-Scoring-Systemen.
Im ersten Bericht aus dem April rief eine von der EU eigens für KI-Themen eingesetzte Expertengruppe eine menschenzentrierte, vertrauenswürdige Künstliche Intelligenz als Ziel der europäischen KI-Strategie aus: Sie soll durch menschliche Kontrolle, robuste Systeme, Datenschutz, Transparenz, Vielfältigkeit und Verantwortlichkeit realisiert werden.
Der zweite Bericht enthält nun konkrete Empfehlungen, wie diese Ziele erreicht werden sollen: Der öffentliche Sektor müsse als Vorbild mit vertrauenswürdiger KI vorangehen und es brauche höhere Investitionen in Forschung und Bildung.
Die Gruppe rät außerdem zu einer engeren Zusammenarbeit zwischen Staaten und Wirtschaft, einem Binnenmarkt ohne Grenzen für KI-Technologie und eine Überwachung der Auswirkungen von KI.
Die Warnungen stehen im zweiten Bericht der von der EU im Juni 2018 eingesetzten "High-Level Expert Group on Artificial Intelligence".
Staaten sollen Allmacht widerstehen
Die Experten warnen in ihrem Bericht auch vor der dunklen Seite Künstlicher Intelligenz: KI-gestützte Überwachungssysteme.
Auch wenn die Versuchung für Regierungen womöglich groß sei, eine "sichere Gesellschaft" mit einem allgegenwärtigen KI-Überwachungssystem zu schaffen, wäre dies "äußerst gefährlich", heißt es in der Veröffentlichung.
Staaten sollen auf KI-gestützte Massenüberwachung verzichten: Wo Überwachung nötig sei, soll auf vertrauenswürdige KI-Systeme gesetzt werden, die mit Grundgesetzen und ethischen Prinzipien vereinbar seien. Es müsse sichergestellt werden, dass KI-Überwachung "nicht dazu dient, (politische) Opposition oder demokratische Prozesse zu unterdrücken oder zu untergraben."
Ebenfalls im Zielkreuz der Experten: Die KI-betriebene, massenhafte Bewertung von Individuen, wie sie etwa in Chinas Sozialkreditsystem stattfindet. Die Gruppe fordert ein komplettes Verbot solcher Systeme.
Wie auch beim ersten Bericht der Expertengruppe gilt: Alle Inhalte sind nur Empfehlungen und haben keine Rechtsgültigkeit.
Dafür braucht es, wie Gruppenmitglied Thomas Metzinger bereits im April sagte, "Regeln, die bindend sind, durchsetzbar und demokratisch voll legitimiert."
Nun ist der Gesetzgeber an der Reihe.
Quelle: Europäische Union