In ihrem neuen Buch "Künstliche Intelligenz: Wie sie funktioniert und was sie für uns bedeutet" zieht die norwegische Physikerin und KI-Expertin Inga Strümke Parallelen zwischen der Entwicklung der Elektrizität und der künstlichen Intelligenz.
Sie warnt vor übertriebener Technikeuphorie und betont die Bedeutung einer durchdachten Regulierung - besonders im europäischen Kontext. Es folgt eine Leseprobe - und wir verlosen drei Exemplare des neuen Buches, Details zur Verlosung am Ende des Artikels.
Stromkrieg und KI-Verordnung
Es gibt wenig, das ich noch lieber mag als hohe Berge, und wenn es einen Ort auf der Welt mit hohen Bergen gibt, dann ist es Nepal. Als ich das erste Mal Nepal besuchte, landete ich in der Hauptstadt Kathmandu und stieg dort in einem Hotel ab. Der Hotelbesitzer sagte mir, ich dürfe nichts selbst in die Steckdose stecken, sondern müsse jedes Mal einen der Angestellten rufen, beispielsweise, wenn ich mein Handy laden wollte. Zunächst dachte ich, das sei ein Scherz, aber die Erklärung zeigte, dass es sein voller Ernst war, weil das Stromnetz in Kathmandu so instabil ist, dass man einen Schlag bekommen und im schlimmsten Fall einen Arm verlieren kann, wenn man richtig Pech hat, sobald man einen Stecker in die Wand stecken will. Diesen makabren Ratschlag für Touristen bekam ich in der gleichen Woche, in der einer der damaligen Stars unter den KI-Berühmtheiten, Andrew Ng, seiner gesamten Follower-Gemeinde im Internet verkündete, dass »KI die neue Elektrizität ist«.9 Doch was ich hörte, war sicher nicht das, was Ng mit seiner Aussage ursprünglich gemeint hatte. Während ich in meinem Hotelzimmer in Kathmandu saß, mich nach den Bergen sehnte und mich vor dem lebensgefährlichen Stromnetz gruselte, dachte ich: »Ja, vielleicht hast du ja recht. Künstliche Intelligenz ist eine gute Nachricht für uns, wenn wir die Technologie dazu bringen können, für uns zu arbeiten, aber sie ist geradezu lebensbedrohlich für diejenigen, die es nicht schaffen, sie auf gute Art und Weise zu benutzen, oder sich mit dem begnügen müssen, was sie bekommen.« In diesem Satz kann »künstliche Intelligenz « ersetzt werden durch »Elektrizität«, und das beschreibt das Gefühl, das ich hatte, als einer der Hotelangestellten mein Handyladegerät in die Wand einstöpselte.
Als Ng künstliche Intelligenz mit Elektrizität verglich, sagte er weiter: »Genau wie die Elektrizität vor hundert Jahren nahezu alles verändert hat, fällt es mir heute schwer, mir eine Branche vorzustellen, die KI nicht im Laufe der nächsten Jahre verändern wird.«10 Ein Stück weit teile ich seine Meinung, und bei einem Treffen mit dem norwegischen Verteidigungsausschuss im Herbst 2022 lief ich Gefahr, die gleiche Metapher zu benutzen. Ich wurde gefragt, inwiefern ich glaubte, dass maschinelles Lernen die Verteidigung und Kriegsführung in der Zukunft beeinflussen würde, und antwortete, dass die Frage genauso viel Sinn macht, als hätte man Nikola Tesla 1880 gefragt, inwiefern Elektrizität die Kriegsführung in der Zukunft beeinflussen würde. Die Frage danach, was sich ändern wird, zu beantworten war unmöglich, nicht nur, weil niemand hätte voraussehen können, wie bedeutend Elektrizität für die moderne Gesellschaft werden würde, sondern auch, weil die richtige Antwort lautet: »Alles.« Dennoch bin ich der Meinung, dass Ng den klassischen Technologenübereifer zeigt. Uns fehlt die Grundlage, um zu behaupten, dass künstliche Intelligenz einen ebenso großen Einfluss auf die Gesellschaft haben wird, wie es die Elektrizität hatte, also ist das reine Spekulation. Aber wenn wir die Aussage auf andere Art und Weise interpretieren, denke ich, Ng hat da den Kern getroffen.
Die größten Erfinder im Bereich der Elektrizität waren Thomas Edison, der unter anderem die Glühbirne und den Filmprojektor erfand, und Nikola Tesla, der insbesondere die Radiokommunikation und die Fernbedienung entwickelte. Beide waren außerdem bittere Rivalen in einem Konflikt, der als Stromkrieg bekannt wurde, wobei sie unterschiedliche Ansichten darüber hatten, auf welche Weise man am besten Elektrizität generieren und verteilen könnte. Edison meinte, Gleichstrom (DC) sei die beste Form, elektrische Kraft zu überführen, während Tesla meinte, dass Wechselstrom (AC) die beste Methode sei. Edison konnte als Erster eine funktionierende Technologie vorweisen, die auf Gleichstrom basierte, während Tesla immer noch verbissen daran arbeitete, eine Technologie, die Wechselstrom benutzte, ans Laufen zu bringen. Der Stromkrieg wurde hart ausgefochten, und Edison beschränkte sich nicht auf öffentliche Kampagnen, um die Wechselstromtechnologie zu diskreditieren, sondern ging sogar so weit, dass er öffentlich Tiere mit einem Schlag des Wechselstroms hinrichtete, um zu demonstrieren, wie gefährlich dieser sei. Tesla hielt öffentliche Demonstrationen ab und Vorträge, um zu zeigen, dass der Wechselstrom dem Gleichstrom überlegen war. Letztendlich zeigte sich der Wechselstrom als praktischer und effektiver, um elektrische Kraft über lange Distanzen zu überführen, und er wurde somit zum Standard für die Schwerindustrie.
Abgesehen davon, dass es eine unterhaltsame Anekdote ist, haben wir hier gleichzeitig ein Beispiel dafür, dass nicht einmal eine so alltägliche Technologie wie die Elektrizität, die durch unsere Kabel fließt, immer sicher gewesen ist und als für alle Zeiten sicher gelten kann. Ende des 19. Jahrhunderts war Strom immer noch eine bahnbrechende Technologie, deren Nutzung und Regulierung die Gesellschaft erst noch lernen musste, und auch heute noch kommen Menschen ums Leben, weil die Gesellschaft, in der sie leben, keine sichere Möglichkeit für den Umgang mit Strom bietet. Je mächtiger eine Technologie ist, desto schwieriger ist es, eine sichere Methode zu finden, um sie zu verwenden, und desto wichtiger ist es, dass wir Standards haben, nach denen sich alle richten, wenn sie diese nutzen und verteilen wollen – ob nun Elektrizität oder Modelle für maschinelles Lernen. Sicher war es nicht das, was Ng meinte, als er behauptete, die KI sei die neue Elektrizität, dennoch bin ich der Meinung, dass das die treffendste Deutung seiner Aussage ist.
Auch wenn wir in Norwegen das nötige Fachwissen dafür besitzen, glaube ich nicht, dass wir es schaffen werden, die notwendigen Fragen abzuklären, damit maschinelles Lernen auch effektiv genutzt werden kann. Dagegen denke ich, dass wir die neue EURegulierung der künstlichen Intelligenz einführen werden, nun da sie verabschiedet wurde, genau wie wir es gemacht haben, als die GDPR zur Datenschutzverordnung wurde (die norwegische Variante der deutschen DSGVO). Was an sich nicht schlecht ist, denn die Brüsseler Juristen sind sehr fleißig, aber das zeugt nicht gerade davon, dass wir die Sache selbst im Griff haben. Und es sagt uns, dass es nicht dumm wäre, wenn wir die Gedankengänge, denen die EU-Juristen folgen, verstünden.
Diese spezifische Regulierung von KI, die von der EU entwickelt wurde, heißt The Artificial Intelligence Act, kurz AI Act bzw. KI-Verordnung auf Deutsch, und sie wurde am 21. Mai 2024 einstimmig vom EU-Rat ratifiziert. Die Regulierung, die wir bald auch bei uns in Norwegen zu erwarten haben, stellt spezifische Anforderungen an KI-Systeme, unabhängig davon, ob der Anbieter sich in Europa befindet oder nicht. Die Regulierung hat eine risikobasierte Abstufung, was bedeutet, dass sie unterschiedliche Anforderungen an KI-Systeme stellt, abhängig davon, wie hoch das Risiko ist, das die Nutzung birgt. Die höchste Stufe auf dieser Leiter nehmen Systeme mit »inakzeptablem Risiko« ein, die gleich verboten werden. Beispiele für inakzeptable Systeme sind diejenigen, die das menschliche Handeln in einer Art und Weise manipulieren, dass sie psychische und physische Schäden verursachen können, die Verletzlichkeit von Menschen ausnutzen, Sozialkreditsysteme (wie sie zum Beispiel in China verwendet werden) ermöglichen, oder den Behörden die Möglichkeit eröffnen, eine biometrische Identifizierung zu erstellen. Ein interessanter Punkt hierbei ist, dass Instagram bereits ein Problem in dieser Richtung hat, da sich herausgestellt hat, dass ihr Empfehlungsdienst Nutzer identifizieren kann, die leicht durch Hashtags zu beeinflussen sind, die Anorexie fördern. Inwieweit die EU dazu in der Lage sein wird, eines der weltweit meistgenutzten sozialen Medien zu verbieten oder doch an die Leine zu legen, ist eine interessante Frage, die wir weiterverfolgen sollten.
Eine Stufe tiefer finden wir Systeme, die ein »hohes Risiko« bergen. Alles, was hier landet, muss reguliert werden, und Beispiele für derartige Systeme sind diejenigen, die kritische Infrastruktur lenken, Zugang zu Bildung verschaffen oder Zensuren vergeben, die eine Kreditanfrage beurteilen sowie die meisten Anwendungsbereiche innerhalb des Rechtswesens, um nur einige zu nennen. Diese Systeme werden also nicht verboten werden, müssen aber –halt dich fest – unter Aufsicht gestellt werden. Wenn ich raten dürfte, tippe ich darauf, dass wir innerhalb der nächsten fünf Jahre eine Algorithmenaufsicht haben werden, und das Rahmenwerk, das wir für diese Aufsicht benutzen werden, wird aus der EU stammen, genauer gesagt von einem europäischen KI-Rat, bestehend aus Repräsentanten der Mitgliedsstaaten und der EU-Kommission. Dessen Handhabung und eventuelle Sanktionen werden dabei in unserer, also in norwegischer Verantwortung bleiben.
Was die Regulierung von Technologie betrifft, bin ich dankbar und froh darüber, dass wir die EU haben, auch wenn wir kein Mitgliedsland sind. Es ist schade, dass wir nur schrecklich wenig an politischer Steuerung innerhalb der künstlichen Intelligenz selbst besitzen, aber wir haben das Glück, dass wir über den Europäischen Wirtschaftsraum (EWR) Zugang zur EU haben, zumindest auf diesem Gebiet. Die Herangehensweise der EU an künstliche Intelligenz ist geprägt von einem starken Schutz der Persönlichkeitsrechte, Datenschutz und dem Ansatz der Antidiskriminierung. Der Mensch, nicht die Technologie, steht im Zentrum, und das Ziel ist es, dass alle KI-Systeme, die innerhalb der EU genutzt werden, grundlegende Rechte wahren müssen, ganz konkret diejenigen, die im Gründungsvertrag der Europäischen Union und in der Charta der Grundrechte der Europäischen Union beschrieben sind. Im Zentrum steht die Achtung der Menschenwürde, nach dem Menschen einen einzigartigen und unabänderlichen moralischen Status besitzen, aber auch die Rücksichtnahme auf die Umwelt und lebende Organismen im Ökosystem sowie ein Fokus auf Nachhaltigkeit, der die Chancen zukünftiger Generationen berücksichtigt. Wenn wir uns wünschen, dass KI-Lösungen dieser Beschreibung entsprechen, sind wir, bitteschön, in der Pflicht, sie selbst zu entwickeln. Die Erwartungen und Herausforderungen sind schwindelerregend hoch, und wenn wir die Entwicklung im Westen wie im Osten betrachten, können wir nicht erwarten, dass sich künstliche Intelligenz primär mit diesen Wertprämissen entwickeln, es sei denn, wir nehmen es selbst in die Hand.
Über das Buch
Lerne die Grundlagen und Schlüsselkonzepte von KI kennen und finde Antworten auf die großen Fragen: Wie funktioniert diese Technologie? Welche Auswirkungen auf Gesellschaft, Ethik und Philosophie erwarten uns? Der Physikerin und KI-Expertin Inga Strümke gelingt es, die komplexen Themen rund um künstliche Intelligenz und maschinelles Lernen für Fachleute und Laien gleichermaßen verständlich zu erklären. Sie diskutiert die ethischen Herausforderungen und entmystifiziert die Ängste gegenüber der Technologie. Ob Tech-Neuling oder erfahrener Entwickler: Dieses Buch wird Dein Verständnis von KI vertiefen und erweitern.
Verlosung
Das war ein Auszug aus »Künstliche Intelligenz. Wie sie funktioniert und was sie für uns bedeutet«. Unter allen Interessierten verlosen wir drei Exemplare der Printausgabe des Buches.
So könnt ihr an der Verlosung teilnehmen:
- Schickt uns eine E-Mail an hallo@the-decoder.de mit dem Betreff „Maskiner Som Tenker“.
- Einsendeschluss: 9. Februar 2025 um 23.59 Uhr
- Ziehung der Gewinner: innerhalb von 14 Tagen nach Teilnahmeschluss.
Die Gewinner werden per E-Mail benachrichtigt und müssen damit einverstanden sein, dass ihre Adresse für den Versand an den Rheinwerk Verlag weitergegeben wird.
Wichtige Hinweise: Meldet sich die Gewinnerin oder der Gewinner nicht innerhalb von 7 Tagen nach Gewinnbenachrichtigung, verfällt der Gewinn und wir ziehen neu. Die E-Mail-Adresse wird ausschließlich für die Teilnahme am Gewinnspiel benötigt. Eine weitere Verwendung ist ausgeschlossen. Alle Adressen werden nach der Verlosung gelöscht. Es gelten unsere Hinweise zum Datenschutz. Der Rechtsweg ist ausgeschlossen.
