Hat Künstliche Intelligenz ein Verständnis für ihre Handlungen? Geht es nach dem KI-Forscher Tom Dietterich, ist die Frage unwichtig.
Was heißt das eigentlich: Eine Künstliche Intelligenz versteht etwas. Heißt das, dass sie ihre Aufgabe wie erwartet erledigt? Dass Siri per Sprachbefehl die richtige Person anruft? Dass Alexa mir meine Pizza bestellt? Ist das schon Verständnis?
Wenn es nach dem KI-Forscher Gary Marcus geht, dann nicht. Zumindest habe KI-Verständnis nichts mit dem grundsätzlichen Verständnis für die Dinge zu tun, wie es Menschen nachgesagt werde – der bekannte gesunde Menschenverstand, der schon in unserer DNA angelegt ist.
Konkret bedeutet das: Wenn ich Pizza bestelle, weiß ich, was Pizza ist, wie sie wahrscheinlich schmeckt, ob sie gesund oder ungesund ist, in welcher Größe sie mich satt macht und, ganz grundlegend, weshalb Nahrung überhaupt existiert. Dieses grundlegende Verständnis geht aktuellen KI-Systemen vollständig ab.
Muss KI wie ein Mensch intelligent sein, um intelligent zu sein?
Der renommierte KI-Forscher Tom Dietterich hält dieser Auffassung entgegen: Debatten über ein echtes und unechtes KI-Verständnis seien nutzlos.
Dietterich ist KI-Professor im Ruhestand und ein Machine-Learning-Forscher der ersten Stunde. In einem Blog-Eintrag fordert er seine Kollegen auf, unnütze Debatten sein zu lassen und stattdessen eine testgeleitete Entwicklung für KI zu starten.
Kritiker aktueller KI-Fortschritte wie Marcus hätten ein binäres System für Verständnis: Ein System versteht, oder es versteht nicht. Das habe nichts mit menschlichem Verständnis zu tun, meint Dietterich.
Er verdeutlicht seinen Standpunkt am Beispiel von Wasser: Menschen hätten ein unterschiedlich komplexes Verständnis von Wasser. Wohl jeder verstünde, dass Wasser nass und trinkbar ist, dass es bei Frost Eis bildet und eine Bedingung für Leben ist. Doch nicht jeder verstehe, dass Wasser auch ein elektrischer Leiter sein kann oder dass es aus Wasser- und Sauerstoff besteht.
"Dennoch sagen wir von diesen Menschen nicht, dass es ihnen an ‚echtem‘ oder ‚wahrem‘ Verständnis für Wasser mangelt. Stattdessen sagen wir, dass ihr Verständnis unvollständig ist", schreibt Dietterich.
Und er glaubt, dass KI-Systeme die Zusammenhänge zwischen den Dingen lernen können.
"Damit ein System verstehen kann, muss es Verbindungen zwischen verschiedenen Konzepten, Zuständen und Aktionen herstellen. Die heutigen Sprachübersetzungssysteme verknüpfen Wasser auf Englisch korrekt mit Agua auf Spanisch, haben aber keine Verbindung zwischen Wasser und Stromschlag", schreibt Dietterich.
Verständnis ist, was funktioniert
Dietterich fordert auch für KI-Systeme eine differenzierte Betrachung von Verständnis: Siri rufe die richtige Person an, aber auf die Frage, was diese Person ihm bedeute, habe sie noch keine Antwort. In Dietterichs Perspektive ist allein der Anruf ein Zeichen für Verständnis – auch wenn es ein unvollständiges Verständnis sei.
Mit diesem funktionalen Begriff von Verständnis lasse sich arbeiten, meint Dietterich. Um das Verständnis auszubauen, sollten Forscher die angestrebten Fähigkeiten einer KI vor ihrer Entwicklung definieren und sie durch Benchmarks messbar machen. Benchmarks könnten KI-Systeme testen und dienten Ingenieuren gleichzeitig als klares Ziel.
Dieses Vorgehen gebe Diskussionen zu unscharfen Begriffen wie Verständnis und Intelligenz keinen Raum. Stattdessen würden die Begriffe in konkrete, messbare Fähigkeiten übersetzt.
Natürlich existieren entsprechende Benchmarks schon und werden in der KI-Forschung eingesetzt. Dietterich fordert jedoch bessere, aussagekräftigere Benchmarks, die im Vorfeld der KI-Entwicklung bestimmt werden.
Als Beispiel nennt er das Forschungsfeld sprechende Künstliche Intelligenz: In weit verbreiteten Tests würden aktuelle Sprach-KIs gut abschneiden. Doch in der realen Welt scheiterten sie in vielen Situationen.
Neue Benchmarks, die Herausforderungen der echten Welt besser abbilden, könnten die KI-Entwicklung antreiben – und so auch das KI-Verständnis erweitern. Die KI-Forschung überwinde so nutzlose Debatten über "falsches" und "echtes" Verständnis und könne "mit Ehrlichkeit und produktiver Selbstkritik" voranschreiten, schreibt Dietterich.
Mehr Hintergrundinfos zu Dietterichs Thesen gibt’s in unserem MIXED-Podcast Folge #170.
Quelle: Medium
Hinweis: Dieser Artikel wurde am 16. November 2019 das erste Mal publiziert. Da die Debatte um KI-Verständnis wegen der Veröffentlichung von GPT-3 erneut Fahrt aufnimmt, haben wir ihn am 16. August 2020 republiziert.
