Wo liegen die kreativen Grenzen heutiger KI-Systeme und können wir Menschen daraus lernen? Und was hat der griechische Prophet Teiresias damit zu tun? Ein Gastbeitrag von Joël Doat.
„Die Zukunft wird […] zum modellierten Raum der Gegenwart.“
Barbara Eder, Sehen wie Teiresias
Mit diesem Satz greift Barbara Eder in ihrem kürzlich erschienenen Essay "Sehen wie Teiresias" ein zentrales Thema der Debatte um Algorithmen und Daten in der künstlichen Intelligenz auf. Können Maschinen die Zukunft vorhersagen oder schaffen sie nur probabilistische Fiktionen?
Dystopische Schlagzeilen versprechen den Untergang der Kreativität, wenn die moderne künstliche Intelligenz immer komplexere Aufgaben übernehmen kann. Doch mit einem tieferen Blick in die von Eder genutzten Quellen lassen sich nicht nur die Grenzen der künstlichen Intelligenz aufzeigen, sondern auch einige Möglichkeiten ableiten, die der einzelne Mensch noch für sich nutzen kann. Denn letztlich ist die Maschine immer noch ein Abbild von uns selbst; das Verstehen und Überschreiten der eigenen Grenzen ermöglichten immer wieder neue Wege der Kreativität. Das sind die Möglichkeiten, die die Maschine noch nicht kennt.
Zu Beginn bespricht Eder den Aufsatz "Teiresias, oder unser Wissen von zukünftigen Ereignissen" von Alfred Schütz, dem Begründer der phänomenologischen Soziologie. Während dieser im nächsten Abschnitt ausführlicher besprochen wird, werden wir anschließend auch die "klassischen" Paradigmen des zeitgenössischen maschinellen Lernens besprechen: überwachtes, unüberwachtes und verstärkendes Lernen.
Die Vergangenheit liegt in der Zukunft
Was aber wäre, wenn wir davon ausgehen, dass ein solches System in der Lage ist, jedes mögliche schöpferische Produkt abzubilden, einschließlich desjenigen, das noch nicht existiert? So kommen wir in die Lage von Schütz, die antike griechische Sage über Tiresias neu zu interpretieren - einen Mann, der Athene nackt sah und erblindete. Als Entschädigung für sein Unglück wurde ihm die Gabe zuteil, die Zukunft zu erfahren. Als blinder Seher ist er dann dazu verdammt, die Zukunft, ohne seine eigene Gegenwart wahrzunehmen.
Schütz nutzt diese mythische Figur, um die Art und Weise zu untersuchen, in der das menschliche Wissen über die Zukunft durch vergangene Erfahrungen bestimmt wird. In dieser Analogie unterstreicht seine rein phänomenologische Position unserer täglichen Erfahrung die Paradoxa, auf welche wir stoßen, wenn wir annehmen, dass unsere Vorhersagen über die Zukunft richtig sind.
Der wichtigste Begriff aus Schütz' Aufsatz heißt "antizipierter Rückblick". Ein Phänomen, das er aus der Geschichte ableitet, wenn er unsere Wahrnehmung der Welt mit dem vergleicht, was Teiresias gesehen haben könnte. Da wir die Zukunft nicht sehen können, ist jede Vorhersage oder Zukunftsprognose nichts anderes als eine Rückschau, die wir in den Rahmen der Zukunft übertragen haben. Schütz beschreibt dies auch als die Unmöglichkeit, die kategoriale Zugehörigkeit eines Ereignisses zu beschreiben, bevor wir es erlebt haben.
“Once materialized, the state of affairs brought forth by our actions will necessarily have quite other aspects than those projected. In this case foresight is not distinguished from hindsight by the dimension of time in which we place the event.”
Alfred Schütz, Tiresias, Or Our Knowledge Of Future Events
Unsere Vorhersage über die Zukunft existiert nur in Entsprechung zu dem, was wir bereits aus der Gegenwart und der Vergangenheit wissen. Konkreter ausgedrückt: Was wir uns von der Zukunft vorstellen, hängt immer vom Verständnis der vorhandenen Informationen ab, die wir verarbeitet haben. Das begrenzt unsere Erwartungen an die Zukunft auf eine bloße Projektion vergangener Erfahrungen.
Folglich wird es jeder kreativen Schöpfung an Neuartigkeit mangeln, solange sie auf diesen projizierten Raum beschränkt ist. Dies definiert den begrifflichen Raum, in dem wir Neuheit wiedergewinnen können. Denn, wie Karl Popper bekanntlich sagte,
„Wir können die Schöpfer unseres Schicksals werden, wenn wir aufgehört haben, als seine Propheten zu posieren.“
Karl Popper
Wo liegen nun diese formalen Grenzen?
Bei den überwachten und unüberwachten Methoden des maschinellen Lernens ist eigentlich ein klar definierter Wahrscheinlichkeitsraum im mathematischen Sinne gegeben. Wir bauen solche Modelle auf der Grundlage bereits vorhandener Informationen (z. B. einer Datenbank) und der Definition von Variablen auf, mit denen die Informationen differenziert werden. Anschließend trainieren wir sie mit einigen altmodischer Statistik, um „statistics on steroids“ („Statistik auf Steroiden“) zu erhalten, wie Meredith Broussard es nannte.
Da wir hier aber einfach Mathematik verwenden, ist jede mögliche Aussage, die dieses Modell über die gegebenen Informationen machen kann, bereits in das System eingebaut. Folglich sind die möglichen Ausgaben von statischen Grenzen dessen, was das Modell sagen kann, umgeben. Der Unterschied besteht natürlich in der unterschiedlichen Wahrscheinlichkeit, mit der eine Ausgabe angesichts der Eingabe eintritt. Damit bleiben uns zwei formale Grenzen:
- Informationen und Variablen definieren einen statischen Raum von möglichen Aussagen.
- Die Informationen, auf denen das Modell trainiert wurde, liegen in der Vergangenheit und können nicht auf neue Informationen reagieren.
Diese beiden Grenzen zeigen erneut das Dilemma, das wir bei Teiresias hatten. Die Verwendung eines statischen Modells und bereits vorhandener Informationen ist lediglich eine vorweggenommene Rückschau, die auf vergangenem Wissen bzw. Erfahrungen beruht. Der daraus resultierende kreative Ausdruck dieser künstlichen Intelligenz bleibt eine Projektion der Vergangenheit und ist nicht in der Lage, Innovation zu schaffen. Aus diesem Raum auszubrechen, bedeutet also, aus der Datenlage und der Verarbeitungslogik auszubrechen.
Mit dem verstärkenden Lernen können wir die zweite Einschränkung abschwächen. Diese Methode kann auf die aktuelle Situation reagieren, indem sie einige Variablen entsprechend den neuen Informationen aktualisiert. Konkret können Modelle eine bestimmte Aktion durchführen, das Ergebnis wahrnehmen und die Aktion für die nächste ähnliche Situation entsprechend anpassen. Die Wahrscheinlichkeiten im Modell bleiben nicht statisch und gewinnen an Flexibilität in Bezug auf ihren Ausgaben.
Auch hier ändert sich die Struktur des Modells nicht, so dass der Raum der möglichen Aussagen weiterhin einem deterministischen Muster folgt. Auch wenn die Bestimmung der künftigen Ausgabe weiterhin „im Voraus“ erfolgt, könnte man sich fragen, ob dies ausreicht, um eine noch nie dagewesene kreative Ausdrucksform zu schaffen. Mit zunehmender Komplexität dieser Modelle wird es vielleicht irgendwann möglich sein, mit genügend „zukünftigen Gegenwarten“ kontinuierlich Innovationen zu schaffen.
Um diese Idee weiter zu untersuchen, wenden wir uns dem nächsten Abschnitt zu, in dem einige Ideen von Elena Esposito untersucht werden, die behauptet, dass unsere gegenwärtigen Vorhersagen der „zukünftigen Gegenwart“ lediglich Fiktion sind. Alles, was wir erreichen können, ist die Vorstellung von einer „gegenwärtigen Zukunft“.
Die Fiktion der Wahrscheinlichkeiten
In ihrem Essayband „Die Fiktion der wahrscheinlichen Realität“ skizziert Elena Esposito die Parallelen zwischen der Entstehung der ersten Romane einerseits und der Wahrscheinlichkeitstheorie andererseits. Beides geschah im 17. Jahrhundert, und das ist ihrer Meinung nach kein Zufall. Es war das Jahrhundert der „möglichen Welten”.
Ähnlich wie bei unserer vorherigen Diskussion geht sie von der Offenheit der Realität aus. Das heißt ein menschlicher Akteur kann selbst entscheiden und noch nie dagewesene Ereignisse herbeiführen - der Raum der Ereignisse ist nicht durch eine im Voraus gewählte Theorie oder ein Modell geschlossen. Die Statistik hingegen erfordert die Schließung dieses Raums durch die Definition von Variablen, die auf endliche und vergangene Informationen angewendet werden. Selbst wenn ein statistisches Modell nahe genug herankommt, um das aktuelle menschliche Verhalten vorherzusagen, wird sich der Mensch dessen bewusst und beginnt, sich anzupassen. Mit anderen Worten, wir sind in der Lage, bei jeder Entscheidung die Unsicherheiten, die berechneten Wahrscheinlichkeiten und das statistische Wissen, auf das andere Menschen ihre Entscheidungen stützen, zu berücksichtigen. Dies setzt einen rekursiven Prozess in Gang, bei dem wir die Absichten anderer Menschen in unsere eigenen Absichten miteinbeziehen.
Die Wahrscheinlichkeitstheorie ist dann nicht nur ein Werkzeug für die Beobachtung, sondern auch ein Werkzeug für die praktische Vernunft. Aufgrund dieser explodierenden Komplexität der Zukunftsvorhersage wird es unmöglich, die Wahrheit oder die Realität einer zukünftigen Gegenwart zu erfassen - sie bleibt lediglich Fiktion und bestenfalls ein Werkzeug zur Beobachtung des Beobachters. Esposito fasst dies schön zusammen mit
„Die Realität ist unwahrscheinlich und das ist das Problem“
Elena Esposito, Die Fiktion der wahrscheinlichen Realität
Was bedeutet das für uns? Die Vorhersage einer zukünftigen Gegenwart auf diese Weise ist nichts als Fiktion. Als Werkzeug für praktische Überlegungen gibt sie uns jedoch die Möglichkeit, „gegenwärtige Zukünfte“ zu untersuchen. Das bietet uns eine objektive Grundlage für die Diskussion darüber, was wir vorhersagen wollen und wie wir es tun. Auch wenn dies nicht mit der Zukunft übereinstimmen muss, so hilft es uns doch, sie zu planen.
Wenn man nun annimmt, dass Modelle des maschinellen Lernens jeden möglichen kreativen Ausdruck in der Zukunft vorhersagen können, bedeutet dies, dass wir nichts mehr aus unserer Erfahrung lernen müssen. Jeder mögliche Aspekt ist bereits durch die Verarbeitungsmuster der KI abgedeckt. Dank der Statistik haben wir nicht nur unsere Unsicherheiten über die Zukunft reduziert, sondern auch die Zukunft ihrer neuen Informationen beraubt.
Aber das wird uns nur Produkte bescheren, die lediglich durch die Form des Modells gepresst wurden - ähnlich wie ein Gusseisen für die Massenproduktion. Kreativer Ausdruck, der auf einen probabilistischen Raum reduziert wird, wird früher oder später eher präskriptiv als vorherbestimmt sein. Die Öffnung des Raums möglicher Ereignisse eröffnet daher auch wieder die Möglichkeit zu neuem und authentischem kreativem Ausdruck.
Eine Chance für die menschliche Kreativität?
Seit den neuen Formen der künstlichen Intelligenz, wie ChatGPT oder Dall-E, fürchten viele Menschen in kreativen Berufen um ihre Zukunft. Zwischen selbstverfassten Aufsätzen und fotorealistischen Bildern ist es nicht mehr aufzuhalten, dass entsprechende Aufgaben im professionellen Bereich durch Maschinen ersetzt werden. Zwischen geringeren Kosten und nahezu eliminierter Zeit zwischen Idee und Produkt werden die Fähigkeiten tatsächlicher Schriftsteller und Künstler immer irrelevanter. Für viele stellt sich daher die Frage, ob die Kreativität im Angesicht der modernen künstlichen Intelligenz aussterben wird. Angesichts der zuvor erörterten Perspektive eröffnen sich jedoch Auswege aus diesem Dilemma durch mögliche Auswege aus ihren künstlichen Wahrscheinlichkeitsräumen.
Jedes formale System basiert auf eindeutigen Voraussetzungen, die somit die Verarbeitungslogik jeder eingehenden Information vorgeben. Selbst wenn neue Informationen durch neue Ereignisse generiert werden können, müssen sie auf dieselbe Weise verarbeitet werden und können sich daher nur innerhalb des Raums möglicher Aussagen bewegen, die das System zu treffen in der Lage ist. Im Falle des maschinellen Lernens basiert dies auf statistischen Modellen, die die Muster formen, denen Aussagen folgen können. Auch wenn der Ausgangspunkt für das Training eines Modells quasi-randomisiert sein kann, hängt der Verlauf der Analysen immer von diesen Mustern ab. Diese vorgegebenen Muster bilden dann eine Form für die Produkte eines jeden solchen Systems.
Ist es nicht gerade dieses Muster als Materialisierung der zugrundeliegenden Prinzipien, dass eine Massenproduktion mit immer gleichbleibenden Ergebnissen ermöglicht? Um diese Voraussetzungen zu verstehen, ist zwar ein größeres Verständnis der mathematischen und formalen Logik erforderlich, aber sie können einen Einblick in das geben, wozu die betreffende Maschine nicht fähig ist. Unsere Interpretation von Daten kann über die vorgegebene Interpretation von Maschinen hinausgehen, da wir es sind, die die Regeln für die Interpretation umsetzen. Der kreative Prozess kann also die Fähigkeiten der Maschine übertreffen, wenn er technische Realitäten in Frage stellt und eine neue Interpretation der Daten findet. Mit anderen Worten: Um die Regeln zu brechen, müssen wir sie verstehen. Vielleicht führt der Weg eines zukünftigen Künstlers über eine technische Ausbildung?
