Der Physiker und Neurowissenschaftler Garrett T. Kenyon berichtet von einer experimentellen Beobachtung: Der Biologie nachempfundene neuronale Netze, die zwischenzeitlich in einen schlafähnlichen Zustand versetzt werden, rufen bessere Leistung ab. Wie kommt Kenyon zu seiner These?
"Eines Tages braucht dein Toaster vielleicht ein Nickerchen", schreibt Kenyon in einem Meinungsbeitrag für Scientific American. Das gelte ebenso fürs Auto, den Kühlschrank und jede weitere Technologie, die zukünftig Künstliche Intelligenz (alle News) als zentrales Steuerelement nutze.
Der Wissenschaftler forscht am Los Alamos National Laboratory, das weltweit eines der größten Forschungsinstitute ist mit mehr als 6.000 Angestellten. Die Forschung findet unter anderem auf den Gebieten der Physik, Chemie, Biologie und IT statt mit dem Fokus auf nationale Sicherheit.
Künstlicher Schlaf für Künstliche Intelligenz
Zu seiner These kam Kenyon laut eigenen Angaben, als er mit seinem Team neuronale Netze entwickelte, die das Sehen ähnlich lernen wie Menschen und andere biologische Systeme.
Bei einem Experiment trainierten die Forscher ein solches neuronales Netz unüberwacht mit Daten aus einem Wörterbuch. Beim unüberwachten KI-Training muss die KI eigenständig große Datenmengen untersuchen und Muster darin erkennen, ohne dass der Mensch diese Daten vorstrukturiert hat.
Nach sehr langen Trainingsphasen sei die KI instabil geworden, schreibt Kenyon, und zieht den Vergleich zu einem Kleinkind, das bei Überlastung schlechter lernt. Das System sei so instabil geworden, dass es laut Kenyon halluzinierte, also spontan zufällige Bilder generierte.
Bei dem Versuch, das System zu stabilisieren, hatten die Forscher die Schlaf-Idee: Sie versetzten das neuronale Netz in einen Zustand, der laut eigenen Angaben vergleichbar ist mit "den Wellen, die biologische Gehirne während des Schlafs erfahren" - diese Maßnahme konnte laut Kenyon die Stabilität des KI-Systems wiederherstellen.
"Es war so ähnlich, als hätten wir dem neuronalen Netz ein gutes, langes Nickerchen gegönnt", beschreibt Kenyon das Experiment.
Numerisches Rauschen gegen KI-Erschöpfung
Die Forscher setzten als Schlaf-Äquivalent laut eigenen Angaben "numerisches Rauschen" ein, das grob vergleichbar sei mit dem Rauschen, das man beim Umschalten zwischen Radiostationen höre.
"Die besten Ergebnisse erzielten wir, wenn wir Rauschen mit einem breiten Spektrum von Frequenzen und Amplituden verwendeten. Das Rauschen ahmt den Input nach, den die Neuronen in einem Gehirn während des Slow-Wave-Schlafs empfangen, dem Tiefschlaf, ohne den wir nicht leben können", schreibt Kenyon.
Die Ergebnisse beim KI-Schlaf-Experiment deuteten darauf hin, dass künstliche ähnlich wie biologische Neuronen Schlaf benötigten, um die Stabilität zu wahren und nicht zu halluzinieren. Das Forscherteam fand außerdem heraus, dass der künstliche Schlaf künstliche Neuronen reaktivieren kann, die beim Start einer Simulation scheinbar grundlos aussetzen.
Schlaf-These gilt nicht für jede KI
Laut Kenyon gilt diese Schlafbeobachtung nur für neuronale Netze, die auf "biologisch realistischen Prozessoren" laufen oder "beim Versuch, die Biologie selbst zu verstehen". Herkömmliche KI führe mathematische Operationen aus, die mit jenen in biologischen Neuronen nichts gemein hätten.
Mit dem Schlafmodus eines PCs sei der KI-Schlaf nicht zu vergleichen: Der ähnele eher einem kurzen Hirntot. Der KI-Schlaf - und Schlaf im Allgemeinen - sei jedoch keine Inaktivität, sondern eine andere Art von Aktivität, die grundlegend sei für die richtige funktionsweise der Neuronen.
Verblüffend findet Kenyon die Erkenntnis seines Experiments nicht: Wenn neuronale Netze dem biologischen Gegenstück immer ähnlicher würden, sei es "keine große Überraschung", dass sie wie Menschen Schlaf benötigen könnten. Er erwartet, dass KI-Systeme zukünftig dabei helfen werden, den Schlaf und weitere Charakteristiken des biologischen Systems besser zu verstehen.
Quelle: Scientific American, Titelbild: Wikipedia, Laurens R. Krol, CC0, Link, eigene Bearbeitung
