Eine Mikrofon-Membran als Recheneinheit? Auf der Suche nach effizienter KI-Hardware wenden sich Forschende physischen neuronalen Netzen zu, die in realen Objekten integriert sind.
Der Erfolg Künstlicher Intelligenz in den letzten zehn Jahren ist angetrieben durch die breite Adaption künstlicher neuronaler Netze. Möglich wurde das durch die Erkenntnis, dass der Backpropagation-Algorithmus effizient auf Grafikkarten eingesetzt werden kann, um neuronale Netze etwa für die Bildanalyse zu trainieren. Seit dem ImageNet-Moment 2012 werden immer größere Netzwerke auf immer stärkerer Hardware trainiert.
Der Energiehunger dieser riesigen Netze bei Training und Nutzung hat zu der Entwicklung spezialisierter KI-Beschleuniger geführt, etwa Googles TPUv3 oder Cerebras WSE2. Die meisten dieser Chip-Alternativen zielen vor allem auf eine effizientere Nutzung, da diese bei kommerziellen Anwendungen bis zu 90 Prozent der Energiekosten eines KI-Netzes ausmacht. Der Großteil dieser speziellen KI-Prozessoren setzt dabei weiter auf Silizium-Chips, in einigen Fällen kommen optische Chips zum Einsatz.
Hallo, Echo: Canyons rechnen passiv
Auf der Suche nach noch effizienteren Alternativen wenden sich Forschende um den Physiker Logan Wright sogenannten physikalischen neuronalen Netzen (PNN) zu: "Alles kann ein Computer sein", so Wright. "Wir müssen nur einen Weg finden, damit die Hardware das tut, was wir wollen."
Damit verknüpft ist eine neue Vorstellung davon, was es heißt, dass etwas "rechnet": Physikalische Objekte könnten passiv rechnen, so Wright und sein Team. Canyons etwa fügten Stimmen ein Echo hinzu, ohne dass sie dafür Soundboards benötigen.
Diese Verarbeitung eines Signals durch ein statisches physikalisches Objekt, das dafür keine extern hinzugefügte Energie benötigt oder im klassischen Sinne einen Algorithmus ausführt, ist ein Vorbild für Wrights Team.
Das Ziel sind neuronale Netze, die in physischer Form in ein Objekt integriert sind, statt herkömmlich auf Silizium-Chips zu laufen.
"Physics-aware Training" für physische neuronale Netze
Die Forschenden realisierten in ihrer neuen Arbeit neuronale Netze in drei verschiedenen physischen Systemen: ein mechanisches, ein optisches und ein analog-elektronisches. Das mechanische System besteht aus einer Metallplatte, die mit einem Lautsprecher zum Schwingen gebracht wird. Das Ausgangssignal wird von einem Mikrofon aufgezeichnet.
Das optische System leitet Laser-Licht durch verschiedene Kristalle und im analog-elektronischen System fließt Strom durch kleine Schaltkreise.
Die Eingabedaten für die jeweiligen Netze kodierten die Forschenden in Ton, Licht oder Spannung. Jedes System erhält zusätzlich kodierte Parameter, die dem physischen Netz helfen sollen, die Eingabedaten korrekt zu verarbeiten.
Diese Parameter werden im Laufe des Trainings über den Backpropagation-Algorithmus angepasst, bis der Algorithmus die richtige Kombination aus Parametern und Eingabesignal gefunden hat. Dieser Ansatz heißt "Physics-aware training" (PAT).
Physische neuronale Netze erreichen mit PAT hohe Genauigkeit
In Tests mussten die physischen Netze anschließend etwa handgeschriebene Zahlen oder einen von sieben Töne erkennen. Die Netze erreichten im Schnitt eine Genauigkeit zwischen 87 und 97 Prozent.
Die Ergebnisse zeigen laut den Forschenden, dass steuerbare physikalische Systeme für die Ausführung von KI-Berechnungen trainiert werden können und potenziell um mehrere Größenordnungen schneller und energieeffizienter als Silizium-Lösungen seien.
Wright und sein Team wollen als nächstes Systeme entwerfen, in denen sie die physischen Objekte während des Trainings anpassen und nicht mehr auf zusätzliche Parameter ergänzend zum Input zurückgreifen müssen.
Der Physiker sieht großes Potenzial für physische Netze als Smart-Sensoren: Die Optik eines Mikroskops könnte etwa einmal Krebszellen erkennen, noch bevor das Licht digital verarbeitet wird. Oder die Mikrofon-Membran eines Smartphones könnte auf ein Aufwachwort reagieren.
Dann werde man wohl weniger daran denken, dass es sich dabei um KI-Berechnungen handle, so Wright. Physische neuronale Netze seien dann einfach "funktionale Maschinen".
