Das deutsche KI-Startup Aleph Alpha und der britische KI-Hardwarehersteller Graphcore wollen große europäische KI-Modelle auf den Weg bringen - und so die digitale Souveränität im Zeitalter der Künstlichen Intelligenz stützen.
2019 gründeten Jonas Andrulis und Samuel Weinbach das KI-Startup Aleph Alpha. Das als europäischer OpenAI-Konkurrent gehandelte Unternehmen hat eine große Vision: Es will das führende europäische Unternehmen bei der Erforschung und Entwicklung einer starken Künstlichen Intelligenz der nächsten Generation sein. So soll die EU als entscheidende Akteurin im Bereich der KI etabliert und ihre digitale Souveränität gesichert werden.
Der 2016 gegründete britische Chip-Hersteller Graphcore teilt diese Ambition: Die neu entwickelte Intelligence-Processing-Unit-Technologie (IPU) soll zum weltweiten Standard für KI-Berechnungen werden. Das Start-up positioniert sich als direkte Konkurrenz zum Chip-Giganten Nvidia.
Graphcore und Aleph Alpha: Europäische Hoffnungsträger?
Beide Unternehmen konnten sich seit ihrer Gründung Millionen-Investments sichern und haben bereits Produkte auf dem Markt. Graphcores IPU-Pods werden mittlerweile in der neuesten Bow-IPU-Version verkauft. Der verbaute KI-Chip ist der weltweit erste Wafer-on-Wafer-Prozessor, der auf TSMCs neue Wafer-on-Wafer 3D-Technologie setzt.
Der taiwanesische Chip-Gigant entwickelte die Technologie in Kooperation mit Graphcore. Kürzlich installierte das Karlsruher Institut für Technologie (KIT) als erstes wissenschaftliches Hochleistungsrechenzentrum in Deutschland KI-Hardware von Graphcore.
Der britische Chip-Hersteller plant außerdem bis 2024 den ersten "Ultra-Intelligence KI-Computer" zu liefern. Der nach dem Informatiker Jack Good "Good-Computer" benannte Supercomputer soll KI-Modellgrößen von bis zu 500 Billionen Parametern ermöglichen.
Das in Heidelberg ansässige Aleph Alpha ist unter anderem am Open GPT-X-Projekt beteiligt, das von einem Konsortium unter Führung von Frauenhofer IAIS im Kontext der GAIA-X Initiative entwickelt wird.
Im April startete das Unternehmen dann Luminous, einen mehrsprachigen KI-Service, der komplexe Texte kombiniert mit Bildern verarbeitet. Die vier unterschiedlich großen Luminous-Modelle bieten eine europäische Alternative, etwa zu OpenAIs GPT-3.
Sie haben neben der Verarbeitung natürlicher Sprache auch multimodale Sprachfähigkeiten wie automatisierte Bildbeschreibungen in Deutsch, Englisch, Französisch und Spanisch. Das größte Luminous-Modell kommt laut Aleph Alpha auf knapp über 200 Milliarden Parameter.
Europäische Kooperation für multimodale KI-Modelle
Die nun angekündigte Kooperation beider Unternehmen ergibt Sinn: Die Entwicklung von KI-Modellen und -Hardware geht seit Jahren Hand in Hand. Aleph Alpha und Graphcore wollen zukünftig bei der Forschung und dem Einsatz von fortschrittlichen multimodalen Modellen auf aktuellen IPU-Systemen und dem geplanten Good-Computer zusammenarbeiten.
Konkret sollen Ingenieur:innen und Forscher:innen beider Unternehmen ihre jeweiligen Technologien für das Vortraining, die Feinabstimmung und die Inferenz von multimodalen Sprach- und Sehmodellen der nächsten Generation gemeinsam optimieren.
Die Steigerung von Rechenleistung sei eine wichtige Triebkraft für KI-Fortschritte und es seien weitere Verbesserungen zu erwarten, glaubt Aleph-Alpha-CEO Andruils. Doch KI-Innovation benötige neben mehr Rechenleistung auch neue Architekturen und Methoden.
"Die IPU von Graphcore bietet die Möglichkeit, fortschrittliche technologische Ansätze wie Conditional Sparsity zu evaluieren. Diese Architekturen werden zweifellos eine Rolle in der zukünftigen Forschung von Aleph Alpha spielen", so Andrulis.
Graphcore verspricht sich von Kooperation bessere Produkte, die "zahllose neue Unternehmen und Anwendungen" ermöglichen werden, so Nigel Toon, Graphcore Mitgründer und CEO.
Was kostet ein KI-Leuchtturmprojekt für Europa?
Die beiden KI-Unternehmen könnten so den Abstand Europas im KI-Wettbewerb mit den USA und China verringern. Doch es braucht wohl mehr: Im Sommer 2021 forderte etwa der KI-Bundesverband eine umfassende Initiative für große europäische KI-Modelle und -Infrastruktur.
"Wir haben die Befürchtung, dass europäische Akteure hinter die amerikanischen zurückfallen und mit den schnellen Innovationszyklen nicht mehr mithalten können", heißt es im Positionspapier für "Large European AI Models" - kurz LEAM.
Daraus könne eine Abhängigkeit entstehen, die Europa in anderen Digitalsektoren wie Suchmaschinen, mobilen Anwendungen und Cloud-Anwendungen erlebe. Solche KI-Modelle würden zudem wohl keine Rücksicht auf europäische Werte nehmen. Europa benötige daher ein LEAM-Leuchtturmprojekt.
Diese Forderung erneuerte der KI-Verband im Mai in einem knapp 50 Seiten starken Papier. Darin zeigen die Autor:innen den Weg zu einem ersten LEAM-Modell von der benötigten Infrastruktur über den Fokus auf Sprachmodelle.
Auch einen ersten Kostenvoranschlag gibt es: knapp 300 Millionen Euro für die Infrastruktur plus jährliche Betriebskosten von 15 bis 20 Millionen Euro sowie zusätzliche Kosten für ein kontinuierliches Update der Infrastruktur. Das Projekt LEAM ließe sich daher wohl nur in einer Public-Private-Partnerschaft finanzieren, so der KI-Verband.
Über Künstliche Intelligenz in Deutschland und Europa haben wir uns im MIXEDCAST #266 mit Jörg Bienert, Vorstandsvorsitzender des KI-Bundesverbands, unterhalten.
Wer noch tiefer ins Thema einsteigen will, kann sich unsere DEEP MINDS Folge #9 mit Prof. Kristian Kersting der TU Darmstadt anhören. Kersting ist Co-Direktor des Hessischen Zentrums für KI und Preisträger des "Deutschen KI-Preises 2019".
