Microsoft prognostiziert drei KI-Trends für 2024: Small Language Models (SLMs), multimodale KI und KI in der Wissenschaft.
SLMs sind im Vergleich zu LLMs deutlich kleinere und auf Effizienz getrimmte KI-Modelle. Sie sind zugänglicher und erschwinglicher und sollen insbesondere durch Feintuning mit besonders hochwertigen Daten oder gezielte datenbankgestützte Implementierung nützliche Ergebnisse für den Anwender generieren.
Laut Microsoft werden SLMs immer leistungsfähiger und stellen die Vorstellung infrage, dass bei Sprachmodellen Größe gleich Leistung ist. Microsoft KI-Forscher Sebastien Bubeck sagt, SLMs könnten so leistungsfähig wie LLMs werden.
Bisher hat noch kein kleines oder großes KI-Modell die Leistung von GPT-4 übertroffen, aber das ist teuer in der Ausführung. Das trifft vor allem Microsoft, das hochwertige KI an Millionen von Nutzern verkaufen will. Hier sind die Betriebskosten der KI von enormer finanzieller Bedeutung.
Microsoft investiert in diesen Bereich, hat bereits die SLMs Phi und Orca vorgestellt und soll seine eigenen Abteilungen auf effizientere KI-Modelle ausgerichtet haben.
Ein zweiter wichtiger KI-Trend ist laut Microsoft multimodale KI. Sie kann Text, Bilder, Audio und Video verarbeiten und macht laut Microsoft Technologien wie Suchwerkzeuge und Kreativitätsanwendungen präziser und nahtloser.
ChatGPT bietet bereits einen Vorgeschmack mit der Integration von GPT-4V oder dem Bildgenerator DALL-E3, Microsoft verwendet DALL-E3 und ein LLM im Microsoft Designer. Zukünftige OpenAI-Modelle sollen noch multimodaler werden. Auch Googles neues Modell Gemini Ultra ist von Haus aus multimodal trainiert.
Ein weiterer Trend wird laut Microsoft der Einsatz von KI in der Wissenschaft sein. Die maschinelle Denkhilfe soll wissenschaftliche Entdeckungen beschleunigen und globale Probleme wie Klimawandel, Energiekrisen und Krankheiten lösen.
Microsoft-Forscher experimentieren mit KI für nachhaltige Landwirtschaft, Bio- und Materialwissenschaften. In den Biowissenschaften soll KI beispielsweise durch Bilderkennung bei der Krebsdiagnose oder bei der Suche nach neuen Wirkstoffen und Molekülen für Medikamente helfen. In den Materialwissenschaften könnte KI die Suche nach weniger toxischen Batteriematerialien beschleunigen.
