Apples Sprachmodell-Team ist mit 16 Personen eher klein, verfügt aber über ein großes Budget: Täglich sollen Millionen von Dollar in das KI-Training fließen.
Das berichtet The Information unter Berufung auf eine Person mit direktem Wissen über Apples KI-Entwicklung. Geleitet wird das "Foundational Models"-Team vom KI-Ingenieur John Giannandrea, den Apple im Frühjahr 2018 von Google abgeworben und schon im folgenden Winter in den Vorstand befördert hat.
Das Team soll sich auf Conversational KI ähnlich ChatGPT konzentrieren. Das zuvor geleakte LLM "Ajax GPT" soll leistungsfähiger als OpenAIs GPT-3.5 sein und mehr als 200 Milliarden Parameter haben.
Das wäre aber immer noch deutlich weniger als die 1,8 Billionen Parameter von GPT-4, auch wenn diese auf 16 vernetzte Expertenmodelle verteilt sind. Ajax GPT, so der Bericht, sei nur für den internen Gebrauch entwickelt worden.
Endnutzer sollen von den Fortschritten bei LLMs in Form von präziseren Sprachbefehlen für das iPhone profitieren. Das Siri-Team möchte LLM-basierte Sprachbefehle implementieren, die deutlich komplexer sein können als die vordefinierten Sprachbefehle.
So soll es mit Hilfe der Shortcut-App von Apple, mit der Abläufe für Apps programmiert werden können, möglich sein, ein GIF einfach per Sprachbefehl zu versenden. Diese Funktion soll im nächsten Jahr mit einer neuen iOS-Version eingeführt werden.
Apple forscht in allen Bereichen der generativen KI
Neben dem LLM-Team arbeiten weitere Teams an Computer Vision, einer Kerntechnologie für Apples Vision Pro, sowie an generativer KI für Bilder, Videos und 3D-Szenen. In der Vergangenheit haben Apple-Forscherinnen und -Forscher GAUDI gezeigt, eine generative KI für Text-zu-3D-Szenen von Innenräumen.
Apple hat laut The Information "mindestens zwei relativ neue Teams", die Sprach- und Bildmodelle entwickeln. Außerdem würde an multimodalen Modellen für Text, Bild und Video gearbeitet. Hierbei handele es sich jedoch um ein langfristiges Forschungsprojekt.
