Meta konzentriert seine Ressourcen auf die Entwicklung von KI-Produkten und -Funktionen wie Chatbots, aber etwa ein Drittel der Forscher, die als Co-Autoren an veröffentlichten KI-Forschungsarbeiten im Zusammenhang mit großen Sprachmodellen beteiligt waren, haben das Unternehmen laut WSJ verlassen.
Sechs der 14 Autoren, die an der Forschungsarbeit für LLaMA beteiligt waren, haben das Unternehmen verlassen oder ihr Ausscheiden angekündigt, wie aus ihren LinkedIn-Profilen und von mit der Angelegenheit vertrauten Personen hervorgeht. Acht der 19 Co-Autoren des OPT-Papiers haben das Unternehmen ebenfalls verlassen.
WSJ
Eine neue, von hochrangigen Führungskräften geleitete Gruppe für generative KI soll generative KI-Modelle in alle Produkte von Meta integrieren, um das Engagement der Nutzer zu erhöhen und das Metaverse zu verbessern. Intern führt Meta derzeit eine Anwendung namens "Metamate" ein. Dieser Produktivitätsassistent zieht Informationen aus internen Quellen, um Aufgaben auf Anfrage der Mitarbeiter zu erledigen.
Die neue Gruppe für generative KI ist Teil einer größeren Initiative, Ressourcen von der KI-Forschung auf generative KI für Produkte zu verlagern. Das WSJ berichtet, dass mehr als 2.000 interne Bewerbungen eingegangen sind und schnell Hunderte Mitarbeiter aus verschiedenen Teams zusammengezogen wurden. Auch Hardware-Ressourcen werden von der Forschung in die stärker produktorientierte KI-Gruppe verlagert.
Geht Meta den Android-Weg?
Meta verbessert sein LLM-Angebot mit LLaMA v2, das diesmal kommerziell einsetzbar sein wird. Meta könnte versuchen, das Android-Spiel zu spielen: die Basistechnologie für alle kostenlos zu machen, aber die Anwendungen zu kommerzialisieren.
Auf diese Weise könnte Meta eine führende Rolle im gesamten KI-Ökosystem übernehmen und etwas von dem Boden gutmachen, den Google, Microsoft und OpenAI durch die schnellere Integration von KI-Technologie in ihre Produkte gegenüber Meta gutgemacht haben.
Das erste LLaMA war wegweisend für die Entwicklung von Open-Source-KI und bildete die Grundlage für zahlreiche Projekte wie Alpaca, Vicuna, OpenLLaMA und OpenAssistant. Laut Zuckerberg wird das neue Sprachmodell ein zentrales Infrastrukturprodukt für Meta werden, das für viele Zwecke in Meta-Produkten und "hoffentlich auch in vielen anderen" eingesetzt wird. Meta selbst plant offenbar die Implementierung von Chatbots in WhatsApp und Instagram.
Mit Projekten wie Blenderbot 3 und Galactica war Meta an vorderster Front der generativen KI für Sprachaufgaben, wurde aber oft für die mit der Technologie verbundenen Risiken, wie z.B. falsche Informationen, kritisiert. Das war, bevor ChatGPT in aller Munde war und LLMs cool wurden.
