Chinesische Militärforscher haben das frei verfügbare KI-Modell Llama von Meta verwendet, um einen militärischen Chatbot zu entwickeln. Die Lizenzbestimmungen von Meta verbieten das zwar, aber letztlich ist der Konzern machtlos.
Laut Reuters haben führende chinesische Forschungseinrichtungen mit Verbindungen zur Volksbefreiungsarmee ein KI-Tool für potenzielle militärische Anwendungen entwickelt, das auf dem öffentlich zugänglichen Llama-Modell von Meta basiert.
In einem im Juni veröffentlichten Forschungspapier, das von Reuters übersetzt wurde, beschreiben sechs chinesische Forscher von drei Institutionen, darunter zwei von der Academy of Military Sciences (AMS), die Entwicklung eines Chatbots namens "ChatBIT".
Laut Reuters hat das Team das Llama-13B-Modell von Meta für ChatBIT für militärische Zwecke optimiert. Dazu wurde es mit 100.000 militärischen Dialogdatensätzen verfeinert. Der Chatbot könnte bei der Sammlung und Verarbeitung von Informationen sowie bei operativen Entscheidungen helfen. Eine genaue Anwendung der Technologie wird laut Reuters in dem Paper nicht erwähnt.
Open Source beschleunigt die KI-Entwicklung - auch in China
Eine Sprecherin von Meta weist gegenüber Reuters darauf hin, dass der militärische Einsatz gegen die Nutzungsbedingungen von Meta für Llama-Modelle verstoße. Letztlich kann Meta aber die Verbreitung der eigenen Modelle nicht kontrollieren, insbesondere wenn diese in einem anderen Land auf eigenen Servern betrieben werden.
Das Beispiel aus China dürfte die Diskussion in den USA über die Risiken frei verfügbarer KI-Modelle weiter anfachen. Schon im Sommer berichtete die New York Times, dass chinesische Technologieunternehmen KI-Modelle entwickeln, die mit führenden Systemen aus den USA mithalten können. Laut Interviews mit einem Dutzend Technologen und Forschern profitieren sie dabei auch von Open-Source-Technologien westlicher Unternehmen.
Ein von der US-Regierung in Auftrag gegebener Bericht warnte im Frühjahr vor erheblichen nationalen Sicherheitsrisiken durch KI. Die Autoren schlugen unter anderem vor, KI-Modelle nicht mehr als Open Source zu veröffentlichen. Ohne Gewichte können veröffentlichte KI-Modelle zwar weiterhin frei genutzt, aber nicht mehr ohne Weiteres verändert werden.
