Chinas "ChatBIT" ist ein Paradebeispiel für die Unkontrollierbarkeit von Open-Source-KI
Kurz & Knapp
- Chinesische Militärforscher haben das frei verfügbare KI-Modell Llama von Meta verwendet, um einen militärischen Chatbot namens "ChatBIT" zu entwickeln, der bei der Informationsverarbeitung und operativen Entscheidungen helfen könnte.
- Laut einem von Reuters übersetzten Forschungspapier wurde das Llama-13B-Modell mit 100.000 militärischen Dialogdatensätzen verfeinert, um es für militärische Zwecke zu optimieren. Eine genaue Anwendung wird nicht erwähnt.
- Meta weist darauf hin, dass der militärische Einsatz gegen die Nutzungsbedingungen für Llama-Modelle verstößt, kann aber letztlich die Verbreitung der eigenen Modelle nicht kontrollieren. Das dürfte die Diskussion über Risiken frei verfügbarer KI-Modelle in den USA weiter anfachen.
Chinesische Militärforscher haben das frei verfügbare KI-Modell Llama von Meta verwendet, um einen militärischen Chatbot zu entwickeln. Die Lizenzbestimmungen von Meta verbieten das zwar, aber letztlich ist der Konzern machtlos.
Laut Reuters haben führende chinesische Forschungseinrichtungen mit Verbindungen zur Volksbefreiungsarmee ein KI-Tool für potenzielle militärische Anwendungen entwickelt, das auf dem öffentlich zugänglichen Llama-Modell von Meta basiert.
In einem im Juni veröffentlichten Forschungspapier, das von Reuters übersetzt wurde, beschreiben sechs chinesische Forscher von drei Institutionen, darunter zwei von der Academy of Military Sciences (AMS), die Entwicklung eines Chatbots namens "ChatBIT".
Laut Reuters hat das Team das Llama-13B-Modell von Meta für ChatBIT für militärische Zwecke optimiert. Dazu wurde es mit 100.000 militärischen Dialogdatensätzen verfeinert. Der Chatbot könnte bei der Sammlung und Verarbeitung von Informationen sowie bei operativen Entscheidungen helfen. Eine genaue Anwendung der Technologie wird laut Reuters in dem Paper nicht erwähnt.
Open Source beschleunigt die KI-Entwicklung - auch in China
Eine Sprecherin von Meta weist gegenüber Reuters darauf hin, dass der militärische Einsatz gegen die Nutzungsbedingungen von Meta für Llama-Modelle verstoße. Letztlich kann Meta aber die Verbreitung der eigenen Modelle nicht kontrollieren, insbesondere wenn diese in einem anderen Land auf eigenen Servern betrieben werden.
Das Beispiel aus China dürfte die Diskussion in den USA über die Risiken frei verfügbarer KI-Modelle weiter anfachen. Schon im Sommer berichtete die New York Times, dass chinesische Technologieunternehmen KI-Modelle entwickeln, die mit führenden Systemen aus den USA mithalten können. Laut Interviews mit einem Dutzend Technologen und Forschern profitieren sie dabei auch von Open-Source-Technologien westlicher Unternehmen.
Ein von der US-Regierung in Auftrag gegebener Bericht warnte im Frühjahr vor erheblichen nationalen Sicherheitsrisiken durch KI. Die Autoren schlugen unter anderem vor, KI-Modelle nicht mehr als Open Source zu veröffentlichen. Ohne Gewichte können veröffentlichte KI-Modelle zwar weiterhin frei genutzt, aber nicht mehr ohne Weiteres verändert werden.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.