Metas Purple Llama soll Open-Source-KI sicherer machen

Meta AI hat Purple Llama gestartet, ein Dachprojekt, das darauf abzielt, offene Vertrauens- und Sicherheitswerkzeuge für die verantwortungsvolle Entwicklung von generativer KI bereitzustellen und "das Spielfeld zu ebnen". Das Projekt wird Werkzeuge und Bewertungen bereitstellen, die Entwicklern helfen, verantwortungsvoll mit offenen generativen KI-Modellen zu arbeiten, wobei der Schwerpunkt zunächst auf Cybersicherheit und Input/Output-Schutzmaßnahmen liegt. Im Rahmen des Projekts veröffentlicht Meta AI CyberSec Eval, eine Reihe von Benchmarks für die Bewertung der Cybersicherheit von großen Sprachmodellen (LLMs), und Llama Guard, einen Sicherheitsklassifikator für Input/Output-Filterung. Purple Llama wird von Partnern wie AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Microsoft, MLCommons, NVIDIA und Scale AI unterstützt.