DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Meta AI hat Purple Llama gestartet, ein Dachprojekt, das darauf abzielt, offene Vertrauens- und Sicherheitswerkzeuge für die verantwortungsvolle Entwicklung von generativer KI bereitzustellen und "das Spielfeld zu ebnen". Das Projekt wird Werkzeuge und Bewertungen bereitstellen, die Entwicklern helfen, verantwortungsvoll mit offenen generativen KI-Modellen zu arbeiten, wobei der Schwerpunkt zunächst auf Cybersicherheit und Input/Output-Schutzmaßnahmen liegt. Im Rahmen des Projekts veröffentlicht Meta AI CyberSec Eval, eine Reihe von Benchmarks für die Bewertung der Cybersicherheit von großen Sprachmodellen (LLMs), und Llama Guard, einen Sicherheitsklassifikator für Input/Output-Filterung. Purple Llama wird von Partnern wie AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Microsoft, MLCommons, NVIDIA und Scale AI unterstützt.

Bild: Meta AI
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!