Metas LLM Llama Guard ist jetzt über AWS verfügbar

Amazon SageMaker JumpStart bietet jetzt Llama Guard, eine Komponente des Purple Llama Projekts von Meta. Llama Guard ist ein Sicherheitsklassifikator für die Ein-/Ausgabefilterung. Er bietet Eingabe- und Ausgabeschutz für große Sprachmodelle und ermöglicht es Entwicklern, KI-Modelle sicher zu entwickeln. Das Modell wurde mit einer Mischung aus öffentlich zugänglichen Datensätzen trainiert, um potenziell gefährliche oder anstößige Inhalte zu erkennen. Es kann in die Risikominderungsstrategien von Entwicklern für Anwendungen wie Chatbots und Inhaltsmoderation integriert werden. Llama Guard kann zusammen mit anderen in SageMaker JumpStart verfügbaren grundlegenden Modellen verwendet werden.