Nvidia führt drei neue NIM Microservices für seine NeMo Guardrails Plattform ein, die Gespräche mit KI-Chatbots sicherer machen sollen: Der Content-Safety-Dienst soll automatisch KI-Ausgaben auf problematische oder schädliche Inhalte prüfen und diese herausfiltern, bevor sie den Nutzer erreichen. Der Topic-Control-Dienst soll dafür sorgen, dass KI-Gespräche innerhalb vorgegebener Themenbereiche bleiben und keine unerwünschten Abschweifungen entstehen. Der Jailbreak-Detection-Dienst soll systematisch Versuche erkennen und blockieren, mit denen Angreifer die Sicherheitssysteme der KI austricksen wollen. Die Dienste nutzen laut Nvidia kleine, spezialisierte Sprachmodelle, die weniger Rechenleistung benötigen sollen als große Modelle. Erste Unternehmen wie Amdocs, Cerence AI und Lowe's testen die Technologie laut Nvidia bereits in ihren Systemen. Die Microservices sind Teil der Open-Source-Software NeMo Guardrails und stehen Entwicklern kostenlos zur Verfügung.
You have read 2 of our articles this month. Thank you for your interest!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Quellen
News, Tests und Berichte über VR, AR und MIXED Reality.
Lust auf BMX-Stunts in Mixed Reality auf der Meta Quest 3? Wir verlosen Gratis-Keys für diese App
High-end-VR-Brille kämpft mit Bugs, nächste XR-Namensänderung bei Meta und neue Anti-Cheat-Software für VR-Spiele
Vermillion auf Meta Quest 3 erleichtert jetzt die Freiluftmalerei
MIXED.de
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!