Schutz vor Jailbreaks und Datenlecks: OpenAI übernimmt Sicherheitsplattform Promptfoo für Frontier

OpenAI übernimmt Promptfoo, eine Sicherheitsplattform für KI-Systeme. Promptfoo hilft Unternehmen, Schwachstellen in KI-Anwendungen während der Entwicklung zu finden und zu beheben. Die Technik soll nach Abschluss der Übernahme direkt in OpenAIs Unternehmensplattform Frontier eingebaut werden, mit der Firmen KI-Assistenten erstellen und betreiben können.

Konkret sollen automatisierte Sicherheitstests gegen Angriffe wie Prompt Injections, Jailbreaks und Datenlecks fester Bestandteil von Frontier werden. Zudem will OpenAI damit Kontrolle, Nachvollziehbarkeit und die Einhaltung von Vorschriften für KI-Systeme in Unternehmen stärken.

Promptfoo bietet auch ein viel genutztes Open-Source-Projekt, das weitergeführt werden soll. Die Übernahme ist noch nicht abgeschlossen, Details zu den finanziellen Bedingungen sind nicht bekannt. Das Start-up hatte insgesamt 23 Millionen US-Dollar von Investoren eingesammelt bei einer Bewertung von 86 Millionen US-Dollar im Sommer 2025.