Google erweitert sein Vulnerability Rewards Program (VRP) um generative KI-spezifische Angriffsszenarien, um Anreize für die KI-Sicherheitsforschung zu schaffen. Außerdem weitet das Unternehmen seine Open-Source-Sicherheitsarbeit aus, um Informationen zur Sicherheit der KI-Lieferkette allgemein zugänglich und überprüfbar zu machen. Als Teil der VRP-Erweiterung überarbeitet Google seine Richtlinien für die Kategorisierung und Meldung von Fehlern, um den neuen Bedenken im Zusammenhang mit generativer KI Rechnung zu tragen. Darüber hinaus führt Google das Secure AI Framework (SAIF) ein, um die Branche bei der Entwicklung vertrauenswürdiger Anwendungen zu unterstützen, und arbeitet mit der Open Source Security Foundation zusammen, um die Integrität von KI-Lieferketten zu schützen.
Generative KI wirft neue und andere Fragen auf als die herkömmliche digitale Sicherheit, z. B. das Potenzial für unfaire Verzerrungen, Modellmanipulation oder Fehlinterpretationen von Daten (Halluzinationen).
