Google erweitert sein Vulnerability Rewards Program (VRP) um generative KI-spezifische Angriffsszenarien, um Anreize für die KI-Sicherheitsforschung zu schaffen. Außerdem weitet das Unternehmen seine Open-Source-Sicherheitsarbeit aus, um Informationen zur Sicherheit der KI-Lieferkette allgemein zugänglich und überprüfbar zu machen. Als Teil der VRP-Erweiterung überarbeitet Google seine Richtlinien für die Kategorisierung und Meldung von Fehlern, um den neuen Bedenken im Zusammenhang mit generativer KI Rechnung zu tragen. Darüber hinaus führt Google das Secure AI Framework (SAIF) ein, um die Branche bei der Entwicklung vertrauenswürdiger Anwendungen zu unterstützen, und arbeitet mit der Open Source Security Foundation zusammen, um die Integrität von KI-Lieferketten zu schützen.

Generative KI wirft neue und andere Fragen auf als die herkömmliche digitale Sicherheit, z. B. das Potenzial für unfaire Verzerrungen, Modellmanipulation oder Fehlinterpretationen von Daten (Halluzinationen).

Google

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!