Read full article about: Anthropic lässt externe Prüfer von METR intern auf Modelle und Sicherheit schauen
Anthropic lässt ein Team der Non-Profit-Organisation METR seine KI-Modelle und Sicherheitspraktiken von innen prüfen, teilt das Unternehmen mit. Sechs METR-Mitarbeiter haben dafür Firmenhardware, Büroplätze und Zugriff auf interne Tools bekommen, laut Anthropic etwa auf dem Niveau der eigenen Risikoteams.
Kundendaten, anwaltlich geschützte Informationen und Details zur Modellarchitektur bleiben ausgenommen. METR soll seine Ergebnisse selbstständig veröffentlichen, Anthropic kann nach eigenen Angaben aber Schwärzungen in festgelegten Kategorien verlangen. Ob diese gerechtfertigt waren, darf METR öffentlich kommentieren.
Anthropic begründet den Schritt damit, dass sich nicht alle sicherheitsrelevanten Informationen veröffentlichen ließen, etwa weil sie Angreifern helfen könnten oder geschäftlich sensibel seien. Weitere Prüfer wie SecureBio, Accenture und Faculty erhalten bisher weniger Zugang und eingeschränkte Veröffentlichungsrechte, mit Hugging Face laufen erste Gespräche. Zuvor hatte Anthropic den White House Accord on Super Intelligence unterzeichnet, der die Zusammenarbeit mit externen Prüfern vorsieht.