Es scheint so, als ob Anthropic langsam den OpenAI-Effekt spüren würde. Die zunehmende Kommerzialisierung und die Notwendigkeit, Milliarden US-Dollar einzusammeln, zwingt das Unternehmen zu Kompromissen, etwa das Geldeinsammeln bei autoritären Regimes, die Zusammenarbeit mit dem US-Verteidigungsministerium und speziell Palantir oder explizites Lob für Donald Trump.
Jetzt geht Mrinank Sharma, Leiter des Safeguards Research Teams – zuständig für die Sicherheit von KI-Modellen – und deutet in seiner Verabschiedung an, dass sich Anthropic von seinen Werten entfernt hat.
Ich habe immer wieder gesehen, wie schwer es ist, unsere Werte unser Handeln bestimmen zu lassen. Innerhalb der Organisation stehen wir ständig unter Druck, das Wichtigste beiseitezuschieben.
Mrinank Sharma
Der in Oxford promovierte Forscher sieht die Zeit gekommen, weiterzuziehen. Auch OpenAI kämpfte mit Abgängen von Sicherheitsforschern, die sich mit der schnellen Verbreitung der Technologie rein aus Umsatzgründen nicht wohlfühlten. Anthropic wurde einst von ehemaligen OpenAI-Mitarbeitern mit dem Ziel gegründet, KI-Sicherheit stärker in den Vordergrund zu stellen.
