Anthropic hat angekündigt, dass sechs Beschäftigte der Model Evaluation and Transparency Research (METR) auf dem Firmengelände mit derselben Hardware und denselben internen Systemen arbeiten werden wie die Risikobewertungsteams des Unternehmens. Die Zusammenarbeit ist unbezahlt, und die unabhängige Organisation darf ihre Erkenntnisse veröffentlichen. Anthropic kann jedoch verlangen, dass Kundendaten, vertrauliche Informationen oder Details zur Modellarchitektur geschwärzt werden.
Warum gewährt Anthropic einem externen Team so weitreichenden Zugang?
Der Schritt erfolgt, während Anthropic einen Börsengang vorbereitet, bei dem das Unternehmen nach eigenen Erwartungen mit mehr als $2 trillion bewertet werden könnte. Investoren verlangen Belege dafür, dass die Sicherheitsrisiken unter Kontrolle sind. Mit der Einbindung von METR-Mitarbeitenden will Anthropic eine transparente Kontrolle seiner Modelle ermöglichen, die der Aufsicht durch eigene Beschäftigte ähnelt – vergleichbar damit, wie Banken Aufsichtsbehörden Einblick in riskantes Verhalten gewähren, bevor es der Öffentlichkeit schadet.
Warum es wichtig ist
Für Verbraucher könnte die zusätzliche Aufsicht das Risiko verringern, dass unsicheres Modellverhalten nach dem Börsengang in Produkte gelangt. Sie liefert Aufsichtsbehörden außerdem konkretere Daten zur Bewertung der Risiken. Wie wirksam die Kontrolle ist, muss sich jedoch erst noch zeigen.
