Anthropic heeft aangekondigd dat zes medewerkers van de onderzoeksgroep Model Evaluation and Transparency Research (METR) op de campus gaan werken met dezelfde hardware en interne systemen als de eigen risicobeoordelingsteams van Anthropic. De samenwerking is onbetaald en de waakhond mag zijn bevindingen publiceren. Anthropic kan wel verzoeken om klantgegevens, vertrouwelijke informatie of details over de modelarchitectuur weg te laten.
Waarom krijgt een externe partij zo veel toegang?
De stap komt nu Anthropic zich voorbereidt op een beursgang, waarbij het bedrijf naar verwachting meer dan $2 trillion waard zal zijn. Beleggers willen bewijs dat veiligheidsrisico’s onder controle zijn. Door METR-medewerkers op de campus te laten werken, hoopt Anthropic te laten zien dat zijn modellen transparant worden gecontroleerd, op een manier die vergelijkbaar is met hoe banken toezichthouders inzicht geven in risicovol gedrag voordat dat het publiek schaadt.
Waarom het ertoe doet
Voor consumenten kan het extra toezicht de kans verkleinen dat onveilig modelgedrag in producten terechtkomt nadat het bedrijf naar de beurs is gegaan. Het geeft toezichthouders ook concretere gegevens om risico’s te beoordelen, al moet nog blijken hoe effectief het toezicht is.
