Anthropic meddelade att sex medarbetare från gruppen Model Evaluation and Transparency Research (METR) ska arbeta på företagets campus med samma utrustning och interna system som Anthropics egna riskbedömningsteam använder. Samarbetet är obetalt och METR kan publicera sina resultat, men Anthropic kan begära att uppgifter om kunder, sekretessbelagd information eller detaljer om modellarkitekturen tas bort.
Varför ge en extern grupp så här stor tillgång?
Det sker samtidigt som Anthropic förbereder en börsnotering som företaget räknar med ska värdera det till mer än $2 trillion. Investerare har efterfrågat bevis på att säkerhetsriskerna är under kontroll. Genom att låta METR:s medarbetare arbeta på plats hoppas Anthropic visa upp en transparent granskning av sina modeller, på villkor som liknar de anställdas. Det påminner om hur banker låter tillsynsmyndigheter granska riskfylld verksamhet innan den skadar allmänheten.
Varför det spelar roll
För konsumenter kan den utökade granskningen minska risken för att osäkert modellbeteende slinker igenom och når produkter efter börsnoteringen. Den ger också tillsynsmyndigheter mer konkreta underlag för att bedöma risker, även om det återstår att se hur effektiv granskningen blir.
