Anthropic ha annunciato che sei dipendenti del gruppo Model Evaluation and Transparency Research (METR) lavoreranno nella sua sede, usando gli stessi dispositivi e sistemi interni dei team di Anthropic incaricati della valutazione dei rischi. La collaborazione non è retribuita e METR può pubblicare i risultati delle sue ricerche, anche se Anthropic può chiedere di oscurare dati dei clienti, informazioni riservate o dettagli sull’architettura dei modelli.
Perché concedere a un soggetto esterno un accesso così ampio?
La mossa arriva mentre Anthropic si prepara a una quotazione in Borsa, che secondo le sue previsioni potrebbe portare la valutazione dell’azienda oltre i 2 trillion di dollari. Gli investitori chiedono prove che i rischi per la sicurezza siano sotto controllo. Ospitando il personale di METR, Anthropic spera di dimostrare che i suoi modelli sono sottoposti a una supervisione trasparente, simile a quella dei dipendenti, come quando le banche consentono alle autorità di vigilanza di individuare comportamenti rischiosi prima che danneggino il pubblico.
Perché conta
Per i consumatori, una supervisione aggiuntiva potrebbe ridurre il rischio che comportamenti non sicuri dei modelli finiscano nei prodotti dopo la quotazione in Borsa dell’azienda. Potrebbe inoltre fornire alle autorità di regolamentazione dati più concreti per valutare i rischi, anche se l’efficacia della supervisione resta da verificare.
