Anthropic anunció que seis empleados del grupo Model Evaluation and Transparency Research (METR) trabajarán en sus instalaciones con los mismos equipos y sistemas internos que utilizan los propios equipos de evaluación de riesgos de Anthropic. El acuerdo no es remunerado y la organización supervisora podrá publicar sus hallazgos, aunque Anthropic puede pedir que se supriman datos de clientes, información privilegiada o detalles sobre la arquitectura de los modelos.
¿Por qué dar este nivel de acceso a un tercero?
La medida llega mientras Anthropic se prepara para una salida a bolsa que, según espera, valorará la empresa en más de $2 trillion. Los inversores han pedido pruebas de que los riesgos para la seguridad están bajo control. Al incorporar al personal de METR, Anthropic espera mostrar una supervisión transparente de sus modelos, similar a la que permite a los reguladores de los bancos observar conductas de riesgo antes de que perjudiquen al público.
Por qué importa
Para los consumidores, esta supervisión adicional podría reducir la posibilidad de que comportamientos inseguros de los modelos lleguen a los productos después de que la empresa salga a bolsa. También proporciona a los reguladores datos más concretos para evaluar los riesgos, aunque todavía está por verse cuán eficaz será la supervisión.
