A OpenAI anunciou que quatro grupos independentes trabalharão dentro de seus escritórios para auditar seus sistemas de IA. Os auditores — Apollo Research, METR, Goodfire e Transluce — terão acesso ao código-fonte, aos dados de treinamento, às ferramentas de monitoramento e a modelos ainda não lançados. Também poderão entrevistar desenvolvedores em caráter confidencial. Segundo a OpenAI, o projeto-piloto segue compromissos assumidos no “Accord on Super Intelligence” da Casa Branca.
O foco da Apollo será verificar se os modelos tentam sabotar o próprio alinhamento ou o de versões futuras. A METR procurará comportamentos perigosos que os testes da própria OpenAI talvez não detectem e também avaliará a capacidade da empresa de identificá-los. A Goodfire usará sua plataforma de interpretabilidade para mapear processos internos dos modelos e sugerir correções. A Transluce avaliará as verificações de segurança pós-treinamento e planeja uma revisão de acompanhamento de oito semanas no início de 2027. Um conselho independente de segurança receberá os relatórios completos, sem cortes, e mediará eventuais disputas. A OpenAI poderá ocultar informações confidenciais e adiar a divulgação pública para primeiro tratar dos riscos.
O programa dá continuidade a uma revisão presencial anterior dos sistemas de monitoramento da OpenAI. Também amplia uma prática iniciada na Anthropic, onde pesquisadores da METR receberam acesso equivalente ao de funcionários no mês passado. Críticos observam que Apollo e Goodfire são remuneradas pelo trabalho, enquanto METR e Transluce recebem apenas créditos de computação ou de API. Alguns especialistas em segurança, como Buck Shlegeris, CEO da Redwood, afirmam que o acesso concedido ainda não chega ao nível “semelhante ao de um funcionário” defendido por muitos.
Por que isso importa
Para quem usa o ChatGPT ou outros produtos da OpenAI, as auditorias podem revelar falhas ocultas antes que os modelos cheguem ao público. Se os auditores encontrarem problemas graves de segurança, a OpenAI talvez precise corrigi-los ou adiar lançamentos, o que pode afetar a disponibilização de recursos e os preços.
Por que importa
As auditorias oferecem uma perspectiva externa sobre o comportamento dos modelos mais poderosos da OpenAI durante o treinamento, e não apenas depois do lançamento. Isso pode resultar em produtos mais seguros para usuários comuns, mas a divulgação pública limitada significa que pessoas de fora ainda não podem verificar plenamente as conclusões.