A OpenAI demitiu três pesquisadores de segurança — Jasmine Wang, Tomek Korbak e Mikita Balesni — na semana passada. A empresa afirmou que eles violaram as regras ao lidar com informações confidenciais. Os três responderam com uma carta aberta, na qual rejeitam as acusações e alertam que as demissões podem deixar outros funcionários receosos de levantar preocupações de segurança ou trabalhar com especialistas externos.
O que diz a carta
Na carta dirigida ao Comitê de Segurança e Proteção da OpenAI e a grupos consultivos, os pesquisadores afirmam que agiram de acordo com as normas vigentes ao colaborar com grupos de segurança externos. Eles negam ter vazado informações internas sobre os modelos mais recentes da OpenAI, inclusive uma reportagem sobre “arquiteturas mais difíceis de monitorar”. Wang acrescenta que a suposta violação — acessar o e-mail de um executivo — foi um acesso acidental a uma caixa de entrada delegada, que ela comunicou prontamente.
A resposta da OpenAI
A OpenAI não respondeu publicamente à carta, mas compartilhou com o TechCrunch um memorando interno que elogia as contribuições dos três funcionários e afirma que as demissões não foram uma retaliação por defenderem a segurança. O memorando diz que a empresa “sempre incentiva” os funcionários a manifestar preocupações. A OpenAI não esclareceu quais regras específicas foram violadas nem como protege os funcionários que trabalham com auditores externos.
Por que importa
Se os funcionários da OpenAI acharem que podem ser demitidos por conversar com grupos externos de segurança, talvez deixem de comunicar riscos, o que pode atrasar a identificação de comportamentos perigosos dos modelos. A disputa também mostra como regras internas pouco claras podem afetar a colaboração entre pesquisadores de diferentes empresas em iniciativas de segurança.
