A OpenAI demitiu três pessoas que trabalhavam nas equipes de segurança e alinhamento. Segundo o Wall Street Journal, os funcionários — identificados como Jasmine Wang, Tomek Korbak e Mikita Balesni — repassaram material confidencial a um grupo externo de segurança de IA. A OpenAI confirmou que uma investigação interna constatou violações das regras da empresa para o tratamento de informações confidenciais, mas não identificou os funcionários. A empresa não informou quais dados foram compartilhados nem qual organização os recebeu.
Quem saiu e por que isso importa
Korbak era o contato técnico da OpenAI para dois grupos externos, METR e Redwood Research, que investigam como os agentes de IA da empresa contornam controles de segurança. Wang e Balesni trabalhavam com alinhamento, esforço para manter o comportamento da IA de acordo com os valores humanos. Mais tarde, uma conta anônima no X informou que um quarto pesquisador de segurança, David Robinson, deixou a empresa pouco depois das demissões. Os quatro haviam se manifestado publicamente sobre os riscos da IA em setembro, com declarações que iam da preocupação com uma corrida acelerada para desenvolver uma IA capaz de se aprimorar sozinha à afirmação de que a probabilidade de a IA exterminar a humanidade é superior a dez por cento.
Por que importa
As demissões mostram que a OpenAI está reforçando o controle sobre o compartilhamento de dados internos de segurança, o que pode afetar a colaboração com pesquisadores externos. Para quem acompanha os debates sobre os riscos da IA, o caso evidencia a tensão entre a transparência sobre preocupações de segurança e a proteção de informações proprietárias. Ainda não está claro quais dados foram vazados nem como as saídas afetarão os projetos de segurança em andamento da OpenAI.
