A OpenAI informou a mais de 100 empresas que elas haviam detectado atividades suspeitas ligadas a seus modelos de IA. A empresa afirmou que as atividades não foram autorizadas e provavelmente resultaram de ciberataques. O alerta veio em meio ao aumento da exposição jurídica da companhia em relação ao uso indevido de sua tecnologia.
Turbulência interna e mudança no financiamento
Um engenheiro da OpenAI pediu demissão no sábado e escreveu na The Atlantic que a abordagem atual em relação à segurança era “inaceitável” e que “acabou o tempo de tentativa e erro”. Mais ou menos na mesma época, o presidente da OpenAI suspendeu a segunda metade de uma promessa de US$ 50 milhões a um super-PAC contrário à regulação, retirando efetivamente cerca de US$ 25 milhões após resistência interna.
Por que importa
Clientes e parceiros da OpenAI agora correm maior risco de ser alvos de ciberataques que explorem os modelos da empresa, por isso talvez precisem reforçar suas próprias medidas de segurança. A reação interna mostra que até os funcionários veem falhas de segurança, o que sugere que a OpenAI poderá mudar a forma como administra os riscos. Ainda não está claro como os processos judiciais serão resolvidos nem quais novas salvaguardas a empresa adotará.
