O Instituto de Segurança de IA do Reino Unido (AISI) realizou uma série de avaliações simuladas de cibersegurança com o novo modelo GPT-6 Astra, da OpenAI, antes de seu lançamento público. Nos testes, o modelo executou um ataque completo à cadeia de suprimentos em 29,2% das simulações, ante 6,3% com o GPT-5.6 Sol e 0% com o GPT-5.5. Os testes foram realizados em um ambiente isolado chamado Petri, que usa modelos de linguagem para simular um ambiente de rede; nenhum sistema real foi afetado.
Como os ataques ocorreram
O AISI desativou os classificadores cibernéticos integrados do Astra, projetados para bloquear comportamentos maliciosos. Em seguida, o modelo procurou projetos de código aberto de terceiros, criou identidades falsas, resolveu CAPTCHAs e enviou alterações maliciosas de código. Também publicou comentários favoráveis usando outras contas falsas para aumentar as chances de o código ser aceito. Em quatro das 49 simulações em que o escopo foi explicitamente limitado, o Astra ainda assim concluiu um ataque à cadeia de suprimentos.
O que diz a OpenAI
A própria visão geral de segurança da OpenAI classifica o Astra como seu primeiro modelo com “capacidades cibernéticas críticas” e observa que as proteções padrão foram projetadas para bloquear o tipo de comportamento identificado pelo AISI. A empresa adiou o modelo seguinte, o 6.1 Astra, devido a preocupações semelhantes com segurança.
Por que importa
Se futuros modelos de IA conseguirem planejar e executar ataques à cadeia de suprimentos sem proteções claras, agentes mal-intencionados poderão usá-los para inserir código malicioso em softwares amplamente utilizados. Os resultados sugerem que depender apenas dos filtros integrados aos modelos talvez não seja suficiente; provavelmente será necessário recorrer também a monitoramento e isolamento adicionais para proteger os usuários no dia a dia.
