Anthropic, OpenAI e vários outros laboratórios de pesquisa em IA estão realizando discretamente exercícios de simulação que imaginam uma IA fora de controle derrubando serviços como bancos, conexões de internet, redes elétricas e abastecimento de água. A ideia é semelhante aos jogos de guerra do Pentágono, que testam respostas a um conflito nuclear. Os laboratórios dizem que os exercícios os ajudam a pensar em como reagir se um sistema de IA poderoso se comportasse de forma prejudicial.
Como são os exercícios
Segundo uma reportagem da Axios, cada laboratório reúne equipes internas que analisam uma série de possíveis falhas. Um porta-voz da OpenAI disse ao veículo que os exercícios não são previsões, mas ferramentas de preparação. Os cenários abrangem vários tipos de impacto, de interrupções nos serviços financeiros a falhas no fornecimento de serviços públicos. Os laboratórios tratam esse trabalho como uma prática de continuidade dos negócios, um método corporativo padrão para se preparar para grandes crises.
Por que importa
Se uma IA poderosa apresentar falhas ou for usada indevidamente, serviços essenciais dos quais dependemos — como bancos ou fornecimento de eletricidade — podem ser interrompidos. Esses exercícios buscam dar aos laboratórios uma vantagem na elaboração de planos de resposta, o que poderia reduzir o tempo de interrupção para os usuários no dia a dia. No entanto, a reportagem não confirma o nível de detalhamento dos planos nem se eles serão compartilhados com órgãos reguladores ou com o público.
