Pesquisadores alertam que a IA pode acelerar o próprio desenvolvimento

Mais de 20 pesquisadores de IA, entre eles Geoffrey Hinton, Yoshua Bengio e Jakub Pachocki, chefe de pesquisa da OpenAI, alertam que a IA pode em breve ajudar a acelerar o desenvolvimento de sistemas mais capazes. Em um novo artigo, eles dizem que isso pode levar a uma “explosão de inteligência” — um ciclo rápido em que a IA ajuda a criar IAs melhores, que então aceleram ainda mais o processo.

Os autores ressaltam que o momento e o desfecho são incertos. Mas afirmam que os sistemas de IA já escrevem a maior parte do código nas empresas que os desenvolvem e que, em poucos anos, a IA poderá automatizar todo o processo de pesquisa e desenvolvimento.

Por que eles estão preocupados?

Se a IA assumir uma parcela maior do trabalho de projetar e testar novos sistemas, avanços que hoje levam anos poderão ocorrer em meses, alertam os pesquisadores. Eles temem que governos e sociedade tenham dificuldade para reagir nesse ritmo. Também levantam a possibilidade de as pessoas perderem o controle sobre IAs altamente capazes e de o poder mudar de mãos entre empresas, governos e países.

Esses são riscos descritos pelos autores do artigo, não uma previsão de que esse desfecho seja certo. O texto não apresenta um cronograma mais específico do que “em poucos anos”, nem detalha quais partes da pesquisa em IA seriam automatizadas primeiro.

O que eles querem que os formuladores de políticas façam?

Os pesquisadores pedem que os formuladores de políticas tenham muito mais visibilidade sobre como a pesquisa em IA está sendo automatizada. Isso poderia ajudar os responsáveis pelas decisões a entender a rapidez com que a tecnologia está mudando, embora o artigo não detalhe as propostas específicas de políticas mencionadas na fonte.