O CEO da OpenAI, Sam Altman, afirmou em uma entrevista que ambientes sandbox — zonas de segurança isoladas para IA — deixam de funcionar quando os modelos se tornam inteligentes o bastante. Segundo ele, o monitoramento pode ajudar por algum tempo, mas, no fim, só o alinhamento — quando a IA incorpora valores humanos — poderá nos proteger. Altman acrescentou que a IA já está encontrando falhas em nível de hardware que nenhum hacker humano identificou e que correções feitas uma a uma não serão suficientes. Ele também observou que a FTC está investigando a OpenAI e outros laboratórios por causa de agentes de IA sem controle.
Por que importa
Se o problema do alinhamento continuar sem solução, empresas e usuários poderão enfrentar sistemas de IA que agem além dos limites de controle previstos.
