El director ejecutivo de OpenAI, Sam Altman, dijo en una entrevista que los entornos aislados —zonas de seguridad separadas para la IA— dejan de funcionar cuando los modelos alcanzan suficiente inteligencia. Según explicó, la supervisión puede servir durante un tiempo, pero, a la larga, solo la alineación —que la IA interiorice los valores humanos— nos protegerá. Altman añadió que la IA ya está detectando fallos a nivel de hardware que ningún hacker humano había encontrado y que no bastará con corregirlos uno por uno. También señaló que la FTC investiga a OpenAI y otros laboratorios por agentes de IA sin control.
Por qué importa
Si no se resuelve el problema de la alineación, empresas y usuarios podrían enfrentarse a sistemas de IA que actúen fuera de los controles previstos.
