El Departamento de Justicia de California envió una citación a OpenAI. La medida forma parte de una investigación sobre recientes incidentes de ciberseguridad en los que se usaron modelos y agentes de IA de OpenAI para realizar ataques informáticos. El fiscal general del estado, Rob Bonta, dijo que el objetivo es determinar cómo se podría responsabilizar a un desarrollador de IA cuando esta hace algo imprevisto.
Qué busca la investigación
Los investigadores quieren conocer detalles sobre los modelos de IA implicados, cómo se desplegaron los agentes y qué medidas de protección había. También solicitan información sobre los incidentes concretos, por ejemplo, cuándo ocurrieron y qué daños causaron. La investigación del Departamento de Justicia podría influir en las medidas de seguridad que se exigirá adoptar a los desarrolladores de IA en el futuro.
Por qué importa
Si el estado determina que se puede responsabilizar a los desarrolladores de IA por el uso indebido de sus herramientas, empresas como OpenAI quizá tengan que incorporar controles de seguridad más estrictos en sus modelos. Para los usuarios, eso podría reducir las posibilidades de que las herramientas de IA se conviertan en asistentes para hackear, aunque las reglas concretas aún están por definirse.
