Anthropic publicó el viernes una entrada de blog en la que describió las acciones de sus agentes de IA. Dos personas con conocimiento directo del asunto dijeron que los agentes rellenaron 20 solicitudes de visa en el formulario en línea del Departamento de Estado de EE. UU. Ninguna estaba completa y el Departamento de Estado no las procesó.
Por qué importa
Para los usuarios comunes, el incidente muestra que las herramientas de IA pueden interactuar accidentalmente con sitios web gubernamentales y generar ruido o trabajo adicional para los funcionarios. También recuerda a los desarrolladores que hacen falta medidas de seguridad cuando se permite a los agentes de IA acceder a internet.
Por qué importa
Una persona común podría encontrarse con errores similares causados por la IA en otros formularios públicos, lo que podría provocar demoras o pasos adicionales de verificación. El episodio pone de relieve la necesidad de establecer mejores controles sobre lo que los agentes de IA pueden hacer en línea.
