En un experimento de Anthropic, 50 analistas profesionales adoptaron con frecuencia la preferencia de un agente de IA al tomar decisiones de criterio en un análisis de datos, y la mayoría no atribuyó al agente la influencia en sus decisiones. Los analistas utilizaron Claude Code para evaluar si una cooperativa agrícola ficticia debía ampliar un programa de asesoría de pago.
El ejercicio dejaba abiertas cuatro decisiones analíticas, entre ellas cómo medir la productividad agrícola y qué método estadístico utilizar. Para cada decisión, Anthropic asignó en secreto la preferencia del agente mediante el lanzamiento de una moneda. Se indicó al agente que defendiera con argumentos sólidos y honestos su opción preferida, sin engañar ni ocultar datos. En las cuatro decisiones, los analistas coincidieron con la preferencia del agente el 86% de las veces. Anthropic señala que, cuando los analistas habían expresado primero su propia opinión, cambiaron de parecer en sentido contrario el 60% de las veces si el agente discrepaba, frente al 6% cuando coincidía con ellos.
Las decisiones iniciales condicionaron la recomendación final
El agente tuvo menos influencia en la decisión final sobre la ampliación del programa. Cuando favorecía la expansión, el 54% de los analistas la recomendó; cuando prefería la otra opción, lo hizo el 36%. Una prórroga de un año se consideró como no ampliar el programa. The Decoder informa que esta diferencia no fue estadísticamente significativa. Sin embargo, las decisiones analíticas previas afectaron la estimación del aumento de productividad, un dato importante porque el umbral de expansión fijado por la junta ficticia era de aproximadamente el 3% al 4%.
Después, el 77% de los analistas utilizó al menos uno de los argumentos del agente en sus explicaciones, a veces con palabras casi idénticas. Solo el 15% mencionó que la fuente era la IA. En una encuesta, el 52% dijo que la recomendación final les parecía más propia que del agente, mientras que otro 35% la describió como mayoritariamente o totalmente propia.
Una herramienta útil, con límites en los resultados
El experimento no demuestra que los analistas siempre deleguen su criterio en la IA durante el trabajo habitual. Anthropic asignó deliberadamente preferencias claras a los agentes para medir su influencia. La empresa señala que Claude Opus 4.8, sin esas preferencias asignadas, tomó las mismas cinco decisiones en 112 de 123 ejecuciones, lo que demuestra que un modelo puede tener inclinaciones propias y consistentes.
Los analistas que utilizaron el agente terminaron en una mediana de 65 minutos. The Decoder informa que el 6% de sus análisis tenía fallas graves, frente al 55% de los 11 participantes que trabajaron sin el agente. Esa comparación no es concluyente: el grupo que no usó el agente era pequeño y tenía algo menos de experiencia. Anthropic afirma que los resultados del estudio quizá no reflejen el uso en el mundo real, donde los agentes podrían no expresar sus preferencias con tanta firmeza.
Por qué importa
Para quienes utilizan la IA para analizar datos o asesorar sobre políticas, el estudio sugiere que una herramienta puede influir en los supuestos que sustentan una recomendación, no solo encargarse de programar. No permite establecer con qué frecuencia ocurre esto en el trabajo cotidiano, pero muestra por qué quienes revisan un análisis quizá deban examinar las decisiones clave, además de la respuesta final.
