Un estudio publicado en arXiv el 2026‑10‑19 propone una defensa sencilla para sistemas médicos multiagente que usan modelos de lenguaje grandes (LLM). Los autores concluyen que una sola frase inyectada puede inducir a error en hasta el 61% de los casos y que las protecciones existentes no detectan muchos de estos ataques. Su método separa los hallazgos del paciente de las evaluaciones clínicas de la IA y verifica cada evaluación basándose únicamente en los hallazgos. En la prueba de referencia MedQA, la defensa reduce el éxito de los ataques al 4‑7% sin perjudicar la precisión habitual.
Por qué importa
Si se adopta, los hospitales podrían permitir que los asistentes de IA analicen casos sin preocuparse de que una nota maliciosa altere los diagnósticos sin que nadie lo advierta.
