# Nueva defensa frena ataques a la IA médica

> Investigadores muestran que una verificación sin entrenamiento reduce el éxito de los ataques a menos del 7% y mantiene la precisión diagnóstica.

Oossa · 2026-10-19 · https://oossa.com/es/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

Un estudio publicado en arXiv el 2026‑10‑19 propone una defensa sencilla para sistemas médicos multiagente que usan modelos de lenguaje grandes (LLM). Los autores concluyen que una sola frase inyectada puede inducir a error en hasta el 61% de los casos y que las protecciones existentes no detectan muchos de estos ataques. Su método separa los hallazgos del paciente de las evaluaciones clínicas de la IA y verifica cada evaluación basándose únicamente en los hallazgos. En la prueba de referencia MedQA, la defensa reduce el éxito de los ataques al 4‑7% sin perjudicar la precisión habitual.

## Los hechos

- El éxito de los ataques en MedQA baja de hasta el 61% al 4‑7%
- Estudio publicado el 2026‑10‑19

## Por qué importa

Si se adopta, los hospitales podrían permitir que los asistentes de IA analicen casos sin preocuparse de que una nota maliciosa altere los diagnósticos sin que nadie lo advierta.

## Fuentes y referencias

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

Última actualización: 2026-10-19