# Новая защита снижает риск атак на медицинский ИИ

> Исследователи показали, что проверка без дополнительного обучения снижает успешность атак до менее 7%, не ухудшая точность диагностики.

Oossa · 2026-10-19 · https://oossa.com/ru/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

В исследовании, опубликованном на arXiv 2026‑10‑19, предложен простой способ защиты медицинских систем с несколькими агентами на базе больших языковых моделей (LLM). Авторы установили, что одна внедрённая фраза может ввести систему в заблуждение в 61% случаев, а существующие средства защиты пропускают многие такие атаки. Предложенный метод отделяет сведения о состоянии пациента от клинических выводов ИИ и проверяет каждый вывод только по этим сведениям. На тесте MedQA защита снижает успешность атак до 4‑7% и не ухудшает точность в обычных условиях.

## Факты

- На MedQA успешность атак снижается с 61% до 4‑7%
- Статья опубликована 2026‑10‑19

## Почему это важно

Если эту защиту внедрят, больницы смогут обсуждать случаи с ИИ-помощниками, не опасаясь, что вредоносная запись незаметно изменит диагноз.

## Источники и ссылки

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

Обновлено: 2026-10-19