# Nieuwe verdediging beperkt promptinjecties bij medische AI-agenten

> Onderzoekers laten zien dat een controle zonder extra training het aanvalssucces terugbrengt tot minder dan 7%, zonder de diagnostische nauwkeurigheid aan te tasten.

Oossa · 2026-10-19 · https://oossa.com/nl/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

Een studie die op 2026‑10‑19 op arXiv is gepubliceerd, stelt een eenvoudige verdediging voor medische systemen met meerdere AI-agenten en grote taalmodellen (LLM’s) voor. Volgens de auteurs kan één ingevoegde zin in tot 61% van de gevallen tot een verkeerde uitkomst leiden, terwijl bestaande beveiligingsmaatregelen veel van deze aanvallen missen. Hun methode houdt patiëntbevindingen gescheiden van de klinische oordelen van de AI en controleert elk oordeel uitsluitend aan de hand van die bevindingen. Op de MedQA-benchmark verlaagt de verdediging het aanvalssucces tot 4‑7%, zonder de normale nauwkeurigheid te verminderen.

## De feiten

- Het aanvalssucces op MedQA daalt van maximaal 61% naar 4‑7%
- De paper is gepubliceerd op 2026‑10‑19

## Waarom het ertoe doet

Als ziekenhuizen deze methode invoeren, kunnen AI-assistenten casussen bespreken zonder dat ze bang hoeven te zijn dat een kwaadaardige notitie diagnoses ongemerkt verandert.

## Bronnen en referenties

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

Laatst bijgewerkt: 2026-10-19