# Neuer Schutz bremst Prompt-Injection bei medizinischen KI-Agenten

> Laut Forschenden senkt eine Prüfung ohne zusätzliches Training die Erfolgsquote von Angriffen auf unter 7 Prozent, ohne die Diagnosegenauigkeit zu beeinträchtigen.

Oossa · 2026-10-19 · https://oossa.com/de/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

Eine am 2026‑10‑19 auf arXiv veröffentlichte Studie stellt einen einfachen Schutz für medizinische Multi-Agenten-Systeme vor, die große Sprachmodelle (LLMs) einsetzen. Den Autoren zufolge kann ein einziger eingeschleuster Satz in bis zu 61 % der Fälle irreführen; bestehende Schutzmaßnahmen erkennen viele dieser Angriffe nicht. Bei ihrer Methode werden Patientenbefunde von den klinischen Einschätzungen der KI getrennt. Anschließend wird jede Einschätzung ausschließlich anhand der Befunde überprüft. Auf dem MedQA-Benchmark senkt der Schutz die Erfolgsquote von Angriffen auf 4‑7 %, ohne die normale Genauigkeit zu beeinträchtigen.

## Die Fakten

- Die Erfolgsquote von Angriffen sinkt auf MedQA von bis zu 61 % auf 4‑7 %
- Studie veröffentlicht am 2026‑10‑19

## Warum es wichtig ist

Wenn Krankenhäuser den Ansatz übernehmen, könnten sie KI-Assistenten Fälle besprechen lassen, ohne befürchten zu müssen, dass eine bösartige Notiz unbemerkt Diagnosen verändert.

## Quellen und Referenzen

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

Zuletzt aktualisiert: 2026-10-19