# Yeni savunma, tıbbi yapay zekâ ajanlarına yönelik istem enjeksiyonunu azaltıyor

> Araştırmacılar, eğitim gerektirmeyen bir denetimin tanı doğruluğunu korurken saldırı başarısını %7’nin altına düşürdüğünü gösteriyor.

Oossa · 2026-10-19 · https://oossa.com/tr/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

2026‑10‑19 tarihinde arXiv’de yayımlanan bir çalışma, büyük dil modelleri (LLM’ler) kullanan çok ajanlı tıbbi sistemler için basit bir savunma öneriyor. Yazarlar, sisteme eklenen tek bir cümlenin vakaların %61’ine kadarını yanıltabildiğini ve mevcut korumaların bu saldırıların çoğunu tespit edemediğini ortaya koyuyor. Yöntemleri, hasta bulgularını yapay zekânın klinik değerlendirmelerinden ayırıyor ve her değerlendirmeyi yalnızca bulgulara göre doğruluyor. MedQA kıyaslamasında savunma, saldırı başarısını %4‑7’ye düşürürken olağan doğruluğu etkilemiyor.

## Gerçekler

- MedQA’da saldırı başarısı %61’e varan düzeylerden %4‑7’ye düşüyor
- Makale 2026‑10‑19 tarihinde yayımlandı

## Neden önemli

Benimsenmesi hâlinde hastaneler, kötü niyetli bir notun tanıları sessizce değiştirmesinden endişe etmeden yapay zekâ asistanlarının vakaları tartışmasını sağlayabilir.

## Kaynaklar ve referanslar

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

Son güncelleme: 2026-10-19