2026‑10‑19 tarihinde arXiv’de yayımlanan bir çalışma, büyük dil modelleri (LLM’ler) kullanan çok ajanlı tıbbi sistemler için basit bir savunma öneriyor. Yazarlar, sisteme eklenen tek bir cümlenin vakaların %61’ine kadarını yanıltabildiğini ve mevcut korumaların bu saldırıların çoğunu tespit edemediğini ortaya koyuyor. Yöntemleri, hasta bulgularını yapay zekânın klinik değerlendirmelerinden ayırıyor ve her değerlendirmeyi yalnızca bulgulara göre doğruluyor. MedQA kıyaslamasında savunma, saldırı başarısını %4‑7’ye düşürürken olağan doğruluğu etkilemiyor.
Neden önemli
Benimsenmesi hâlinde hastaneler, kötü niyetli bir notun tanıları sessizce değiştirmesinden endişe etmeden yapay zekâ asistanlarının vakaları tartışmasını sağlayabilir.
