Oossa

UniGuard, LLM’ler için arayüzden bağımsız güvenlik modeli sundu

0.6 B parametreli UniGuard, farklı etkileşim biçimlerinde güvenlik sınıflandırmasını iyileştiriyor ve kıyaslama testlerinde daha büyük güvenlik modellerini geride bırakıyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

Viet Thanh Pham liderliğindeki araştırmacılar, yapay zekânın tek bir istem, sohbet, ajan iz kaydı veya çok ajanlı bir senaryo olarak kullanılması fark etmeksizin aynı şekilde çalışan güvenlik sinyallerini öğrenen UniGuard adlı bir eğitim çerçevesini yayımladı. Ekip, kamuya açık 1.000 güvenlik vakasından oluşan bir veri kümesi hazırladı ve her vakayı beş farklı görünüme dönüştürdü. Ortaya çıkan UniGuard‑0.6B modeli; sınıflandırma, karşıtsal öğrenme ve özel bir kalibrasyon kaybı kullanılarak eğitildi. Daha önce görmediği arayüzleri içeren üç kıyaslama testinde model, önceki sürümünü yaklaşık 45 F1 puanla geride bıraktı ve kalibrasyon hatasını 35 puan azalttı. Ayrıca Claude‑Sonnet‑4.5 ve GPT‑5.2 gibi çok daha büyük modellerle rekabet edebilecek düzeyde sonuçlar verdi.

Neden önemli

Yapay zekâ asistanı geliştiricileri, sohbet, ajan ve çok ajanlı bağlamlarda güvenilirliğini koruyan küçük, 0.6 B parametreli bir güvenlik modeli kullanabilir. Böylece birden fazla güvenlik modeline duyulan ihtiyaç azalır.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.