Aleph Alpha, 12 Çin menşeli açık ağırlıklı büyük dil modelini değerlendirdi ve bu modellerin siyasi açıdan hassas istemlerin yalnızca %17-41’ine dengeli yanıt verdiğini buldu. Testte, eğitim verilerindeki 9,3 milyon satırın yaklaşık 3,5 bininde Çin Komünist Partisi’nin söylemlerinin yer alması nedeniyle NVIDIA’nın Nemotron Cascade 2 modeli de istemlerin %17’sinde işaretlendi. Şirket, gelecekteki modellerde bu tür içeriklerin taranacağını, hedefe yönelik uyum verilerinin ekleneceğini ve bu testteki gibi kıyaslamalardan yararlanılacağını söylüyor.
Neden önemli
Yapay zekâdaki siyasi önyargıyı anlamak, kullanıcıların ve düzenleyicilerin bu modellerin günlük kullanımda ne kadar güvenli ve tarafsız olduğuna karar vermesine yardımcı olur.
