Baseten, yapay zekâ modellerinin çıkarım sürecine proaktif güvenlik kontrolleri ekleyen Goodfire AI ortaklığındaki Project Beacon’ı duyurdu. Sistem, model metin üretirken modelin iç aktivasyonlarını inceliyor; istem enjeksiyonu, politika ihlalleri, veri sızıntıları veya siber kötüye kullanım gibi güvenli olmayan içerikleri engelleyebiliyor ya da işaretleyebiliyor. Baseten, denetim sistemlerinin üretimle paralel çalışacağını ve bu nedenle fark edilir bir gecikmeye yol açmayacağını söylüyor. Şirket, özelliği önümüzdeki birkaç ay içinde az sayıda erken dönem iş ortağının kullanımına sunmayı, ardından daha fazla modele ve kurumsal denetime genişletmeyi planlıyor.
Neden önemli
Şirketler, yapay zekâ kullanımı arttıkça ayrı filtrelere ve manuel incelemelere duyulan ihtiyacı azaltarak her modelde tutarlı güvenlik önlemleri uygulayabilir.
