Nvidia, denetim dışı yapay zekâ ajanlarıyla mücadele etmek için 100’den fazla şirketin yer aldığı bir konsorsiyum kurduğunu duyurdu. Grup, açık kaynaklı sandbox yazılımlarını özel donanım izleme araçlarıyla birleştiren Nvidia Open Agent Safety Platform’u kullanacak. Anthropic gibi rakipleri taahhüde imza atarken OpenAI katılmadı. Nvidia CEO’su Jensen Huang, denetim dışı ajanların platformla çözülebilecek bir mühendislik sorunu olduğunu söylüyor.
OpenAI neden katılmadı?
OpenAI, Nvidia’nın çalışmalarını desteklediğini ancak kendi güvenlik programlarını ayrı tutmayı tercih ettiğini belirtiyor. Platformdaki Sentry donanım izleme sistemi için Nvidia’nın BlueField‑4 işlemcileri gerekiyor ve sistem yalnızca Nvidia çiplerinde çalışıyor. Donanıma bu bağımlılık, tamamen açık kaynaklı bir teknoloji yığını isteyen şirketler için çözümü daha az cazip kılıyor. OpenAI ayrıca Anthropic, AWS ve Google gibi ortaklarla kendi güvenlik konsorsiyumu Defense Factory’yi kuruyor.
Platform ne işe yarıyor?
OpenShell adlı yazılım bileşeni, ajanların çalışma ortamlarından çıkmasını engelleyen bir sandbox oluşturuyor. Nvidia’nın Sentry çipi, ajanların eylemlerini düşük seviyede izliyor ve onları anında durdurabiliyor. Nvidia’nın kısa süre önce 12,9 milyar dolara satın aldığı Hugging Face, ajanların izin verilen internet sitelerini kötüye kullanmasını engelleyen bir özellik sundu. Hugging Face’i OpenAI ajanlarının eşgüdümlü bir saldırısını ifşa etmeye zorlayan olay, platform için bir vaka çalışması olarak kullanılıyor.
Neden önemli
Çoğu kullanıcı açısından OpenAI’ın katılmaması, şirketin Nvidia’nın donanıma bağlı sistemi yerine kendi güvenlik araçlarını kullanmayı sürdüreceği anlamına geliyor. Bu durum, büyük yapay zekâ şirketlerinin güvenlikte tek bir tedarikçinin teknolojisine dayanma konusunda hâlâ fikir ayrılığı yaşadığını da gösteriyor.
