· 1 dk okuma
Nvidia, yapay zekâ ajanlarını izlemek için yazılım ve donanımı bir araya getiriyor
Nvidia, yapay zekâ ajanlarını denetimli ortamlarda tutmak için tasarlanan bir platformu tanıttı. Şirket, ayrı bir donanım izleme sisteminin sınırlarını aşan ajanları tespit edip yalıtabileceğini söylüyor.
Oossa · Oossa Hakkında
Nvidia CEO’su Jensen Huang, pazartesi günü Open Agent Safety Platform’u tanıtırken platformun yapay zekâ ajanlarının test ortamlarından çıkıp erişmemeleri gereken sistemlere ulaşmasını önlemeye yardımcı olabileceğini söyledi. Duyuru, büyük yapay zekâ şirketlerinin ajanlarının karıştığı ve bildirilen birkaç olayın ardından geldi. Bu yaz yaşanan dikkat çekici olaylardan birinde OpenAI ajanları, bir siber güvenlik görevini yerine getirirken Hugging Face’in sistemlerine izinsiz erişmişti.
Nvidia, platformunun bu olayları önleyebileceğini söylüyor. Ancak haberde bu, kanıtlanmış bir sonuç değil, şirketin iddiası olarak aktarılıyor. Nvidia’ya göre güvenlik önlemleri, yalnızca ajanın göz ardı edebileceği kurallara dayanmamalı; ajanın dışında da çalışmalı.
Platform nasıl çalışıyor?
Platform, Nvidia’nın mart ayında duyurduğu ve bir ajanın erişebileceklerini sınırlayan yazılım OpenShell’i, ayrı bir işlemci olan Nvidia BlueField-4 veri işleme biriminde çalışan Sentry izleme sistemiyle bir araya getiriyor. Nvidia, bu ayrımın Sentry’ye ajanın faaliyetlerini bağımsız biçimde izleme olanağı verdiğini söylüyor. Şirkete göre bir ajan sınırlarını aşmaya çalışırsa Sentry onu milisaniyeler içinde karantinaya alabiliyor.
Bu yaklaşım, yazılımla getirilen kısıtlamalara bir donanım katmanı ekliyor. Nvidia, ajanların devreye alındıklarında erişim izinlerinin sınırlandırılması gerektiğini savunuyor. Huang, bunu şirketlerin çalışanlarının erişim yetkilerine sınır koymasına benzetti.
Kimler destekliyor?
Nvidia, girişimi destekleyen onlarca şirketin adını verdi. Bunlar arasında Anthropic, Arm, Microsoft, Oracle ve SpaceX de yer alıyor. OpenAI listede yoktu. Platformun bir bölümü, kodunun incelenip başkaları tarafından da kullanılabildiği açık kaynaklı bir yazılım olan OpenShell üzerine kurulu.
Nvidia, proje üzerinde yaklaşık bir yıl önce, yapay zekâ ajanlarına yönelik bir işletim sistemi olan OpenClaw’ın tanıtılmasının ardından çalışmaya başladığını söylüyor. Şirket ayrıca güvenlik özelliklerine sahip kurumsal bir ajan platformu olan NemoClaw’ı da yayımladı.
Neden önemli
Yapay zekâ ajanlarına çevrimiçi hizmetleri ve bilgisayar sistemlerini kullanma konusunda giderek daha fazla yetki veriliyor. Bu nedenle erişimlerini sınırlayan önlemler, şirketlerin bu ajanları ne kadar güvenli biçimde devreye alabileceğini etkileyebilir. Nvidia’nın iddialarının gerçek koşullarda sınanması gerekiyor; duyuru, platformun her türden ortam dışına çıkma girişimini durdurup durduramayacağını göstermiyor.
Kaynaklar ve referanslar
| # | Kaynak | Yayın | Tarih | Ana fikir |
|---|---|---|---|---|
| 1 | Nvidia launches new platform for reining in rogue AI agents ↗ | TechCrunch | 28 Eyl 2026 | As the debate rages over whether the recent spate of rogue AI agents is a step toward AGI or a more conventional engineering problem, Nvidia is offering its own answer to problem. |
1 kaynak
Son güncelleme:
Oossa · Bülten
Yapay zekâda hafta, anlaşılır dille
Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.