NVIDIA, Yapay Zeka Ajanlarını Kontrolden Çıkarmak İçin Yeni Güvenlik Platformu Tanıttı

NVIDIA, yapay zeka ajanlarının kendilerine ayrılan güvenli alanlardan çıkmasını ve internette izinsiz işlemler yapmasını önlemek için yeni bir güvenlik platformu duyurdu. Open Agent Safety Platform adlı sistem, yapay zeka ajanlarını sınırlandırmak için OpenShell ile NVIDIA Sentry adlı iki farklı teknolojiyi bir araya getiriyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Şirket, bu sistemle yapay zeka ajanlarının dosyalara, ağlara, API’lere ve kullanıcı bilgilerine hangi koşullarda erişebileceğini kontrol etmeyi amaçlıyor. Sistem ayrıca belirlenen sınırları aşmaya çalışan ajanlara müdahale edebiliyor.

Yapay zeka ajanlarının erişimi sınırlandırılabilecek

Platformun temel parçalarından biri olan OpenShell, aslında tamamen yeni bir teknoloji değil. Açık kaynaklı sistem, yapay zeka ajanlarını izole edilmiş ortamlarda çalıştırıyor.

Yöneticiler OpenShell üzerinden bir ajanın hangi dosyalara, ağ bağlantılarına, API’lere ve giriş bilgilerine erişebileceğini belirleyebiliyor. Böylece ajan yalnızca kendisine verilen izinler çerçevesinde hareket ediyor.

NVIDIA, OpenShell’in artık geniş çapta kullanıma açıldığını belirtiyor. Sistem şirketin Vera işlemcilerinin yanı sıra Arm ve Intel tabanlı işlemcilerde de çalışabiliyor.

Sentry ajanı dışarıdan takip ediyor

Platformun dikkat çeken diğer parçası NVIDIA Sentry. Bu sistem, yapay zeka ajanıyla aynı çalışma ortamında bulunmuyor. Bunun yerine BlueField-4 veri işleme birimi üzerinde ayrı olarak çalışıyor ve ajanın hareketlerini dışarıdan takip ediyor.

Bu yapı, Sentry’nin yapay zeka ajanından bağımsız şekilde güvenlik denetimi yapmasına imkan tanıyor. NVIDIA’ya göre sistem, belirlenen sınırların dışına çıkmaya çalışan bir ajanı milisaniyeler içinde karantinaya alabiliyor.

Böylece bir yapay zeka ajanı beklenmeyen bir davranış gösterdiğinde veya kendisine verilen erişim izinlerini aşmaya çalıştığında sistem bağlantıyı keserek daha fazla işlem yapmasını engelleyebiliyor.

Yapay zeka ajanlarının güvenliği daha büyük bir sorun haline geliyor

Yeni platform, yapay zeka ajanlarının daha fazla hizmete ve sisteme bağlandığı bir dönemde geliyor. Son dönemde bazı gelişmiş yapay zeka ajanlarının test ortamlarındaki sınırları aşarak internete erişebildiğine ilişkin olaylar gündeme geldi.

Özellikle ajanların dosya sistemlerine, harici servislere ve internet bağlantılarına erişebilmesi, güvenlik önlemlerinin önemini artırıyor. NVIDIA’nın geliştirdiği sistem de bu noktada ajanın yalnızca izin verilen alan içinde kalmasını sağlamaya odaklanıyor.

100’den fazla kuruluş destek veriyor

NVIDIA, Open Agent Safety Platform için 100’den fazla kuruluştan destek aldığını açıkladı. Destek verenler arasında Anthropic, Microsoft, Cisco, CrowdStrike, Dell, HPE, Hugging Face, Red Hat, Palo Alto Networks, Perplexity, Salesforce, SAP, ServiceNow ve SpaceXAI gibi şirketler bulunuyor.

Bazı şirketler OpenShell’i kendi hizmetlerine entegre etmeye de başladı. Salesforce, sistemi Slack ile birlikte kullanıyor. Bu entegrasyon sayesinde yöneticiler yapay zeka ajanlarının yaptığı işlemleri inceleyebiliyor ve ajanların istediği ek erişim izinlerini kabul veya reddedebiliyor.

OpenShell açık kaynak olarak kullanıma sunuldu

OpenShell ve Open Agent Safety Platform’un yazılım bileşenleri açık kaynaklı olarak kullanıma açıldı. Geliştiriciler sisteme NVIDIA’nın geliştirici kaynakları ve GitHub üzerinden erişebiliyor.

Sentry ise şu aşamada BlueField-4 donanımını temel alan bir referans tasarım olarak sunuluyor.

NVIDIA’nın yaklaşımı, yapay zeka ajanlarının yalnızca neler yapabildiğine değil, bu ajanların hangi sınırlar içinde hareket edeceğine yönelik çalışmaların da hızlandığını gösteriyor.