Nvidia, AI ajanları için güvenlik önlemlerini güçlendiren yeni bir güvenlik katmanı tanıttı
Nvidia, yazılım, ağlar ve işletme ortamlarında görevleri yerine getirme yetenekleri giderek artan otonom yapay zeka ajanları üzerinde geliştiricilere ve işletmelere daha fazla kontrol sağlamak amacıyla açık kaynaklı bir güvenlik platformu tanıttı.
OpenShell olarak bilinen bu girişim, bir AI ajanının etrafında güvenlik kontrolleri koymayı amaçlıyor ve modelin kendisine entegre edilmiş güvenlik önlemlerine tamamen güvenmiyor. Şirket, OpenShell'i, otonom ajanların erişebileceği ve uygulayabileceği şeyleri yöneten açık politikalarla izole ortamlarda çalışmasına olanak tanıyan güvenli bir çalışma zamanı olarak tanımlıyor.
Bu gelişme, AI ajanlarının metin oluşturmanın ve soruları yanıtlamanın ötesine geçtiği bir zamanda geliyor. Modern ajanlar dosyaları okuyabilir, dış araçlar kullanabilir, kod çalıştırabilir, uygulamalarla etkileşime geçebilir ve iş sistemlerine erişebilir, bu da sürekli izinler veya hassas kaynaklara erişim verildiğinde yeni güvenlik zorlukları yaratır.
OpenShell, bir ajanın çalışma ortamının çeşitli bölümlerini kapsayan sandboxing ve politika tabanlı kontroller aracılığıyla bu riskleri ele alır. Nvidia'ya göre, sistem dosyalara, ağ bağlantılarına ve süreçlere erişimi kısıtlarken, izin verilen ve engellenen eylemlerin bir denetim kaydını tutabilir.
Platformun arkasındaki temel prensiplerden biri, kritik güvenlik kontrollerini AI ajanın kendisinin dışına koymaktır. Bu, bir ajanın beklenmedik bir şekilde davranması veya iç güvenlik önlemlerinin aşılması durumunda, çevreleyen çalışma zamanının uyguladığı kısıtlamaların, ajanın ne yapabileceğini sınırlamaya devam edebileceği anlamına gelir.
Platform ayrıca ağ etkinliğini düzenleyebilir ve ajanların yetkisiz hedeflere ulaşmasını engelleyebilir. Dosya sistemi kontrolleri, belirlenen konumlara erişimi kısıtlamak için tasarlanmıştır, süreç düzeyindeki korumalar ise ek ayrıcalıklar elde etme veya potansiyel olarak tehlikeli işlemleri gerçekleştirme girişimlerini engelleyebilir.
Nvidia, bu yaklaşımın uzun süreli otonom sistemler için özellikle geçerli olduğunu savunuyor. Geleneksel sohbet robotlarının aksine, ajanlar uzun süre boyunca çalışabilir, birden fazla araç kullanabilir ve dış hizmetlerle etkileşime geçebilir, bu da bir sistemin ele geçirilmesi veya yanlış yapılandırılması durumunda potansiyel sonuçları artırır.
OpenShell, Nvidia’nın otonom AI için altyapı oluşturma çabasının bir parçasıdır. Şirket ayrıca, ajan dağıtım araçlarını OpenShell'in sandbox ve politika kontrolleri ile birleştiren NemoClaw'ı geliştirmiştir. Son güncellemeler, yaşam döngüsü yönetimi, ağ politikaları, kimlik bilgisi korumaları ve izleme yeteneklerini genişletmiştir.
Özel ajan güvenliği altyapısının ortaya çıkışı, AI endüstrisindeki daha geniş bir kaymayı yansıtıyor. Şirketler, sınırlı insan denetimi ile çok adımlı görevleri yerine getirebilen sistemler üzerinde deneyler yaparken, izinlerin, kimlik bilgilerin ve kurumsal verilere erişimin kontrolü, dağıtım stratejilerinin önemli bir parçası haline geliyor.
İşletmeler için zorluk, AI ajanlarına faydalı işler yapmaları için yeterince erişim sağlarken, onlara hassas sistemler üzerinde sınırsız kontrol vermemektir. Nvidia’nın yaklaşımı, ajanın yeteneklerini, çalıştığı ortamın koyduğu güvenlik sınırlarından ayırarak bu dengeyi sağlamayı hedefliyor.
Ajan güvenliğine artan odaklanma, yapay zeka ile ilişkili risklerin nasıl değiştiğini de vurguluyor. AI sistemleri, yalnızca bilgi sağlamak yerine eylem alma yeteneği kazandıkça, çevreleyen altyapıyı korumak, modelin kendisini değerlendirmek kadar önemli hale gelebilir. OpenShell, otonom ajanları dağıtmak için kullanılan mimariye bu ek koruma katmanını inşa etme girişimlerinden biridir.
-
21:00
-
21:00
-
20:00
-
17:00
-
16:40
-
16:20
-
16:00
-
15:40
-
15:20
-
15:00
-
14:40
-
14:20
-
14:00
-
13:40
-
13:20
-
13:00
-
12:15
-
12:00
-
11:45
-
11:15
-
11:04
-
11:00
-
10:45
-
10:30
-
10:15
-
10:00
-
09:45
-
09:30
-
23:30
-
23:00
-
21:40
