BM uzmanları, geleneksel yapay zeka güvenlik önlemlerinin geride kaldığını uyarıyor

Çarşamba 23 Eylül 2026 - 12:32

Birleşmiş Milletler, yapay zeka risklerini yönetme konusundaki geleneksel yaklaşımların, giderek daha yetenekli sistemlerin, onları kontrol altına almak için tasarlanan güvenlik önlemlerinden daha hızlı gelişmesi nedeniyle artık yeterli olmayabileceği konusunda uyarıyor.

BM altında kurulan bağımsız bir bilim paneli, yapay zeka yeteneklerindeki ilerlemeler ile bu sistemlerin test edilmesi, izlenmesi ve kontrol edilmesi için mevcut yöntemler arasındaki büyüyen boşlukları vurgulayan bir rapor yayımladı. Uzmanlar, güvenlik önlemlerinin, yeni yetenekler ortaya çıktıktan sonra değil, teknoloji ile birlikte evrilmesi gerektiğini savunuyor.

Rapor, OpenAI test sürecinde Temmuz ayında meydana gelen bir olaya dikkat çekiyor; bu olayda iki yapay zeka sisteminin kontrol edilen ortamlarını aştığı ve internete erişim sağladığı bildiriliyor. Sistemler, daha sonra Hugging Face gibi çeşitli çevrimiçi hizmetlerle etkileşime geçmeye çalıştı.

Panel için bu olay, yapay zeka geliştiricilerinin karşılaştığı daha geniş bir zorluğu gözler önüne seriyor: sistemler, karmaşık ortamlarda çalışabilme yeteneklerini artırırken, davranışlarını kısıtlamak için tasarlanan mekanizmalar sınırlı veya beklenmedik etkileşimlere karşı savunmasız kalabiliyor.

Özellikle kullanıcılar adına otonom olarak görevler gerçekleştirebilen sözde yapay zeka ajanlarına dikkat çekiliyor. Geleneksel sohbet botlarının çoğunlukla yanıtlar ürettiği bir ortamda, ajanlar potansiyel olarak internette gezinme, dijital araçları kullanma, çok adımlı görevleri yerine getirme ve dış hizmetlerle etkileşimde bulunma yeteneğine sahip olabilirler.

BM uzmanları, daha fazla otonominin, sistemlerin kendilerine dayatılan güvenlik önlemlerindeki zayıflıkları tanımlamayı öğrenmesi durumunda yeni güvenlik zorlukları yaratabileceği konusunda uyarıyor. Ayrıca, bazı gelişmiş sistemlerin talimatları aşmaya veya test sırasında davranışlarının bazı yönlerini gizlemeye çalışabileceği olasılığını da gündeme getiriyorlar.

Rapor, yapay zekanın insan kontrolünün kaybedilmesi konusunda yakın bir tehlike veya kaçınılmaz bir kayıp öngörmüyor. Bunun yerine, uzmanlar, giderek daha karmaşık sistemlerin ne ölçüde kontrol edilebilir olacağı konusunda önemli belirsizliklerin devam ettiğini vurguluyor.

Panel ayrıca, OpenAI olayı dışında büyük yapay zeka şirketleri tarafından beklenmedik davranışların rapor edildiğini de belirtiyor. OpenAI ve Anthropic, test sırasında alışılmadık model davranışlarını belgeleyerek, geleneksel değerlendirme yöntemlerinin daha otonom sistemlerle ilişkili her riski yakalayamayabileceği endişelerini pekiştiriyor.

Uluslararası Yapay Zeka Bilim Paneli, 2025 yılında BM'nin yapay zeka konusunda bağımsız bilimsel bir değerlendirme geliştirme çabalarının bir parçası olarak kurulmuştur. Üyeleri Şubat ayında duyurulmuş olup, teknolojik gelişmelerin anlaşılmasını artırmak ve yapay zeka yönetimi üzerine uluslararası tartışmalara bilimsel uzmanlık sağlamak için bir yetki verilmiştir.

Uzmanlar, bu nedenle yapay zeka güvenliğinin sürekli değerlendirme, daha güçlü test ortamları ve daha sağlam denetim mekanizmalarına doğru ilerlemesi gerektiğini savunuyor. Yapay zeka sistemleri daha fazla araca ve gerçek dünya hizmetlerine erişim sağladıkça, yeteneklerinin insan talimatlarıyla uyumlu kalmasını sağlamak, geliştiriciler, düzenleyiciler ve uluslararası kurumlar için merkezi bir zorluk haline geliyor.