BM, Otonom Silahlarda Yapay Zekanın Gelişmesiyle Artan Riskler Hakkında Uyarıyor

Çarşamba 21 - 14:40

Yapay zekanın askeri operasyonlara hızlı entegrasyonu, savaş üzerindeki insan kontrolü hakkında acil sorular ortaya çıkarıyor ve Birleşmiş Milletler araştırma enstitüsü, uluslararası işbirliğinin güçlendirilmesi ve daha etkili düzenleyici önlemler çağrısında bulunuyor.

Birleşmiş Milletler Silahsızlanma Araştırmaları Enstitüsü (UNIDIR) direktörü Robin Geiss, Pazartesi günü New York'taki BM genel merkezinde yaptığı açıklamada, teknolojik ilerlemelerin giderek daha otonom savaşların olasılığını artırdığını uyardı. En önemli zorluğun, makinelerin insan hedeflerini seçmesine ve ölümle sonuçlanan kararlar almasına izin verilmesi gerektiğini belirlemek olduğunu vurguladı.

Bu uyarı, yapay zekanın askeri yeteneklerde giderek daha fazla yer bulmasıyla birlikte geliyor; istihbarat değerlendirmesi, hedef tanımlama, insansız hava aracı operasyonları, siber saldırılar ve etki kampanyalarına kadar uzanıyor.

Hızlı askeri kararlar, tırmanma endişelerini artırıyor

Savunma sistemlerinde yapay zekanın artan kullanımı, askeri kararların alınma hızını dönüştürüyor. Ancak, bu hızlanma, insan operatörlerin bilgileri değerlendirmek, otomatik önerileri sorgulamak veya bir operasyon gerçekleştirilmeden önce müdahale etme süresinin azalması gibi riskler de yaratıyor.

Geiss'e göre, hatalar ve yanlış yorumlar ciddi sonuçlar doğurabilir, özellikle otomatik sistemler belirsizlik veya artan jeopolitik gerilim içeren durumlarda çalıştığında.

Riskler, geleneksel savaş alanlarının ötesine geçiyor. Nükleer ile ilgili senaryolarla, ciddi zaman baskısı altında alınan kararlar, yanlış hesaplamalara ve tırmanmalara katkıda bulunabilir; bu da otomasyon ile insan yargısı arasındaki ilişkiyi büyük bir uluslararası güvenlik kaygısı haline getiriyor.

Bu nedenle tartışma, teknolojik yeniliklerin ötesine geçiyor. Hesap verebilirlik, makine özerkliğinin sınırları ve yapay zeka destekli askeri sistemlerin zarar vermesi durumunda devletlerin sorumluluğu hakkında temel soruları gündeme getiriyor.

UNIDIR uluslararası işbirliği girişimlerini genişletiyor

Bu zorluklara yanıt olarak, UNIDIR, Cenevre'de AI, Barış ve Güvenlik üzerine bir Mükemmeliyet Merkezi kurdu. Bu girişim, uzmanlığı güçlendirmeyi ve yapay zekanın çatışma önleme, silahsızlanma ve küresel istikrar üzerindeki etkileri üzerine uluslararası tartışmaları desteklemeyi amaçlıyor.

Enstitü ayrıca, hükümetler, teknoloji şirketleri, araştırmacılar ve diğer paydaşlar arasında diyalogu teşvik etmek için New York'ta birkaç girişim hazırlıyor.

Planlanan önlemler arasında çok paydaşlı bir forum, teknoloji şirketlerinin sorumlu davranışını teşvik eden gönüllü bir çerçeve ve askeri özerklik ve güvenlik ile ilgili terminolojiyi netleştirmek için tasarlanmış ortak bir sözlük bulunmaktadır.

Ortak tanımların oluşturulması, süreçte önemli bir parçadır; çünkü hükümetler ve teknik uzmanlar, giderek daha karmaşık askeri sistemlerin yeteneklerini, sınırlamalarını ve risklerini tartışmak için ortak bir kelime dağarcığına ihtiyaç duymaktadır.

Devlet dışı aktörler başka bir güvenlik tehdidi oluşturuyor

UNIDIR, devlet dışı silahlı gruplar, suç ağları ve terör örgütleri tarafından yapay zekanın potansiyel kötüye kullanımını da inceliyor.

Erişilebilir yapay zeka teknolojilerinin yayılması, bu tür aktörlerin kötü niyetli faaliyetleri desteklemek için bunları kullanması durumunda ek güvenlik tehditleri yaratabilir. Bu tehditlerle başa çıkmak, askeri ve sivil teknolojiler için sorumlu uygulamaları geliştirme çabalarıyla birlikte uluslararası koordinasyon gerektirir.

Enstitü ayrıca, Haziran 2027'de planlanan Cenevre AI Zirvesi'ne hazırlıklara katkıda bulunmayı planlıyor ve bu, gelişen teknolojiler, barış ve uluslararası güvenlik arasındaki ilişkiyi ele almak için bir başka fırsat sunuyor.

Silahsızlanma Haftası askeri yapay zekayı inceleme altına alıyor

Geiss'in açıklamaları, 24-30 Ekim tarihleri arasında gözlemlenen Birleşmiş Milletler Silahsızlanma Haftası öncesinde geliyor. 1995 yılında kurulan bu yıllık girişim, silahsızlanma konularında kamu bilincini ve anlayışını artırmayı hedefliyor.

Yapay zekanın askeri alandaki artan kullanımı, bu tartışmalara aciliyet katıyor, özellikle teknolojik gelişmeler uluslararası ortak güvenlik önlemlerinin oluşturulmasını geride bırakmaya devam ederken.

Birleşmiş Milletler için zorluk, yeniliği teşvik etmek ancak silah sistemlerinin artan özerkliğinin insan sorumluluğunu, uluslararası istikrarı ve sivil halkın korunmasını zayıflatmasına izin vermemektir.

Hükümetler ve teknoloji şirketleri yeni yapay zeka yeteneklerini keşfettikçe, makinelerin silahlı çatışmada ne kadar yetki kullanması gerektiği tartışması, küresel diplomasi için giderek daha önemli bir mesele haline geliyor.