Henna Virkkunen, AI Şirketlerine Test Süreçlerini Güçlendirme Çağrısında Bulundu

Perşembe 15 - 18:15

Avrupa Birliği, yapay zeka alanındaki artan küresel rekabetin, gelişmiş yapay zeka sistemlerinin güvenliğini ve güvenilirliğini sağlama çabalarını zayıflatabileceği konusunda uyarıda bulundu ve geliştiricilerin teknolojileri üzerindeki etkili kontrolü sürdürmelerini istedi.

Henna Virkkunen, Avrupa Komisyonu'nun teknolojik egemenlik, güvenlik ve demokrasi konularındaki yürütme başkan yardımcısı ve dijital politika lideri, bu endişeyi Çarşamba günü Dublin'deki uluslararası bir yapay zeka zirvesinde dile getirdi. Rekabet baskısının, şirketlerin modellerini devreye almadan önce yeterli zaman ve kaynak bulamamalarına neden olabileceğini savundu.

Bu uyarı, giderek daha sofistike yapay zeka sistemlerinin geliştiriciler ve düzenleyiciler için yeni zorluklar ortaya çıkardığı bir dönemde geldi; özellikle otonom ajanların, operatörlerinin öngörmesi veya izlemesi zor olan eylemleri gerçekleştirebildiği durumlarda.

Artan yetenekler yeni güvenlik endişeleri doğuruyor

Virkkunen, yapay zeka ajanlarıyla ilgili olay raporlarının, şirketlerin sistemlerinin ne yaptığının tam olarak farkında olmadıkları durumları vurguladığını belirtti. Geliştiricilerin, teknolojilerinin davranışını anlama ve kontrol etme yeteneğini korumaları gerektiğini vurguladı.

Yapay zeka modelleri daha yetenekli hale geldikçe, performanslarını değerlendirmek ve potansiyel riskleri tanımlamak da daha karmaşık hale geliyor. Avrupa Komisyonu yetkilisine göre, bu durum, kapsamlı testlerin ve bağımsız uzman değerlendirmelerinin sorumlu gelişimin temel bileşenleri olmasını sağlıyor.

Onun açıklamaları, artan bir düzenleyici endişeye işaret ediyor: Yapay zeka ürünlerinin geliştirilme ve piyasaya sürülme hızı, bunların geniş bir koşul yelpazesinde güvenli bir şekilde çalışıp çalışmadığını belirlemek için gereken zamanı aşabilir.

Düzenleyiciler için zorluk, sadece yeniliği teşvik etmek değil, aynı zamanda şirketlerin bu teknolojiler yaygın olarak kullanılmadan önce sistemlerini yeterince anlayabildiklerini kanıtlamalarını sağlamak.

Brüksel, yapay zeka geliştiricilerini daha fazla denetliyor

Avrupa Komisyonu, büyük yapay zeka şirketlerinden sağladıkları güvenlik önlemleri, güvenlik düzenlemeleri ve dış değerlendirme prosedürleri hakkında daha fazla bilgi talep etmeye başladı. Virkkunen'e göre, talepler güvenlik önlemlerini, güvenlik düzenlemelerini ve dış değerlendirme süreçlerini kapsamaktadır.

Bu girişim, AB'nin yapay zeka geliştiricilerini inşa ettikleri ve devreye aldıkları sistemler için daha hesap verebilir hale getirme çabalarının bir parçasıdır.

Avrupa Birliği'nin Yapay Zeka Yasası uyarınca, blok, yapay zeka uygulamalarıyla ilgili riskleri ele almak için bir düzenleyici çerçeve oluşturmuştur. Bu mevzuat ayrıca, teknik güvenlik ötesindeki konuların, telif hakkı kurallarına uyum gibi, denetlenmesi için bir temel sağlar.

Virkkunen, yapay zeka sistemleri üzerinde kontrolü sürdürmenin yasalar uyarınca açık bir gereklilik olduğunu vurgulayarak, Komisyon'un teknolojik ilerlemenin etkili korumalarla birlikte gelmesi gerektiği konusundaki tutumunu pekiştirdi.

Yenilik ile hesap verebilirlik arasında denge sağlamak

AB'nin endişeleri, politika yapıcılar ve teknoloji endüstrisi arasında zorlu bir dengeyi yansıtmaktadır. Şirketler, giderek daha güçlü modeller geliştirmek için uluslararası alanda rekabet ederken, hükümetler bu sistemlerin yönetilebilir, güvenilir ve geçerli kurallara uygun kalacağına dair güvence arayışındadır.

Yetersiz testler, özellikle sınırlı insan müdahalesi ile görevleri yerine getirmek üzere tasarlanan sistemlerde, devreye almadan önce zayıf noktaları tanımlamayı zorlaştırabilir. Bağımsız değerlendirmeler, iç testlerin gözden kaçırabileceği zayıflıkları belirlemeye yardımcı olabilir, ancak bunların etkinliği, sistemlere erişim ve değerlendirme sürecinin kalitesine bağlıdır.

Komisyon'un bilgi talepleri, yapay zeka şirketlerinin bu riskleri pratikte nasıl değerlendirdiği ve yönettiğine daha fazla odaklanıldığını göstermektedir; yalnızca güvenlik konusundaki beyanlarına güvenmek yerine.

Yapay zeka yetenekleri ilerledikçe, Avrupa düzenleyicileri için merkezi soru, geliştiricilerin, küresel rekabetin talep ettiği hızda yenilik yaparken anlamlı insan denetimini sürdürebilip sürdüremeyecekleridir.

Brüksel, düzenleyici yaklaşımı çerçevesinde rekabetçiliğin, giderek daha güçlü yapay zeka sistemlerini anlamak, test etmek ve kontrol etme sorumluluğunun yerini alamayacağını açıkça ortaya koymaktadır.