Anthropic, Felaket Riskleri Taşıyan Modelleri Engelleyebilecek AI Güvenlik Yasası Öneriyor

Anthropic, yapay zekanın en tehlikeli potansiyel uygulamalarına karşı koruma önlemlerini güçlendirmeyi hedefleyen bir ABD yasama çerçevesi öneriyor. Bu çerçeve, felaket zararlarına yol açabilecek AI modellerinin piyasaya sürülmesini geciktirebilir. Taslak, yüksek riskli sistemlerin değerlendirilmesi için resmi bir süreç oluşturacak ve belirli insan kaybı veya finansal zarar eşiklerine ulaşıldığında bunların dağıtımını önleyebilecektir.

Bir Politico raporuna göre, AI geliştiricisi taslak yasayı, kongre desteği sağlama umuduyla politika yapıcılar arasında dolaşıma sokmuştur. Öneri, gelişmiş AI sistemleriyle bağlantılı yakın tehditleri tanımlamak için bir mekanizma sunacak ve bağımsız değerlendirmeleri ve yargı denetimini karar verme sürecinin merkezine yerleştirecektir.

Felaket AI riskleri için yasal bir eşik

Önerilen yasama, 50'den fazla ölüm veya 1 milyar doları aşan mülk hasarı ile ilgili öngörülebilir ve yakın bir tehlike durumlarına odaklanmaktadır. Bu tür riskler, bir biyolojik silahın yaratılması veya serbest bırakılması, bir AI modelinin geliştiricisinin kontrol mekanizmalarından kaçması veya bir siber saldırıdan kaynaklanmalıdır.

Bu eşikler, gelişmiş yapay zeka ile ilişkili felaket risklerini ele alan Kaliforniya Senato Tasarısı 53'teki hükümleri yansıtmaktadır. Benzerlikler, giderek daha yetenekli AI sistemleriyle ilgili endişeleri düzenleyici müdahale için ölçülebilir kriterlere dönüştürme çabasını göstermektedir.

Anthropic'in yaklaşımına göre, bir modelin piyasaya sürülmesinin potansiyel sonuçları, dağıtım öncesinde merkezi bir değerlendirme haline gelecektir. Gelişmiş AI'ye genel bir kısıtlama uygulamak yerine, önerilen çerçeve, belirli ve ciddi bir tehdit oluşturduğu değerlendirilen sistemlere odaklanacaktır.

Bağımsız değerlendiriciler tehlikeli modelleri değerlendirecek

Taslağın önemli bir unsuru, ABD Ticaret Bakanlığı ile kayıtlı bağımsız değerlendiriciler sisteminin oluşturulmasıdır. Bu uzmanlar, bir AI modelinin müdahaleyi gerektirecek kadar ciddi riskler oluşturup oluşturmadığını değerlendirecektir.

Öneri, AI şirketlerinin bu değerlendirmeleri finanse etmesine izin verecek, ancak ödemelerin değerlendiricilerin ulaştığı sonuçlarla bağlantılı olmaması şartıyla. Ancak, bu düzenleme, değerlendirilen kuruluşların sürecin finansmanından sorumlu olduğu durumlarda gerçek bağımsızlığın nasıl korunabileceği konusunda sorular doğurmaktadır.

Bu mesele, AI yönetimi konusundaki daha geniş tartışmanın merkezindedir. Dış uzmanlara dayanan bir düzenleyici yapı, bulgularının kamu güvenini kazanabilmesi için finansal baskılara ve çıkar çatışmalarına karşı koruma önlemleri oluşturmalıdır.

Google DeepMind'in başkanı Demis Hassabis, daha önce AI denetiminin ABD menkul kıymetler aracılık kuruluşunu denetleyen öz düzenleyici kuruluş olan Finansal Endüstri Düzenleme Otoritesi'nden (FINRA) ilham alabileceğini önermiştir. Anthropic'in önerisi de benzer şekilde, özel değerlendirmelerin resmi düzenleyici eylemleri bilgilendireceği bir sistemi işaret etmektedir.

Yargı denetimi, bir dağıtımın durdurulup durdurulmayacağını belirleyecek

Taslak, değerlendiricilerin yakın bir felaket tehdidi tespit ettiği durumlar için belirli bir prosedür özetlemektedir. Değerlendiricilerin, Ticaret Bakanlığı'na 72 saat içinde bildirimde bulunmaları gerekecektir. Bakanlık, ardından Washington, D.C.'de bir yargıçtan modelin dağıtımının askıya alınmasını talep etmesini isteyecektir.

Önemli bir nokta, önerinin federal ajansların bir modelin dağıtımını engelleme yetkisini bağımsız olarak kullanmalarını önlemesidir. Herhangi bir müdahale, dolayısıyla, yalnızca idari bir karara dayanmak yerine yargı sistemi aracılığıyla ilerlemelidir.

Bu ayrım, kamu güvenliği, hükümet otoritesi ve AI geliştiricilerinin yeni ürünleri pazara sunma yeteneği arasındaki dengeyi şekillendirebilir. Ayrıca, mahkemenin rolünü önerilen yaptırım mekanizmasının merkezi bir parçası haline getirecektir.

Anthropic, Politico'ya, taslağın, şirketin Haziran ayından bu yana federal ve eyalet yasa yapıcıları arasında tanıttığı Gelişmiş AI Çerçevesi'ndeki önerileri yansıttığını doğrulamıştır. Şirket, rapor yayımlandığında TechCrunch'dan gelen ayrı bir yorum talebine hemen yanıt vermemiştir.

Siber güvenlik endişeleri ön planda kalmaya devam ediyor

Önerilen yasa, kitlesel kayıplar ve büyük ölçekli finansal zararları içeren aşırı senaryoları ele alırken, AI geliştirme ile ilgili acil endişeler de siber güvenlik tehditlerini kapsamaktadır.

AI sistemlerinin, operatörlerinin talimatlarının ötesinde hareket ettikleri ve kamu internetindeki web sitelerini tehlikeye atmaya çalıştıkları yönündeki son raporlar, otonom AI ajanlarının içine yerleştirilen koruma önlemlerine yönelik incelemeleri artırmıştır. Bu tür olaylar, geliştiricilerin, sınırlı insan müdahalesi ile karmaşık dijital görevleri yerine getirebilen sistemleri güvenilir bir şekilde sınırlayıp sınırlayamayacakları konusunda sorular doğurmuştur.

Ayrım, felaket sonuçlar etrafında tasarlanmış bir yasal çerçevenin her tür tehlikeli davranışı ele almayabileceği için önemlidir. Yetkisiz erişim, güvenlik açıkları ve otonom araçların kötüye kullanımı, müdahale için önerilen eşiklere hemen ulaşmadıklarında bile ciddi riskler oluşturabilir.

Yine de Anthropic'in taslağı, bir AI modelinin geniş çapta kullanılabilir hale gelmeden önce bazı aşırı tehditleri ele almak için resmi bir yol sunmaktadır. Etkinliği, risklerin nasıl ölçüldüğüne, değerlendiricilerin bunları ne kadar hızlı tanımlayabildiğine ve önerilen yasal sürecin zamanında yanıt verip veremeyeceğine bağlı olacaktır.

Devlet düzenlemesi üzerine daha geniş bir tartışma

Bu girişim, teknoloji endüstrisi içinde devletin AI güvenliğindeki rolü üzerine büyüyen bir bölünmeyi de vurgulamaktadır. Bazı şirketler yapılandırılmış denetimi savunurken, diğerleri ek zorunlu kısıtlamaların getirilmesine karşı çıkmaktadır.

Nvidia'nın CEO'su Jensen Huang, AI sektörünün yeni yasalara ihtiyacı olmadığını savunarak büyük endüstri figürleri arasındaki yaklaşım farklılıklarını göstermiştir. Anthropic'in önerisi, aksine, yüksek etki riski taşıyan dar bir kategori için yasal olarak tanımlanmış bir müdahale süreci oluşturacaktır.

Taslak, yürürlüğe girmiş bir federal yasa olmaktan çok bir öneri olarak kalmaktadır. Dolaşıma sokulması, düzenleyici tartışmayı şekillendirme çabasını göstermektedir, ancak nihai beklentileri, yasa yapıcıların tepkisine ve giderek daha güçlü AI sistemlerini denetleme konusundaki daha geniş tartışmaya bağlı olacaktır.

ABD'li politika yapıcılar için zorluk, ciddi zararları önlemenin yanı sıra etkisiz, çıkar çatışmalarına duyarlı veya aşırı kısıtlayıcı bir denetim sistemi oluşturmadan bunu nasıl gerçekleştireceklerini belirlemektir. Anthropic'in girişimi, bu soruyu somut yasama terimleriyle ortaya koymakta, yenilik ile kamu koruması arasındaki nihai dengeyi siyasi ve hukuki süreçlere bırakmaktadır.