Anthropic, Hükümet Yasağı Üzerinde Son Kararı Mahkemelere Bırakan AI Güvenlik Yasası Önerdi

Anthropic, Amerika Birleşik Devletleri'nin en güçlü yapay zeka modellerini düzenlemek için bir federal çerçeve önerdi ve Washington, ortaya çıkan AI risklerini nasıl ele alacağı konusunda tartışırken, hükümet müdahalesi ile yargı denetimi arasında bir denge sağlamayı amaçlıyor.

Öneri, federal yetkililerin tehlikeli derecede yetenekli bir AI modelinin kısıtlanmasını talep etmesine olanak tanıyacak, ancak hükümetin bu modelin dağıtımını engelleme girişimi yargı onayına tabi olacak. Politico tarafından bildirilen çerçeve, Washington'da hızla gelişen AI teknolojisini düzenleme konusunda büyüyen anlaşmazlıklar arasında ortaya çıkıyor.

Önerilen yasalar kapsamında, yetkililer, bir modelin 50'den fazla ölüm veya ciddi yaralanma ya da 1 milyar doları aşan mali hasar riski taşıdığı durumlarda, modelin dağıtımını durdurmak için harekete geçebilirler. Bir hakim, hükümetin böyle bir kısıtlama getirme yetkisine sahip olup olmadığına son noktayı koyacaktır.

Zorunlu testler ve bağımsız güvenlik değerlendirmeleri

Anthropic'in planı, en gelişmiş AI sistemleri üzerinde çalışan geliştiriciler için bir dizi yükümlülük getirecek.

Şirketlerin, en güçlü modellerini test etmeleri, sonuçları hakkında kamuya bilgi vermeleri, sistemlerini bağımsız değerlendirmelere tabi tutmaları ve sağlam güvenlik programları sürdürmeleri gerekecek, Agence France-Presse (AFP) tarafından alıntılanan bir şirket sözcüsüne göre.

Önerilen kurallar, güçlü bir AI sisteminin dağıtımı yeterince ciddi bir tehdit oluşturduğunda müdahale etmek için federal bir mekanizma da oluşturacak. Anthropic, amacın hükümete tehlikeli dağıtımları önlemek veya caydırmak için araçlar sağlamak olduğunu, aynı zamanda bu yetkinin kullanılmasına ilişkin yasal korumalar getirmek olduğunu belirtiyor.

Bu yaklaşım, teknoloji endüstrisi içinde, hükümetlerin mevcut denetim mekanizmalarından daha hızlı gelişebilecek sistemleri kontrol etme konusunda ne kadar ileri gitmesi gerektiği üzerine daha geniş bir tartışmayı yansıtıyor.

Washington, federal kurallar oluşturma baskısıyla karşı karşıya

Öneri, Amerika Birleşik Devletleri'nin kapsamlı bir federal AI güvenlik yasası olmadan faaliyet göstermeye devam etmesiyle birlikte geliyor. Başkan Donald Trump döneminde, yönetim büyük ölçüde yürütme emirlerine ve gönüllü endüstri taahhütlerine dayanarak, teknolojik gelişim ve ekonomik büyümeyi önceliklendirdi.

Kongre, yenilik, kamu güvenliği ve hükümet müdahalesi arasında uygun dengeyi sağlama konusunda henüz kapsamlı bir yasama çerçevesinde anlaşamadı.

Gelişmiş AI sistemlerine ilişkin güvenlik olaylarıyla ilgili raporların ardından endişeler arttı; bu olaylar, teknolojilerin geliştiricilerin kontrol etmekte zorlandığı şekillerde davrandığı durumları içeriyor.

Anthropic için bu riskler, AI yönetimi konusundaki kamu pozisyonunun merkezi bir parçası haline geldi. CEO Dario Amodei, Eylül ortasında sektörü geliştirme çabalarını yavaşlatmaya çağırdı ve bir grup AI ajanının altı ila on iki ay içinde tüm interneti kontrol edebileceği konusunda uyarıda bulundu.

Bu uyarı, daha güçlü korumalar talep edenler ile ek kısıtlamaların Amerika Birleşik Devletleri'nin gelişmiş AI geliştirme yarışındaki hızını yavaşlatabileceğinden endişe edenler arasındaki giderek keskinleşen bölünmeyi göstermektedir.

Anthropic'in Trump yönetimiyle karmaşık ilişkisi

Şirketin yasama girişimi, Washington ile olan gerilimler bağlamında da ortaya çıkıyor.

Trump yönetimi, Şubat ayında Anthropic'i Pentagon'dan yasakladı ve daha sonra Haziran ayında şirketin en gelişmiş modellerini neredeyse üç hafta boyunca askıya almasını talep etti, raporda verilen bilgilere göre.

Şirket ile yönetim arasındaki ilişkiler o zamandan beri iyileşme belirtileri göstermiştir. Anthropic, önerdiği yasaların federal yetkililere tehlikeli dağıtımları önleme veya caydırma yetkisi vereceğini, aynı zamanda bunu yaparken tanımlanmış bir yasal süreç oluşturacağını belirtiyor.

Ancak, öneri yönetimle ilişkili figürlerden eleştiriler aldı. Trump, AI geliştirmesini yavaşlatma çağrılarını "negatif güçler" olarak tanımlarken, eski AI danışmanı David Sacks, Anthropic'i düzenlemeleri rakiplerini engellemek için kullanmakla suçladı.

Bu anlaşmazlıklar, Amerika Birleşik Devletleri'nde AI denetiminin geleceği etrafında dönen siyasi ve ticari riskleri vurgulamaktadır.

Federal yetki eyalet düzeyindeki kuralları geçersiz kılabilir

Anthropic'in önerisinin bir diğer önemli unsuru, federal ve eyalet düzenlemeleri arasındaki ilişkiyi içeriyor.

Çerçeve, Kaliforniya'da zaten yürürlükte olan yasalar da dahil olmak üzere bazı eyalet yasalarının önceliğine sahip olacak. Bu düzenleme, AI güvenliğinin sorumluluklarının Washington ile bireysel eyaletler arasında nasıl bölüneceği konusunda sorular ortaya çıkarıyor.

Bu konu, özellikle Anthropic'in Haziran ayında güçlü bir federal yasama olmadan eyaletlerin kendi yetki alanlarında AI'yi düzenleme yetkisini tamamen elinde tutması gerektiğini savunduğu için oldukça önemlidir.

Yaklaşımda meydana gelen bu değişiklik, şirketin artık federal standartların ülke genelinde ortak gereksinimler belirleyeceği daha merkezi bir sistemi savunduğunu gösteriyor. Böyle bir model, düzenleyici parçalanmayı azaltabilir, ancak eyaletlerin bağımsız olarak daha sıkı korumalar getirme yetkisini de kısıtlayabilir.

Öneri karışık değerlendirmeler alıyor

Plan, hukuki ve teknoloji politikası uzmanlarının dikkatini çekti, ancak hükümlerinin oybirliğiyle desteklenmediği görülüyor.

Hukuk ve AI Enstitüsü'nden Charlie Bullock, öneriyi X üzerinde oldukça makul olarak tanımladı ve diğer AI laboratuvarları tarafından sunulan önlemlerden daha ileri gittiğini söyledi. Ancak, bunu Temsilciler Meclisi'nde yaz aylarında sunulan karşıt yasama önerisi olan FRONTIER Act'tan daha zayıf buldu.

Bu karşılaştırma, Amerikan AI tartışmasında çözülmemiş bir sorunu işaret ediyor: denetimin esasen dar tanımlı acil durum yetkilerine, zorunlu güvenlik prosedürlerine veya sınır modellerinin geliştiricilerine dayatılan daha geniş yükümlülüklere dayanıp dayanmayacağı.

Anthropic'in girişimi, bu tartışmaya bir seçenek daha ekliyor. Temel ilkesi, hükümetin son derece tehlikeli AI dağıtımlarına müdahale etme yetkisini elinde tutması, mahkemelerin ise bu yetkinin kullanımına denetim sağlaması gerektiğidir.

Önerinin Kongre'de yeterli destek çekip çekmeyeceği belirsizliğini koruyor. İlerleyişi, Amerika Birleşik Devletleri'nin giderek daha yetenekli AI sistemlerini yönetme zorluğuna nasıl yaklaşacağını ve teknolojik gelişim için alanı nasıl koruyacağını belirleyecektir.