Yapay zeka rakipleri yavaşlama gerekliliğinde hemfikir, ancak uygulaması zor kalıyor

Yapay zeka endüstrisinin en önde gelen liderleri, gelişmiş yapay zekanın geliştirilmesinin yavaşlatılması gerektiğini giderek daha fazla kabul ediyor, ancak bu yeni oluşan konsensüsü somut eyleme dönüştürmek çok daha zor olabilir.

Anthropic CEO'su Dario Amodei, OpenAI CEO'su Sam Altman, SpaceX ve xAI kurucusu Elon Musk ve diğer teknoloji figürleri, son zamanlarda yapay zeka gelişiminin daha temkinli bir hızda ilerlemesi gerektiğini dile getirdiler. Tartışma, eski bir Anthropic araştırmacısının istifa etmesi ve giderek daha güçlü yapay zeka sistemlerinin insanlık için ciddi riskler oluşturabileceği uyarısında bulunmasının ardından hız kazandı.

Artan mutabakata rağmen, önemli engeller devam ediyor. Şirketler ve ülkeler arasındaki rekabet, ticari teşvikler ve Trump yönetiminin politikaları, yapay zeka geliştirilmesine yönelik koordineli sınırlamaların belirlenmesini zorlaştırabilir.

ABD İç Güvenlik Bakanlığı'nda eski bir gelişen teknoloji politika yetkilisi ve New York Üniversitesi'nde yardımcı profesör olan Nick Reese, tartışmanın endüstrinin başarıyı nasıl tanımladığına yeniden düşünmesine teşvik edebileceğini söyledi. Durumu, büyük kazaların önlenmesinin başarı ölçütü olarak kabul edildiği havacılıkla karşılaştırdı, oysa yapay zeka sistemlerindeki ciddi hatalar genellikle farklı bir şekilde ele alınıyor.

Prensipte, bireysel yapay zeka şirketleri kendi geliştirme programlarını bağımsız olarak yavaşlatabilir. Ancak pratikte, teknolojinin hızlı ilerleyişi büyük ölçüde daha yetenekli modeller geliştirmek için rekabet tarafından yönlendirildi. ABD hükümeti ayrıca, Amerika'nın Çin üzerindeki teknolojik avantajını korumaya vurgu yaptı.

Ticari baskılar başka bir karmaşıklık ekliyor. Hem Anthropic hem de OpenAI büyük iş genişlemesi peşinde, OpenAI 2026'da halka açılmayı planlamadığını ve güvenlik ile ilgili çabalar üzerinde çalışmaya devam ettiğini belirtti.

Amodei, gelişmiş yapay zeka sistemleri üzerinde daha fazla denetim oluşturmayı amaçlayan birkaç önlem önerdi. Bir öneri, bağımsız dış değerlendiricilere önde gelen yapay zeka laboratuvarlarına sürekli erişim sağlayarak, şirketlerin içinden güvenlik uygulamalarını izlemelerine izin vermeyi içeriyor. Anthropic bu yaklaşımı benimsediğini belirtirken, Altman OpenAI'nin bu fikri desteklediğini ifade etti.

Altman ayrıca, gelişmiş yapay zeka için güvenlik standartlarını belirleyen bir federal çerçeveyi desteklediğini dile getirirken, şirketlerin gönüllü güvenlik önlemleri almak için yasaları beklememesi gerektiğini savundu.

Amodei'nin daha geniş önerisi, önde gelen yapay zeka laboratuvarları arasında, ABD ve diğer demokratik ülkelerin desteğiyle işbirliği çağrısını içeriyor. Amaç, ortak güvenlik standartları belirlemek ve kontrolsüz yapay zeka gelişimini sınırlamak olabilir.

Uluslararası işbirliği, stratejik çıkarları rekabet eden ülkeleri de içermelidir, bunlar arasında Çin de bulunmaktadır. Amodei, böyle anlaşmalara ulaşmanın özellikle zor olacağını kabul etti.

Önerileri, biyolojik silahları kolaylaştırmak gibi açıkça tehlikeli uygulamalara yönelik nispeten dar kısıtlamalardan, gelişmiş modellerin piyasaya sürülmeden önce siber güvenlik ve biyolojik riskler için standart testlere tabi tutulmasını gerektiren daha iddialı önlemlere kadar uzanmaktadır.

Kendini sürekli geliştirebilen sistemlerin hızını kontrol etme gibi daha zor bir zorluk da bulunmaktadır. Amodei, son derece hızlı bir geliştirme döngüsünden, biraz daha yavaş bir döngüye geçmenin riskleri azaltabileceğini ve yapay zeka ilerlemesinin stratejik değerinin büyük bir kısmını koruyabileceğini savundu.

En iddialı seçenek, yapay zeka gelişiminin genel hızını önemli ölçüde sınırlamak için geniş bir uluslararası anlaşma olacaktır. Altman, “hızlandırmanın” teknolojik ilerlemeyi durdurmak olarak yorumlanmaması gerektiğini, aksine daha güçlü güvenlik önlemleri karşılığında bazı ek maliyetler ve gecikmeleri kabul etmek anlamına geldiğini vurguladı.

Uzmanlar, böyle bir koordinasyonun gerçekçi bir şekilde elde edilip edilemeyeceği konusunda bölünmüş durumda. Oxford İnternet Enstitüsü'nde teknoloji ve düzenleme profesörü olan Sandra Wachter, yavaşlamanın teorik olarak mümkün olduğunu ancak çok sayıda ülke arasında şirketler ve hükümetler arasında kapsamlı işbirliği gerektireceğini söyledi.

Ayrıca, büyük veri merkezlerini işletmek için gereken elektrik ve su gibi kaynaklara erişimi etkileyen önlemler de dahil olmak üzere, şirketlerin yapay zeka ile ilgili riskler için daha sorumlu hale gelmelerini sağlayabilecek düzenleyici seçeneklere dikkat çekti.

Bağımsız değerlendiriciler için öneri, endüstrinin bazı kesimlerinden destek aldı, ancak bu değerlendiricilerin ne kadar bağımsız olacağı ve hangi standartları kullanacaklarına kimlerin karar vereceği konusunda sorular devam ediyor.

Kanadalı yapay zeka şirketi Cohere'in kurucu ortağı ve CEO'su Aidan Gomez, önde gelen şirketler tarafından oluşturulan endüstri genelindeki standartların, en büyük yapay zeka laboratuvarlarının elinde daha fazla güç toplayabileceğini uyarısında bulundu. Ayrıca, büyük yapay zeka şirketlerinin belirli rekabet karşıtı kısıtlamalardan muaf tutulmasına izin verebilecek önerileri eleştirdi.

Brookings Enstitüsü'nde kıdemli bir araştırmacı olan Elham Tabassi, değerlendirme mekanizmalarının gönüllü ve şirketler tarafından kontrol edildiği takdirde bağımsız denetimin sınırlı kalacağını savundu. Yapay zeka sistemlerinin yetenekleri genişledikçe, test etme ve ölçme için bilimsel olarak geçerli yöntemler geliştirilmesinin önemini vurguladı.

ABD-Çin teknoloji rekabeti başka bir karmaşıklık katmanı ekliyor. Trump yönetimi genellikle yapay zekaya yönelik nispeten hafif bir düzenleyici yaklaşımı tercih etti ve yeniliği teşvik etmeye ve Amerika'nın Çin üzerindeki liderliğini sürdürmeye vurgu yaptı. Uzmanlar, iki ülkenin yapay zeka endüstrileri arasındaki rekabeti bir silahlanma yarışına benzetti, bu dinamik uluslararası işbirliğini daha zor hale getirebilir.

Yine de, bazı endüstri gözlemcileri yapay zeka güvenliğine artan dikkat işaretleri görüyor. Yönetim platformu i-GENTIC AI'nın kurucu ortağı ve CEO'su Zahra Timsah, rekabet eden teknoloji liderleri ve yasama organları arasında son zamanlarda yaşanan yakınsamanın cesaret verici olduğunu ifade etti.

Şu anda merkezi zorluk, destek açıklamalarından uygulanabilir mekanizmalara geçmektir. Birkaç etkili figür, gelişmiş yapay zeka gelişimini yavaşlatma veya daha dikkatli yönetme konusunda desteklerini dile getirmiş olsa da, bu tür önerilerin etkinliği, nihayetinde şirketler ve hükümetlerin ortak standartlar, bağımsız denetim ve pratik sınırlamalar üzerinde anlaşmasına bağlı olacaktır.