Yapay Zeka İnsanlığın Yok Oluşuna Yol Açabilir

Pazartesi 04 Ağustos 2025 - 16:35

Yapay zeka tüm sektörlere hızla yayılırken, bir grup araştırmacı ve teknoloji yöneticisi alarm veriyor: Mevcut gidişat devam ederse, süper güçlü yapay zeka sistemleri bir yıl içinde insanlığın yok olmasına neden olabilir.

Bu çağrının imzacıları arasında "yapay zekanın babalarından" biri olarak kabul edilen Geoffrey Hinton, Turing Ödülü sahibi Yoshua Bengio ve OpenAI, Anthropic, DeepMind ve Google gibi önde gelen şirketlerin yöneticileri yer alıyor. Açık bir mektupta, yapay zekayla bağlantılı varoluşsal risklerin pandemiler veya nükleer savaşlarla aynı düzeyde küresel bir öncelik olarak ele alınmasının önlenmesi çağrısında bulunuyorlar.

Korkulan senaryolar arasında, yapay zekanın büyük şehirlerde biyolojik silahları gizlice tasarlamak ve konuşlandırmak için kullanılması veya insan kontrolü dışında öngörülemeyen ve manipülatif davranışların ortaya çıkması yer alıyor. Makine Zekası Araştırmaları Enstitüsü direktörü Nate Soares, fren yapılmadığı takdirde insanlığın yok olma olasılığının "en az %95" olduğunu tahmin ediyor ve durumu "160 km/s hızla bir vadiye doğru hızla ilerleyen bir arabaya" benzetiyor.

Tehlike, öncelikle belirli görevlerle sınırlı "dar yapay zeka"dan, insan yeteneklerine eşit ve hatta onları aşabilen yapay genel zekaya (YGZ) geçişten kaynaklanacaktır. "Süper yapay zeka"ya doğru bir evrim, benzeri görülmemiş bilimsel perspektifler açabilir, ancak insan çıkarlarıyla uyumu gibi çözümsüz bir sorunu gündeme getirir.

Ancak bazı sesler bu tahminleri yumuşatıyor. PauseAI adlı STK'nın direktörü Holly Elmore, yok olma riskini %15 ila %20 arasında tahmin ediyor, ancak yapay zekanın en azından insan karar alma gücünün kademeli olarak kaybolmasına ve otonom bir dünyada ikincil bir role indirgenmesine yol açacağını vurguluyor. Elmore, yapay zeka gelişimine uluslararası bir moratoryum getirilmesini ve bağlayıcı anlaşmaların yapılmasını savunuyor.

Ancak bu çağrı, özellikle Trump yönetimi altındaki Amerika Birleşik Devletleri'nde, yapay zeka araştırmalarını daha da serbestleştirmek ve en iyi yetenekleri çekmek için hükümetler ve işletmeler arasında yaşanan çılgın yarışla çelişiyor.