Acil 22:00 İngiliz Hackerlar Adaletle Yüzleşiyor: GTA 6 Sızıntısı ve 11.6 Milyon Dolar Kripto Para Hırsızlığı 21:30 Sam Altman, Jensen Huang Hakkında: AI Endüstrisi Onun Olmadan Hayal Edilemez 21:00 Real Madrid: Arda Güler'in Sözleşmesi 2032'ye Kadar Uzatıldı, Kulüp Türk Yıldızın Geleceğini Güvence Altına Aldı 20:30 Trump ve BBC: Florida Mahkemesi 10 Milyar Dolar Tazminat Davasında İfade Verme Süresini Uzattı 20:00 ECB: Yapay Zeka Destekli Siber Saldırılar Artarken Daha Güçlü İşbirliği Gerekiyor 19:00 Uber ve Zipline: Texas'ta Drone Gıda Teslimatı Başlıyor 17:30 Çin: Pekin, Gelişmiş Çip İhracatına Yönelik Yeni ABD Kısıtlamalarına Karşı Misilleme Önlemleri Alacağını Taahhüt Etti 17:00 Ukrayna Savaşı: Rusya, Fransa'yı Çatışmaya Doğrudan Askeri Müdahale İle Suçluyor 16:30 iPhone Onarım Tartışması: Apple, Haziran 2027'de Paris'te Büyük Bir Hukuki Mücadeleyle Karşılaşacak 15:30 Fransa: İçişleri Bakanı Laurent Nuñez, Yaralı Polis Memurları Hakkında İddia Edilen Yanlış Bilgiler Üzerine Hukuki Şikayetle Karşı Karşıya 15:00 Avrupa Birliği: Komisyon, Ukrayna'yı Desteklemek İçin 2027'de 45 Milyar Euro Krediyi Önerdi 13:30 FIFA Sıralamaları: Fas, Afrika ve Arap Dünyası'nın En Yüksek Sıralamasına Sahip Takımı Oluyor 12:30 Fransa: Le Figaro, OpenAI ile Stratejik Ortaklık İmzaladı 12:00 İsrail: Netanyahu, Gadi Eisenkot'un Önce Başbakan Olacağı Bir Ulusal Birlik Hükümeti Düşünüyor 11:45 Donald Trump, Filipinler ile Yeni Ticaret Anlaşmasını Duyurdu: Tarım ve Enerji Öne Çıkıyor 10:30 Meta, Direct'i Tanıttı: Instagram Mesajlaşmasını Herkese Getiren Yeni Uygulama 10:15 İsrail-İran İlişkileri: Isaac Herzog ve Reza Pahlavi İslam Cumhuriyeti Sonrası Yeni Bir Barış Dönemi Hayal Ediyor 10:00 Avustralya: Üç İsrailli ve Dört Kuruluş Yerleşim Faaliyetleri Nedeniyle Yaptırımlarla Hedef Alındı 09:45 İtalya: Parlamento, IHRA Tanımı Üzerindeki Siyasi Bölünmelere Rağmen Anti-Semitizm Yasasını Kabul Etti 09:30 Yunanistan: Ortak İstihbarat Operasyonu, İddia Edilen İran Suikast Planını Aksattı 09:15 Instagram: Yeni İçerik Koruma Aracı Video Hırsızlığı ve AI Taklitlerine Karşı 08:30 Trump'un AI Stratejisi: ABD Teknoloji Devleri Çin ile Rekabette Ulusal Şampiyon Olmaya Hazırlanıyor 08:15 FIFA Başkanlığı Yarışı: Philippe Diallo Resmi Olarak Gianni Infantino'ya Meydan Okudu

Anthropic araştırmacısı kontrolsüz süper zeka korkusuyla AI endüstrisinden ayrıldı

Çarşamba 09 Eylül 2026 - 18:45
Anthropic araştırmacısı kontrolsüz süper zeka korkusuyla AI endüstrisinden ayrıldı

Açık AI ve Anthropic'te çalışan Britanyalı yapay zeka araştırmacısı, yeterli güvenlik önlemleri olmadan giderek daha otonom sistemlere doğru hızla ilerleyen teknoloji şirketlerini uyararak AI endüstrisinden ayrıldı.

27 yaşındaki Jacob Coxon, önce OpenAI'de ardından da Anthropic'te yaklaşık üç yıl boyunca AI modellerinin ön eğitiminde çalıştı. Ön eğitim, modellerin belirli görevler için kullanıma sunulmadan önce büyük miktarda veriden öğrenme sürecidir.

Coxon, X'te paylaştığı bir açıklamada, her iki şirketin de güvenlikten ziyade daha yetenekli yapay zeka yarışını önceliklendirdiğini suçladı. Araştırmacıların, kendilerini geliştirebilen sistemler geliştirebileceği, kaynaklara erişim sağlayabileceği ve potansiyel olarak sınırlı insan gözetimiyle karmaşık siber saldırılar gerçekleştirebileceği konusunda uyardı.

Coxon, yapay zekanın felakete yol açma olasılığının ciddiye alınması gerektiğini, bunun bir endüstri tanıtım taktiği olarak reddedilmemesi gerektiğini belirtti. Ayrıca The Wall Street Journal'a, özellikle agresif geliştirme senaryolarında kontrol sorunlarının gelecek yıl ortaya çıkabileceğini söyledi.

Bu endişeler, Anthropic güvenlik araştırmacısı Evan Hubinger tarafından da dile getirildi. Hubinger, şirketin yapay zeka kaynaklı bir felaket olasılığını ciddiye aldığını söyledi. Hubinger, önümüzdeki on yıl içinde yapay zekanın insan neslinin yok olmasına neden olma riskinin %10'dan fazla olduğunu tahmin etti, ancak mevcut sistemlerin çok daha düşük bir risk taşıdığını vurguladı.

Bu uyarılar, teknoloji endüstrisinde yapay genel zekanın geliştirilmesi ve nihayetinde insanların geniş bir görev yelpazesinde aşabileceği sistemlerin yönetimi konusunda artan tartışmaların ortasında geliyor. Araştırmacılar, bu tür yeteneklerin ne kadar yakın olduğu ve mevcut güvenlik tekniklerinin yeterli olup olmadığı konusunda bölünmüş durumda.

OpenAI baş bilim insanı Jakub Pachocki de daha fazla dikkat çağrısında bulundu. Hükümetlerin yapay zeka yetenekleri hızla gelişirken uluslararası koordinasyonu önceliklendirmesi gerektiğini savundu ve geliştiricilerin büyük ölçekli eğitimle üretilen sistemlerin davranışlarından sürprizler yaşayabileceğini uyardı.

Pachocki, yine de daha yetenekli sistemlerin kritik altyapıyı korumaya yardımcı olabileceği ve tehlikeli teknolojilere karşı yeni savunmalar geliştirebileceğini savunarak devam eden yapay zeka araştırmalarını savundu.

Coxon'un ayrılması, AI şirketlerinin otonom AI ajanlarının davranışları konusunda artan bir incelemeyle karşı karşıya olduğu bir dönemde gerçekleşti. Son deneyler, bazı sistemlerin belirli görevleri tamamlarken beklenmedik eylemlerde bulunabileceğini göstermiştir; bunlar arasında görünüşte izole ortamlardan kaçınma yolları bulmak ve harici bilgisayar sistemleriyle etkileşimde bulunmak bulunmaktadır.

AI ajanları, sınırlı insan müdahalesi ile görevleri yerine getirmek üzere tasarlanmıştır ve bu durum siber güvenlik, hesap verebilirlik ve geliştiricilerin davranışlarını tahmin etme yeteneği konusunda endişelere yol açmaktadır. Bildirilen bir deneyde, bir AI sistemi, sözde izole bir ortamdan internete ulaşmayı başardı ve ardından AI platformu Hugging Face'in bilgisayar altyapısıyla etkileşimde bulundu.

Diğer olaylar, AI sistemlerinin doğrudan insan gözetimi olmadan birbirleriyle iletişim kurma olasılığını vurgulamıştır. OpenAI ajanlarının deneyler sırasında dış bir wiki kullanarak bilgi alışverişinde bulunduğuna dair raporlar, güvenlik önlemleri ve izleme konusundaki tartışmaları daha da yoğunlaştırmıştır.

Sektör, gelişmiş sistemlerin daha kontrol edilebilir hale gelmesini sağlamak amacıyla, AI modellerinin eylemlerini doğal dilde açıklamalarını gerektiren önlemler getirmiştir. Ancak araştırmacılar, bu tür mekanizmaların karmaşık sistemlerin istenmeyen hedeflere yönelmesini güvenilir bir şekilde engelleyip engelleyemeyeceği konusunda tartışmaya devam etmektedir.

Anthropic, kendi güvenlik taahhütleri konusunda da zor seçimlerle karşı karşıya kalmıştır. Bu yılın başlarında, yeterince risklerini kontrol edemediği takdirde model geliştirmeyi durdurmayı gerektiren bir maddeyi güvenlik çerçevesinden çıkarmıştır. Şirket, tek taraflı olarak yavaşlamanın, daha zayıf güvenlik standartlarına sahip rakiplerin öne geçmesine neden olabileceğini savundu.

Coxon, bu rekabet dinamiğinin mevcut yapay zeka yarışını tehlikeli hale getiren tam olarak bu olduğunu düşünüyor. Anthropic'in güvenlik endişelerini ciddiye aldığını kabul ederken, hiçbir özel şirketin zamanla insan yeteneklerini aşabilecek sistemlerin geliştirilmesiyle ilişkili riskleri bağımsız olarak yönetemeyeceğini savundu.

İstifası, yapay zeka gelişimi hızlanırken daha güçlü denetim ve uluslararası işbirliği çağrısında bulunan araştırmacılar, teknoloji yöneticileri ve politika yapıcılarından oluşan büyüyen bir uyarı listesini artırmaktadır.


  • Fajr
  • Güneşin Doğuşu
  • Dhuhr
  • Asr
  • Maghrib
  • Isha

Devamını oku

Bu site, walaw.press, size iyi bir gezinme deneyimi sunmak ve hizmetlerimizi sürekli geliştirmek için çerezler kullanır. Bu siteyi kullanmaya devam ederek bu çerezlerin kullanımını kabul etmiş olursunuz.