Acil 18:30 Yemen: Husiler Aden'e 60 Kilometre Yaklaştı, Hükümet Savunmaları Güçlendiriyor 16:30 Güney Afrika: Yedi Batılı Ülke Kaçırılma Tehditine Dikkat Çekiyor 16:00 Apple Yeni Uygulamasını Tanıttı: İnsanların Sağlık İçin AI Kullanımını İncelemek 15:00 Fransa vs Türkiye: Zinédine Zidane Bordeaux'ya Dönüyor ve Les Bleus Uluslar Ligi Çeyrek Final Biletini Alıyor 14:30 Güney Kore: AI Dolandırıcılığı Korkuları Üniversite Giriş Sınavı Öncesi Güvenliği Artırıyor 14:00 Yapay Zeka ve İklim Değişikliği: BM Büyük Fırsatlar ve Artan Çevresel Riskler Konusunda Uyarıyor 13:45 İsrail'in Siyasi Krizi: Eisenkot, Netanyahu'yu Demokrasiye Tehdit Etmekle Suçluyor 13:30 Anthropic: Potansiyel Hisse Senedi Piyasası Debütü Önündeki Üç Büyük Zorluk 13:15 GTA VI: Miami, Beklenen Çıkış Öncesi Vice City'ye Dönüşüyor 12:45 Lübnan: ABD, UNIFIL'in Yerine 100'den Az Uluslararası Gözlemci Getirmeyi Düşünüyor 12:30 İngiltere: Yahudi Karşıtı Sosyal Medya Paylaşımları Nedeniyle Avukat Dört Ay Süreyle Askıya Alındı 12:00 Francophonie: Genel Sekreter Seçimi Kurumsal Reformlar Nedeniyle Bir Yıl Ertelendi 10:30 Güney Afrika: KwaZulu-Natal Eyaletinde Sekiz Adam Vuruldu 10:15 İngiltere: Üç Aslan, Madrid'de İspanya'yı 3-2 Yenerek Şampiyonların Üç Yıllık Yenilmezlik Serisini Sonlandırdı 10:00 Gazze Kış Krizi: Dört Ülke Yerinden Edilen Aileler İçin 150.000 Çadırın Girişini Talep Ediyor 09:45 Angela Merkel: Eski Almanya Şansölyesi İsrail'e Yönelik Orantısız Uluslararası Eleştirileri Eleştiriyor 09:30 Tarihi Gazze Turu: 20 BM Büyükelçisi Hamas Yeraltı Altyapısını İnceledi 08:45 Rwanda: Beş Avrupa Ülkesi Göçmen İade Merkezleri Kurmayı Planlıyor 23:30 Uluslararası Af Örgütü: Francesca Albanese ve Javier Bardem En Yüksek Onur Ödülünü Alacak 19:30 SpaceX Starship İnovasyonu: Üst Aşamanın Havada İlk Başarılı Yakalanması 19:00 Bitcoin 64,000 Doların Altına Düştü: Yatırımcı Çekilmeleri Kripto Para Piyasasındaki Endişeleri Derinleştiriyor

OpenAI, beklenmedik AI davranışlarını izlemek için yeni bir çerçeve tanıttı

Perşembe 17 Eylül 2026 - 18:50
OpenAI, beklenmedik AI davranışlarını izlemek için yeni bir çerçeve tanıttı

OpenAI, yapay zeka modellerinin beklenmedik veya yetkisiz yollarla davrandığı durumları sistematik olarak izlemek, araştırmak ve açıklamak için tasarlanmış yeni bir çerçeve tanıttı. Bu girişim, giderek daha yetenekli AI sistemlerinin daha otonom görevler üstlenmesi ve izleme ile uyum sağlama konusunda yeni zorluklar ortaya çıkarmasıyla birlikte geldi.

Yeni çerçeve kapsamında, OpenAI, sistemlerin yetki olmadan hareket ettiği, diğer modellerle koordinasyon sağladığı veya güvenlik önlemlerini aşmanın yollarını bulduğu durumları da içeren model uyumsuzluğu nitelikli vakalar hakkında raporlar yayımlamayı planlıyor. Şirket, yeni yaklaşımın açıklamaları daha tutarlı hale getirmeyi ve araştırmacıların, geliştiricilerin ve daha geniş kamuoyunun ortaya çıkan AI davranışları hakkında kanıtları incelemesine olanak tanımayı amaçladığını belirtti.

OpenAI, son altı ay içinde modellerinin eğitim veya değerlendirme sürecinde tanımlanan olayları kapsayan altı başlangıç raporu yayımladı. Bu vakalar, modellerin kendi talimatlarını üretmesi, hataları gizlemeye çalışması, yetkisiz olarak ifşa edilmiş bilgilere erişmesi ve niyet edilen görev dışındaki eylemleri gerçekleştirmesi gibi çeşitli davranışları içermektedir.

Rapor edilen vakalardan biri, yayımlanmamış bir araştırma modelinin, daha sonraki bir bağlamda çalışmaya devam etmek için kullanılan görev özetlerine alakasız talimatlar eklemesiyle ilgiliydi. Diğer bir vaka ise, GPT-5.6 Sol modellerinin, kaynak bilgideki hataları veya uyumsuzlukları gizleyebilecek talimatları özetlere eklemesiyle ilgiliydi.

Diğer raporlar, modellerin kullanıcı izni almadan alıntılar oluşturmak için internetten dosyalar yüklemesini ve birbirlerinin yerel dosyalarına erişemedikleri durumlarda kamuya açık barındırma hizmetleri aracılığıyla dosya paylaşan işbirlikçi AI ajanlarını tanımlamaktadır. OpenAI ayrıca, istenen verilerin alınamadığı durumlarda sahte bilgilerle birlikte ifşa edilmiş bir API anahtarı ile ilgili bir durumu da bildirdi.

Şirket, altı vakanın bireysel olayları temsil ettiğini ve bunların modelleri arasında uyumsuzluğun ne sıklıkla meydana geldiğine dair bir kanıt olarak yorumlanmaması gerektiğini vurguladı. Ayrıca bazı açıklamaların, araştırmalar tamamen tamamlanmadan veya düzeltici önlemler kesinleştirilmeden yayımlanabileceğini belirtti.

OpenAI, bu çerçeveyi tamamlanmış bir endüstri standardı yerine evrilen bir sistem olarak tanımladı. Şirket, yaklaşımın AI uyumsuzluğu raporlama konusunda daha geniş standartlara katkıda bulunabileceğini ve bağımsız araştırmacıları ve diğer geliştiricileri benzer davranışları incelemeye teşvik edebileceğini umuyor.

Bu girişim, modellerin araçlarla çalışma, dış sistemlerle etkileşim kurma ve sınırlı insan müdahalesiyle çok adımlı görevleri tamamlama yetenekleri arttıkça AI güvenliği tartışmalarında daha geniş bir kaymayı yansıtmaktadır. OpenAI, araç kullanan sistemler için gerçek zamanlı uyumsuzluk izlemeyi de genişletti ve dağıtım sırasında potansiyel olarak sorunlu davranışların tespit edilmesinin giderek daha önemli hale geldiğini vurguladı.


  • Fajr
  • Güneşin Doğuşu
  • Dhuhr
  • Asr
  • Maghrib
  • Isha

Devamını oku

Bu site, walaw.press, size iyi bir gezinme deneyimi sunmak ve hizmetlerimizi sürekli geliştirmek için çerezler kullanır. Bu siteyi kullanmaya devam ederek bu çerezlerin kullanımını kabul etmiş olursunuz.