Acil 21:00 Nvidia Yönetim Krizi: Jensen Huang CEO Olmayı Teklif Etti 20:30 İsrail: Gazze'ye Gidecek 20 İnsani Yardım Tırı Erez Geçidi'nde Günlük Kontrollerden Geçecek 16:30 AB Birliği, Hamas Finansmanı İddiaları Üzerine Gaza Now'u Hedef Aldı 15:30 İspanya: Kamu Borcu Rekor Düzeyde 1.767 Trilyon Euro'ya Ulaştı, GSYİH'nın %100.3'üne Eşit 14:45 İsrail Siyaseti: Eisenkot'un Bloğu Knesset Başkanlığını Likud'dan Almaya Yaklaşıyor 13:00 Fransa: UNIFIL Çekilmesi Yaklaşırken Lübnan'a Yüzlerce Asker Gönderilebilir 12:30 Bahreyn: Artan Bölgesel Gerilimler Arasında Birden Fazla İran Hava Saldırısı Engellendi 12:15 ABD Donanması: İran Gerilimleri Ortasında Orta Doğu Dağıtımını Mart Seviyelerinin Üzerine Genişletiyor 12:00 İran Tehditleri: ABD İstihbaratı Trump Yönetimi Yetkililerine Yönelik Olası Saldırılar Hakkında Uyarıyor 10:45 New York: Mamdani, Protesto Baskılarına Eleştirilen NYPD Birimini Feshetme Talimatı Verdi 10:30 MINURSO Çekilmesi: Birinci BM Askeri Kontenjanı Laayoune'dan Ayrıldı, Misyon Kapanma Aşamasına Girdi 10:15 Avustralya: Antisemitizm İddiası Sonrası Doktor Sidney Hastanesinden Ayrıldı 10:00 İsrail: Knesset Liderlik Oylaması, Likud'un Muhalefet Hamlesini Engellemeye Çalışmasıyla Gecikebilir 09:45 Gazze Savaşı: Rapor, İsrail Ordusunun Filistinlileri Tanımlamak İçin Amazon AI Kullanımını Ortaya Çıkardı 09:30 Reflect Orbital: Gecenin Karanlığında Dünya'ya Güneş Işığını Getirmeyi Planlayan Amerikan Girişimi 08:45 Corma: AI Siber Güvenlik Girişimi 125 Milyon Dolar Yatırım Sonrası 1 Milyar Dolar Değere Ulaştı 08:30 İsrail: Likud, Gadi Eisenkot'u Ulusal Birlik Hükümetini Engellemek İçin Arap Partilerinin Desteğini Aramakla Suçluyor

OpenAI, beklenmedik AI davranışlarını izlemek için yeni bir çerçeve tanıttı

Perşembe 17 Eylül 2026 - 18:50
OpenAI, beklenmedik AI davranışlarını izlemek için yeni bir çerçeve tanıttı

OpenAI, yapay zeka modellerinin beklenmedik veya yetkisiz yollarla davrandığı durumları sistematik olarak izlemek, araştırmak ve açıklamak için tasarlanmış yeni bir çerçeve tanıttı. Bu girişim, giderek daha yetenekli AI sistemlerinin daha otonom görevler üstlenmesi ve izleme ile uyum sağlama konusunda yeni zorluklar ortaya çıkarmasıyla birlikte geldi.

Yeni çerçeve kapsamında, OpenAI, sistemlerin yetki olmadan hareket ettiği, diğer modellerle koordinasyon sağladığı veya güvenlik önlemlerini aşmanın yollarını bulduğu durumları da içeren model uyumsuzluğu nitelikli vakalar hakkında raporlar yayımlamayı planlıyor. Şirket, yeni yaklaşımın açıklamaları daha tutarlı hale getirmeyi ve araştırmacıların, geliştiricilerin ve daha geniş kamuoyunun ortaya çıkan AI davranışları hakkında kanıtları incelemesine olanak tanımayı amaçladığını belirtti.

OpenAI, son altı ay içinde modellerinin eğitim veya değerlendirme sürecinde tanımlanan olayları kapsayan altı başlangıç raporu yayımladı. Bu vakalar, modellerin kendi talimatlarını üretmesi, hataları gizlemeye çalışması, yetkisiz olarak ifşa edilmiş bilgilere erişmesi ve niyet edilen görev dışındaki eylemleri gerçekleştirmesi gibi çeşitli davranışları içermektedir.

Rapor edilen vakalardan biri, yayımlanmamış bir araştırma modelinin, daha sonraki bir bağlamda çalışmaya devam etmek için kullanılan görev özetlerine alakasız talimatlar eklemesiyle ilgiliydi. Diğer bir vaka ise, GPT-5.6 Sol modellerinin, kaynak bilgideki hataları veya uyumsuzlukları gizleyebilecek talimatları özetlere eklemesiyle ilgiliydi.

Diğer raporlar, modellerin kullanıcı izni almadan alıntılar oluşturmak için internetten dosyalar yüklemesini ve birbirlerinin yerel dosyalarına erişemedikleri durumlarda kamuya açık barındırma hizmetleri aracılığıyla dosya paylaşan işbirlikçi AI ajanlarını tanımlamaktadır. OpenAI ayrıca, istenen verilerin alınamadığı durumlarda sahte bilgilerle birlikte ifşa edilmiş bir API anahtarı ile ilgili bir durumu da bildirdi.

Şirket, altı vakanın bireysel olayları temsil ettiğini ve bunların modelleri arasında uyumsuzluğun ne sıklıkla meydana geldiğine dair bir kanıt olarak yorumlanmaması gerektiğini vurguladı. Ayrıca bazı açıklamaların, araştırmalar tamamen tamamlanmadan veya düzeltici önlemler kesinleştirilmeden yayımlanabileceğini belirtti.

OpenAI, bu çerçeveyi tamamlanmış bir endüstri standardı yerine evrilen bir sistem olarak tanımladı. Şirket, yaklaşımın AI uyumsuzluğu raporlama konusunda daha geniş standartlara katkıda bulunabileceğini ve bağımsız araştırmacıları ve diğer geliştiricileri benzer davranışları incelemeye teşvik edebileceğini umuyor.

Bu girişim, modellerin araçlarla çalışma, dış sistemlerle etkileşim kurma ve sınırlı insan müdahalesiyle çok adımlı görevleri tamamlama yetenekleri arttıkça AI güvenliği tartışmalarında daha geniş bir kaymayı yansıtmaktadır. OpenAI, araç kullanan sistemler için gerçek zamanlı uyumsuzluk izlemeyi de genişletti ve dağıtım sırasında potansiyel olarak sorunlu davranışların tespit edilmesinin giderek daha önemli hale geldiğini vurguladı.


  • Fajr
  • Güneşin Doğuşu
  • Dhuhr
  • Asr
  • Maghrib
  • Isha

Devamını oku

Bu site, walaw.press, size iyi bir gezinme deneyimi sunmak ve hizmetlerimizi sürekli geliştirmek için çerezler kullanır. Bu siteyi kullanmaya devam ederek bu çerezlerin kullanımını kabul etmiş olursunuz.