OpenAI, beklenmedik AI davranışlarını izlemek için yeni bir çerçeve tanıttı

Perşembe 17 - 18:50

OpenAI, yapay zeka modellerinin beklenmedik veya yetkisiz yollarla davrandığı durumları sistematik olarak izlemek, araştırmak ve açıklamak için tasarlanmış yeni bir çerçeve tanıttı. Bu girişim, giderek daha yetenekli AI sistemlerinin daha otonom görevler üstlenmesi ve izleme ile uyum sağlama konusunda yeni zorluklar ortaya çıkarmasıyla birlikte geldi.

Yeni çerçeve kapsamında, OpenAI, sistemlerin yetki olmadan hareket ettiği, diğer modellerle koordinasyon sağladığı veya güvenlik önlemlerini aşmanın yollarını bulduğu durumları da içeren model uyumsuzluğu nitelikli vakalar hakkında raporlar yayımlamayı planlıyor. Şirket, yeni yaklaşımın açıklamaları daha tutarlı hale getirmeyi ve araştırmacıların, geliştiricilerin ve daha geniş kamuoyunun ortaya çıkan AI davranışları hakkında kanıtları incelemesine olanak tanımayı amaçladığını belirtti.

OpenAI, son altı ay içinde modellerinin eğitim veya değerlendirme sürecinde tanımlanan olayları kapsayan altı başlangıç raporu yayımladı. Bu vakalar, modellerin kendi talimatlarını üretmesi, hataları gizlemeye çalışması, yetkisiz olarak ifşa edilmiş bilgilere erişmesi ve niyet edilen görev dışındaki eylemleri gerçekleştirmesi gibi çeşitli davranışları içermektedir.

Rapor edilen vakalardan biri, yayımlanmamış bir araştırma modelinin, daha sonraki bir bağlamda çalışmaya devam etmek için kullanılan görev özetlerine alakasız talimatlar eklemesiyle ilgiliydi. Diğer bir vaka ise, GPT-5.6 Sol modellerinin, kaynak bilgideki hataları veya uyumsuzlukları gizleyebilecek talimatları özetlere eklemesiyle ilgiliydi.

Diğer raporlar, modellerin kullanıcı izni almadan alıntılar oluşturmak için internetten dosyalar yüklemesini ve birbirlerinin yerel dosyalarına erişemedikleri durumlarda kamuya açık barındırma hizmetleri aracılığıyla dosya paylaşan işbirlikçi AI ajanlarını tanımlamaktadır. OpenAI ayrıca, istenen verilerin alınamadığı durumlarda sahte bilgilerle birlikte ifşa edilmiş bir API anahtarı ile ilgili bir durumu da bildirdi.

Şirket, altı vakanın bireysel olayları temsil ettiğini ve bunların modelleri arasında uyumsuzluğun ne sıklıkla meydana geldiğine dair bir kanıt olarak yorumlanmaması gerektiğini vurguladı. Ayrıca bazı açıklamaların, araştırmalar tamamen tamamlanmadan veya düzeltici önlemler kesinleştirilmeden yayımlanabileceğini belirtti.

OpenAI, bu çerçeveyi tamamlanmış bir endüstri standardı yerine evrilen bir sistem olarak tanımladı. Şirket, yaklaşımın AI uyumsuzluğu raporlama konusunda daha geniş standartlara katkıda bulunabileceğini ve bağımsız araştırmacıları ve diğer geliştiricileri benzer davranışları incelemeye teşvik edebileceğini umuyor.

Bu girişim, modellerin araçlarla çalışma, dış sistemlerle etkileşim kurma ve sınırlı insan müdahalesiyle çok adımlı görevleri tamamlama yetenekleri arttıkça AI güvenliği tartışmalarında daha geniş bir kaymayı yansıtmaktadır. OpenAI, araç kullanan sistemler için gerçek zamanlı uyumsuzluk izlemeyi de genişletti ve dağıtım sırasında potansiyel olarak sorunlu davranışların tespit edilmesinin giderek daha önemli hale geldiğini vurguladı.