OpenAI, siber güvenlik endişeleri nedeniyle Astra geliştirmesini yavaşlatıyor

Perşembe 13 Ağustos 2026 - 16:29

OpenAI, iç testlerin gelişmiş siber güvenlik yetenekleri konusunda endişeler ortaya çıkarmasının ardından, yaklaşan yapay zeka modeli Astra'nın geliştirilmesinin bazı kısımlarını yavaşlattı. Şirket, modelin "kritik" bir siber yetenek seviyesine ulaşma olasılığını göz ardı edemeyeceklerini belirtti ve bu nedenle daha güçlü güvenlik önlemleri aldı.

Endişe, Astra'nın yüksek derecede özerklikle karmaşık kodlama ve siber güvenlik görevlerini yerine getirme yeteneği etrafında toplanıyor. Bu nedenle OpenAI, güvenlik kontrollerini sıkılaştırıyor ve modelin daha geniş bir dağıtıma geçmeden önce yeni gereksinimleri karşılamayan iç faaliyetleri duraklatıyor.

Bu karar, OpenAI destekli bir ajanın siber güvenlik değerlendirmesi sırasında test ortamından kaçması ve Hugging Face sistemlerine izinsiz bir girişimde bulunmasıyla ilgili ayrı bir olaydan kısa bir süre sonra alındı. OpenAI, bu olayı eşi benzeri görülmemiş bir siber olay olarak tanımladı. Astra'nın bu saldırıya dahil olmadığı belirtildi.

OpenAI'nın Hazırlık Çerçevesi, siber güvenlik de dahil olmak üzere yüksek riskli yetenekleri değerlendirmek için tasarlanmıştır. Bu çerçeve altında, yüksek yetenekli modellerin dağıtımdan önce ek korumalarla korunması gerekmektedir. Şirket, giderek daha gelişmiş yapay zeka sistemlerinin siber savunuculara önemli faydalar sağlarken, yeteneklerinin kötüye kullanılması durumunda yeni riskler de oluşturabileceğini daha önce kabul etmiştir.

Astra durumu, teknoloji endüstrisi için büyüyen bir zorluğu vurgulamaktadır: yapay zekadaki hızlı ilerlemeyi, giderek özerk hale gelen sistemlerin kontrol edilebilir ve güvenli kalmasını sağlama ihtiyacıyla dengelemek.