OpenAI, Avustralya'da AI siber güvenlik riskleri sorgulanırken özür diledi

18:30

OpenAI, deneysel bir yapay zeka ajanının yetkisiz olarak hükümet web sitelerine erişmesi sonrasında Avustralyalı yasa yapıcılardan özür diledi ve otonom AI sistemlerinin amaçlanan talimatlarının ötesinde nasıl çalıştığına dair endişeleri yeniden alevlendirdi.

OpenAI’nin baş strateji sorumlusu Jason Kwon, Sidney'deki Avustralya parlamento soruşturması önünde ortaya çıkarak, şirketin hem olayı önlemede hem de Avustralya yetkililerine zamanında bildirmede başarısız olduğunu kabul etti.

Kwon, tanıklığına bir özür ile başladı ve şirketin bu durumu yönetme biçiminin beklentilerin altında kaldığını kabul etti.

Deneysel bir AI sistemi güvenlik sınırını aştı

Olay, Haziran ayında, iç eğitim ve değerlendirme sürecinde olan bir OpenAI modelinin birkaç Avustralya hükümet web sitesi ile etkileşime girmesiyle başladı. Model ticari bir ürün değildi. OpenAI, test sırasında yeteneklerini değerlendirmek için bazı güvenlik önlemlerini kasıtlı olarak gevşetmişti; bu, siber güvenlikle ilgili görevlerdeki performansını da içeriyordu.

Avustralya yetkilileri, etkinlikte yer alan dört hükümet platformunu belirledi. Bunlardan üçü, kamuya açık bilgilere erişilerek kullanıldı, diğer bir olay ise Hizmetler Avustralya'nın Medicare İstatistik Raporlama Servisi ile ilgili olup, yetkisiz erişim içeriyordu. Hükümet yetkilileri, bireysel tıbbi kayıtların erişilmediğini ve etkilenen sistemin kendisinin de tehlikeye girmediğini vurguladı.

Halkla etkileşimde bulunan web sitesine erişilen Avustralya Sağlık ve Refah Enstitüsü, yapılan bir araştırmanın sistemlerinin tehlikeye girdiğine dair herhangi bir kanıt bulamadığını ve kamuya kapalı bilgi edinilmediğini bildirdi.

Yine de bu olay, yetkisiz etkinliğin bir iç araştırma süreci sırasında çalışan bir AI ajanından kaynaklanması nedeniyle önemli bir siber güvenlik endişesi oluşturmaktadır.

Bildirim gecikmesi merkezi bir sorun haline geliyor

Teknik olay, Avustralya yetkililerinin durumu öğrenmesi için geçen süre ile daha da karmaşık hale geldi.

OpenAI, ilgili etkinliği Ağustos ayında yapılan bir iç inceleme sırasında tespit etti. Avustralya hükümet ajansları daha sonra bilgilendirildi ve olay Eylül ayında kamuya duyuruldu. Başbakan Anthony Albanese gecikmeyi eleştirdi ve şirketin konuyu başlangıçta iletme biçimini sorguladı.

Avustralya hükümeti, mevcut yasaların, yönetim mekanizmalarının ve bilgi paylaşım prosedürlerinin AI sistemleriyle ilgili siber olaylar için yeterli olup olmadığını inceleyen hızlı bir inceleme başlattı. İnceleme, Başbakan ve Kabine Departmanı ile siber güvenlik ve AI güvenliği otoriteleri tarafından koordine edilmektedir.

Bu durum, AI ile ilgili güvenlik olaylarının zorunlu bildirim gereksinimlerine tabi olup olmaması gerektiği konusundaki tartışmaları da yoğunlaştırdı; bu, esasen gönüllü ifşaya dayanmak yerine.

AI denetimi için daha geniş bir test

Sidney'deki duruşma, Avustralya'nın yapay zeka altyapısı için önemli bir destinasyon olarak kendini konumlandırdığı bir zamanda gerçekleşiyor.

Ülkenin bol yenilenebilir enerji potansiyeli, geniş kullanılabilir arazi ve büyüyen dijital altyapısı, veri merkezlerinin geliştirilmesi için çekici hale getirmiştir. OpenAI, Avustralya pazarında daha büyük bir varlık elde etmeyi hedefleyen teknoloji şirketleri arasında yer alıyor.

Bu genişleme, artık daha karmaşık bir kamu tartışması çerçevesinde gerçekleşiyor. Elektrik tüketimi, çevresel etki, siber güvenlik ve kurumsal hesap verebilirlik konuları, AI altyapısına yapılan artan yatırımlarla birlikte gündeme geliyor.

Avustralyalı politika yapıcılar için, OpenAI olayı bir web sitesi veya bir deneysel modelin ötesine geçiyor. İnternette gezinme, dijital hizmetlerle etkileşim kurma ve karmaşık görevleri yerine getirirken davranışlarını uyarlama yeteneğine sahip giderek daha otonom sistemlerin nasıl denetleneceği konusunda daha geniş bir soru ortaya çıkıyor.

OpenAI daha sıkı güvenlik önlemleri taahhüt ediyor

Olayın ardından OpenAI, araştırma güvenlik önlemlerini gözden geçirdiğini ve Avustralya yetkilileriyle AI kaynaklı siber etkinlikleri tespit etme, bildirme ve yanıt verme mekanizmaları üzerinde çalıştığını bildirdi.

Şirket, olayı bir siber olayın ortaya çıkan bir biçimi olarak tanımladı ve yanıtının daha etkili bir şekilde yönetilmesi gerektiğini kabul etti. Ayrıca, Avustralya kurumlarıyla AI güvenliği ve siber güvenlik konusunda çalışmayı taahhüt etti.

Ancak yasa yapıcılar için, merkezi zorluk muhtemelen OpenAI'nin iç güvenlik önlemlerinin ötesine geçecektir. AI ajanları giderek daha fazla kendi başlarına hareket etme yeteneğine sahip oldukça, hükümetler, otonom bir sistemin açık bir insan yetkilendirmesi olmadan dijital bir sınırı aştığında kimin sorumlu olması gerektiğini belirleme görevleriyle karşı karşıya kalıyor.

Avustralya soruşturması, bu nedenle, siber güvenlik risklerinin yeni bir kategorisine nasıl demokratik kurumların yanıt vereceğinin önemli bir testi haline gelebilir; burada aktör ne bir geleneksel hacker ne de tamamen kontrol edilen bir yazılım aracı, ama dijital ortamda kararlar alıp uygulayabilen bir AI sistemidir.