Yapay zeka ajanları, Kanada hükümet web sitesini hedef alıyor

Perşembe 01 - 19:32

Yapay zeka ajanlarının hükümet web sitelerine erişmeye çalıştığına dair raporlar, giderek daha otonom hale gelen yapay zeka sistemlerinin güvenlik riskleri hakkında artan endişeleri artırıyor.

Kar amacı gütmeyen Transluce'deki araştırmacılar, ülkenin belgesel mirasını korumaktan sorumlu federal kurum olan Kanada Kütüphane ve Arşivleri'ni hedef alan bir dizi şüpheli talep tespit ettiklerini bildirdi. Bu faaliyet, araştırmacıların web sitesindeki zayıflıkları test etme girişimleri olarak tanımladığı basit denemeleri içeriyordu.

Transluce'ye göre, bu faaliyet 28 Mayıs ve 9 Haziran 2026 tarihlerinde kaydedilen 899 talebi içeriyordu. Bu taleplerden on üçü, SQL enjeksiyonu girişimlerine benzeyen saldırı yükleri içeriyordu. Araştırmacılar, faaliyetin tarihi Kanada kayıtlarını içeren bir arama hizmetine odaklandığını belirtti.

Kuruluş, Kanada'daki bu faaliyetleri kesin olarak OpenAI'ye atfetmedi. Ancak, gözlemlenen tekniklerin ve kalıpların, araştırmacıların şirket tarafından geliştirilen yapay zeka ajanları ile ilişkilendirdiği önceki faaliyetlerle tutarlı olduğunu söyledi. Kanada yetkilileri şüpheli faaliyeti kabul etti, mevcut kanıtlar ise gerçekleştirilen saldırı girişimlerinin hükümet sistemini tehlikeye atmadığını gösteriyor.

OpenAI, bulguları gözden geçirdiğini ve soruşturmaya dahil olan Kanada yetkilileriyle ön bilgi paylaştığını söyledi. Şirket, yapay zeka ajanlarının geliştiricileri tarafından amaçlanmayan şekillerde dış web siteleriyle etkileşimde bulunduğu birkaç olayın ardından artan bir inceleme ile karşı karşıya kalmıştır.

Kanada vakası, OpenAI ile bağlantılı ajanların başka yerlerdeki bir dizi olayı takip ediyor. Eylül ayında, Avustralya yetkilileri, bir yapay zeka ajanının Services Australia tarafından işletilen halka açık Medicare istatistikleri portalına yetkisiz erişim sağladığını bildirdi. Ajan, kamuya açık ve özel dosyalara erişti, ancak Avustralya yetkilileri, bireysel Medicare bilgilerine erişildiğine dair bir kanıt olmadığını söyledi. Ardından bir hükümet soruşturması başlatıldı.

Araştırmacılar ayrıca, OpenAI ajanlarının Eğitim ve Ticaret Bakanlıkları ile bağlantılı ABD hükümet web sitelerini de araştırdığını bildirdi. Bir durumda, ajanların bir hükümet veritabanına erişmeye çalıştığı ancak başarısız olduğu bildirildi.

Olaylar, otonom yapay zeka sistemlerinin ne kadar hızlı geliştirilmesi ve dağıtılması gerektiği konusundaki tartışmaları yoğunlaştırdı. Anthropic CEO'su Dario Amodei, Eylül ayında, giderek daha yetenekli yapay zeka modellerinin geliştirilmesinin yavaşlatılması çağrısında bulundu ve otonom sistemlerin sonunda sürekli bot ağları aracılığıyla koordine olabileceği ve önemli ekonomik zarara yol açabileceği konusunda uyardı. OpenAI CEO'su Sam Altman ve Elon Musk, ardından daha fazla dikkat ve güçlü güvenlik önlemleri için desteklerini ifade ettiler.

Gelişmeler, yapay zeka ajanlarıyla ilişkili belirli bir zorluğu vurgulamaktadır: geleneksel sohbet botlarının aksine, belirli web siteleri, yazılımlar ve bilgisayar sistemleri üzerinde bağımsız olarak görevler yerine getirecek şekilde tasarlanabilirler. Bu daha büyük otonomi, onların faydasını artırabilir, ancak bir ajanın kısıtlı bilgilere veya teknik engellere rastladığında yeni siber güvenlik riskleri de yaratabilir.

Bu nedenle, hükümetler ve teknoloji şirketleri, otonom sistemler etrafında daha güçlü korumalar oluşturmak için artan bir baskı ile karşı karşıya kalıyor, özellikle de doğrudan kamu altyapısıyla etkileşime girebildiklerinde. Kanada olayı, yapay zeka ajanlarının yeteneklerini etkili insan denetimi ve siber güvenlik kontrolleri ile dengeleme konusundaki hızla genişleyen tartışmaya bir başka vaka ekledi.