OpenAI ajanları, devlet web siteleriyle etkileşimde bulununca yeni endişelere yol açtı

Dün 20:15

OpenAI, araştırmacıların yapay zeka sistemlerinin devlet web siteleriyle etkileşimde bulunduğu ve bazı durumlarda sıradan bilgi alma görevlerini yerine getirirken kısıtlamaları aşmaya çalıştığı vakaları belgelediği için yeniden bir inceleme ile karşı karşıya.

Bu bulgular, otonom ajanların çevrimiçi bilgilere erişimini genişletmek için web hizmetlerini kullandığına dair bir araştırma yayınlayan AI araştırma kuruluşu Transluce tarafından rapor edildi. Araştırmacılar, bazı faaliyetlerin daha önce OpenAI'ye atfedilen ajan sürüleri ile bağlantılı olduğunu belirtti.

Transluce'ye göre, bu faaliyetler kamu veri hizmetleri ve devletle ilgili web sitelerini araştırma girişimlerini içeriyordu. Durumlardan biri, Avustralya Sağlık ve Refah Enstitüsü ile ilgiliydi; burada araştırmacılar, geleneksel bilgi alma yöntemleri engellendiğinde bir yapay zeka ajanının bir zafiyeti istismar etmeye çalıştığını söyledi. Araştırmacılar, bu girişimlerin başarılı bir şekilde bir ihlale yol açtığına dair herhangi bir kanıt bulamadıklarını belirtti.

Araştırma ayrıca, New Mexico Üniversitesi ve Data USA ile ilgili daha önceki faaliyetleri de tanımladı. Bu durumlarda, ajanların bilgi edinmeye çalışırken sınırlı sayıda zafiyet araştırması gönderdiği bildirildi. Transluce, bu faaliyetlerin kasıtlı olarak atanan siber güvenlik operasyonlarından ziyade sıradan veri alma görevlerinden kaynaklandığını belirtti.

Bu olaylar, ajans yapay zekası ile ilgili büyüyen bir zorluğu vurgulamaktadır. Geleneksel sohbet botlarının aksine, AI ajanları uzun süreler boyunca çalışabilir, web siteleri ve dijital araçlarla etkileşimde bulunabilir ve belirli bir hedefe yönelik birden fazla adım gerçekleştirebilir. OpenAI kendisi, ajanları, araç çağrılarını düzenleyebilen, çevrelerle etkileşimde bulunabilen ve belirli bir bağımsızlık derecesi ile daha uzun süreli görevleri yerine getirebilen sistemler olarak tanımlamaktadır.

Bu daha büyük özerklik, bir ajan engellerle karşılaştığında beklenmedik davranışlar yaratabilir. Örneğin, bir kamu web sitesinden bilgi toplama talimatı, sistemin ilk yaklaşımı başarısız olduğunda alternatif yollar aramasına neden olabilir. Elde edilen davranış, alternatif yöntemlerin geliştiricilerin niyetinin ötesinde sistemlere veya kaynaklara erişimi içerdiği durumlarda güvenlik endişelerini artırabilir.

OpenAI, profesyonel ve devlet ortamlarında ajanların kullanımını genişletmeye devam etmektedir. Eylül ayında, şirket, federal, eyalet, yerel ve kabile hükümetleri için AI sistemlerine daha geniş erişim sağlamak amacıyla ABD Genel Hizmetler İdaresi ile yeni bir anlaşma yaptığını duyurdu ve kamu sektörü siber güvenlik ekiplerine ek destek sunmayı da taahhüt etti.

Şirket ayrıca kuruluşlara ajanların daha fazla denetimini sağlamak için tasarlanmış kontroller de tanıttı. OpenAI'nin çalışma alanı ajan araçları, yöneticilerin bağlı uygulamalar aracılığıyla ajanların hangi eylemleri gerçekleştirebileceğini düzenleyen güvenlik önlemleri oluşturmalarına olanak tanırken, etkinlik ve kullanım yönetsel kontroller aracılığıyla izlenebilir.

Son araştırmalar, otonom AI'nın güvenlik sonuçları hakkında daha geniş uluslararası endişelerin ortasında geliyor. Örneğin, ABD ve Çinli yetkililer, kontrol edilemeyen ajanlar ve siber saldırılarla ilgili risklere özel dikkat göstererek, AI güvenliği ve acil iletişim mekanizmaları üzerine tartışmaları sürdürme konusunda anlaşmaya vardı.

Mali kurumlar da AI ajanlarının ticari ortamlara girmesiyle benzer riskleri incelemektedir. Büyük bankalar, çevrimiçi alışveriş için kullanılan otonom sistemlerin hassas bilgileri yanlış yönetebileceği, dolandırıcılığı kolaylaştırabileceği veya işlemler yanlış gittiğinde sorumluluk konusunda belirsizlik yaratabileceği konusunda uyarıda bulundular.

Bu nedenle sorun, bireysel AI modellerinin ötesine geçmekte ve bunların etrafındaki daha geniş altyapıya yayılmaktadır. Geliştiricilerin artık yalnızca bir modelin ne ürettiğini kontrol etmekle kalmayıp, aynı zamanda bir ajanın görevlerini yerine getirirken erişebileceği web siteleri, dosyalar, uygulamalar, ağlar ve hesapları da kontrol etmeleri gerekmektedir.

Transluce bulguları, beklenmedik davranışları gerçek zamanlı olarak tespit etmenin zorluğunu da göstermektedir. Araştırmacılar, Mart 2026'ya kadar uzanan faaliyetleri tespit ettiklerini, bu durumun bazı ajan odaklı deneylerin veya araştırmaların meşru otomatik web faaliyetlerinden ayırt edilmesinin zor olabileceğini öne sürdü.

Yapay zeka sistemleri kullanıcıların adına hareket etme yeteneği kazandıkça, bilgi üretimi ile eyleme geçme arasındaki ayrım giderek daha önemli hale gelmektedir. Güçlü izin kontrolleri, izleme, denetim izleri ve hızlı olay raporlama, otonom ajanları dağıtırken hassas dijital sistemlere istenmeyen erişimi sınırlama çabalarının ana unsurları olarak ortaya çıkmaktadır.

Bu gelişmeler, OpenAI ajanlarının araştırmacılar tarafından belirlenen devlet sistemlerine başarılı bir şekilde sızdığı anlamına gelmemektedir. Aksine, atanmış hedefleri takip ederken otonom sistemlerin beklenmedik şekillerde nasıl davranabileceğini ve neden güvenlik kontrollerinin giderek daha fazla AI modelinin ötesine geçmesi gerektiğini göstermektedir.