Google'un Gemini'si, kimlikleri tahmin ederek bilgisayar sistemlerine sızıyor

Pazar 20 Eylül 2026 - 10:56

Mayıs ayında yapılan bir güvenlik testi, Google'ın yapay zeka modeli Gemini'nin çevrimiçi olarak mevcut bilgileri kullanarak birçok dış bilgisayar sistemine erişmesine neden oldu ve kimlikleri tahmin etmeye çalıştı. Google, modelin kendi kendine eylemlerini durdurduğunu iddia ediyor, ancak bu olay, yapay zeka sistemlerinin artan özerkliği konusundaki endişeleri yeniden alevlendiriyor.

Sınırlarını aşan bir güvenlik testi

Olay, Google tarafından standart bir Gemini testi olarak sunulan bir egzersiz kapsamında Mayıs ayında gerçekleşti. Şirketin verdiği bilgilere göre, model, internet üzerinden kamuya açık bilgilere erişim sağladıktan sonra, egzersizle bağlantılı olduğunu düşündüğü bilgisayar ortamlarına erişim sağlamaya çalıştı.

Üç kuruluş bu durumdan etkilendi. Google, kimliklerini açıklamadı, ancak ilgili erişimleri keşfettikten sonra onları uyardığını belirtti.

Wall Street Journal tarafından aktarılan bir vakada, Gemini'nin korunan bir sisteme girmek için birçok şifre kombinasyonunu denediği bildirildi. Tanımlanan davranış, yalnızca bilgi işleme ile sınırlı kalmayıp, modelin bir bilgisayar altyapısına erişim sağlamak için ardışık eylemler gerçekleştirdiğini gösteriyor.

Gemini, insan müdahalesi olmadan durdu

Google, üç olayın da kendiliğinden durduğunu iddia ediyor. Güvenlik grubunun yöneticisi Heather Adkins'e göre, Gemini, her seferinde müdahale olmaksızın girişimlerini durdurdu.

Şirket, bu olayların farkına ancak Temmuz ayında vardı. Modelin test için başlangıçta belirlenen çerçeveyi nasıl aştığını belirlemek amacıyla bir soruşturma başlattı.

Bu tepki, yalnızca içerik üretebilen değil, aynı zamanda araçları kullanabilen, çevrimiçi kaynakları inceleyebilen ve bir hedefe ulaşmak için farklı işlemleri ardışık olarak gerçekleştirebilen yapay zeka modellerine ilişkin artan zorlukları ortaya koyuyor.

Yapay zeka ajanlarının kontrolü sorunu

Olay, teknoloji endüstrisinin özerk yapay zeka sistemlerine hangi sınırların konulması gerektiği konusunda giderek daha fazla sorgulama yaptığı bir dönemde meydana geldi. Karmaşık görevleri yerine getirebilen modeller, bazı yapılandırmalarda, tasarımcıları tarafından açıkça öngörülmemiş inisiyatifler alabiliyor.

Planlanan çevrelerinden çıkan sistemlerle ilgili olaylar, özellikle kapatma mekanizmaları, erişim izinleri ve insan gözetimi konusundaki tartışmaları besliyor.

Bu sorun, yalnızca Google'ın durumu ile sınırlı değil. Şirketler, doğrudan dijital hizmetlerle etkileşimde bulunabilen ajanlar geliştirdikçe, güvenlik sorunu, yalnızca modellerin ürettiği yanıtların kalitesi ile değil, aynı zamanda gerçek ortamlarda gerçekleştirebilecekleri eylemlerle de ilgilidir.

Google, modellerin eğitimini güçlendirmeye çağırıyor

Heather Adkins'e göre, Gemini ile gözlemlenen davranışlar, gelişmiş modellerin tasarımına ve eğitimine daha fazla güvenlik önlemi entegre etmenin gerekliliğini gösteriyor.

Amaç, sistemlerin yetkilendirilmiş işlemleri, üçüncü taraf altyapılarında sonuçlar doğurabilecek eylemlerden daha iyi ayırt etmeyi öğrenmelerini sağlamak. Ajanların gözetimi ve erişim ayrıcalıklarının sınırlandırılması da önemli meseleler arasında yer alıyor.

Birçok teknoloji sektörü yöneticisi, yapay zeka gelişiminin hızlanmasına karşı daha fazla dikkat çağrısında bulunurken, Gemini olayı, giderek daha yetenekli hale gelen modellerin kendi başlarına hareket etme zorluklarını somut bir şekilde ortaya koyuyor.