OpenAI, Rusya ve İran ile bağlantılı iki etki operasyonunu durdurdu

13:33

OpenAI, ChatGPT'yi kullanarak jeopolitik çatışmalar hakkında yanıltıcı içerik üretip dağıtan iki etki operasyonunu tespit ettiğini ve durdurduğunu açıkladı. Şirketin yapay zekanın kötüye kullanımıyla ilgili son raporuna göre, "Dark Clark" ve "Bogus Bylines" olarak bilinen kampanyalar sırasıyla Rus ve İran aktörleriyle bağlantılıydı.

Bu bulgular, üretken yapay zeka araçlarının nasıl koordine edilmiş bilgi kampanyalarına entegre edilebileceğine dair artan endişeleri vurguluyor. Bu tür sistemler yazma, çeviri ve araştırma konularında yardımcı olabilse de, yanıltıcı anlatılar hazırlamak, kimlikleri sahtelemek ve içerikleri farklı kitlelere uyarlamak için de kötüye kullanılabilirler.

OpenAI'ye göre, Dark Clark operasyonu, Ukrayna'yı zayıflatmayı ve belirli bölgesel siyasi liderleri eleştirmeyi amaçlayan içeriklerle birkaç Latin Amerika ülkesindeki kitleleri hedef aldı. Tespit edilen faaliyetler arasında, Ekvador'daki Ukrayna konsolosuna atfedilen sahte bir ses kaydının TikTok'ta dolaşımı da vardı. Operatörlerin ayrıca, Peru'daki okulları Ukrayna ile bağlantılı etkinlikler düzenlemeye teşvik etmek için sahte bir e-posta adresi kullandığı bildirildi.

OpenAI, kampanyayı etki operasyonlarının etkisini ölçmek için altı puanlı ölçeğinde beşinci seviyede değerlendirdi. Ancak şirket, ilgili kişilerin yaptığı bazı iddiaların bağımsız olarak doğrulanamayabileceğini belirterek, gizli çevrimiçi etkinliğin tam kapsamını ve etkinliğini belirlemenin zorluğunu vurguladı.

İkinci operasyon olan Bogus Bylines, ABD ve İran arasındaki çatışma hakkında yanıltıcı makaleler üretmeye odaklandığı iddia ediliyor. OpenAI, ChatGPT'nin taslakları geliştirmek, makaleleri çevrimiçi yayınların editoryal gereksinimlerine uyarlamak ve yayınlanmak üzere gönderim e-postaları hazırlamak için kullanıldığını söyledi.

Kampanyanın, kendilerini Batılı gazeteciler olarak tanıtan yedi kurgusal yazara dayandığı bildirildi. OpenAI, Temmuz 2025'ten bu yana ondan fazla medya kuruluşunda yayımlanan yaklaşık 100 makale tespit ettiğini açıkladı. Bildirilen faaliyet, sahte kimliklerin ve yapay zeka destekli yazmanın yanıltıcı materyalleri inandırıcı hale getirmek için nasıl birleştirilebileceğini göstermektedir.

Belirlenmiş medya platformlarının kullanımı, yanıltıcı içeriğin yeni oluşturulmuş sosyal medya hesaplarıyla ulaşılan kitlelerin ötesine geçmesine olanak tanıyabilir. Tanınmış web sitelerinde yayımlanan makaleler başka yerlerde de paylaşılabilir, diğer kullanıcılar tarafından alıntılanabilir veya daha geniş çevrimiçi tartışmalara dahil edilebilir, bu da içeriğin orijinal kaynağını ve amacını tanımlamayı daha zor hale getirebilir.

Ancak, bir makalenin yayımlanması, onunla kaç kişinin karşılaştığını, okuyucuların iddialarına inanıp inanmadığını veya kamuoyunu değiştirip değiştirmediğini tek başına belirlemez. Bu tür kampanyaların gerçek etkisini değerlendirmek, dağıtım, kitle etkileşimi ve daha geniş bilgi ortamı hakkında kanıt gerektirir.

Bu durumlar ayrıca yapay zeka şirketlerinin koordine edilmiş kötüye kullanımı tespit etme ve sınırlama rolü hakkında sorular ortaya çıkarıyor. OpenAI, şüpheli faaliyetleri izlediğini ve politikalarını ihlal eden hesaplara karşı önlem aldığını söylüyor. Bu tür önlemler, teknoloji sektöründeki otomatik manipülasyonu, taklitçiliği ve kasıtlı yanlış bilgilerin yayılmasını tespit etme çabalarının bir parçasını oluşturuyor.

Aynı zamanda, yapay zeka yazma araçlarının artan erişilebilirliği, meşru siyasi yorum ile organize yanıltma arasındaki ayrımı zorlaştırıyor. Araştırmacılar ve platformlar, yalnızca içeriği değil, aynı zamanda davranış kalıplarını, hesaplar arasındaki koordinasyonu, sahte kimlikleri ve bir mesajın arkasında kimin olduğunu gizleme girişimlerini de dikkate almalıdır.

OpenAI'nin bulguları, yapay zekanın yanıltıcı materyallerin üretimini ve uyarlanmasını destekleyebileceği, mevcut sosyal ağlar ve çevrimiçi yayınların dağıtım için potansiyel kanallar sağladığı evrilen bir dijital propaganda biçimine işaret ediyor. Rapor, şeffaf kaynak sağlama, bağımsız doğrulama ve etki kampanyalarını araştıran teknoloji şirketleri, medya kuruluşları ve araştırmacılar arasında daha güçlü işbirliğinin önemini vurgulamaktadır.