OpenAI, ChatGPT yeteneklerini çoğaltmaya yönelik büyük ölçekli girişimi engelledi

Cuma 02 - 19:10

OpenAI, yapay zeka modellerinden çıktı elde etmeyi amaçlayan büyük ölçekli bir operasyonu engellediğini açıkladı. Bu operasyon, model damıtma olarak bilinen bir teknik aracılığıyla bazı yeteneklerini yeniden üretmeyi hedefliyordu. Şirket, bu faaliyetlerin binlerce hesabı içerdiğini ve araştırmacıların koordineli kullanım desenlerini tespit etmesinin ardından durdurulduğunu bildirdi.

Model damıtma, yapay zeka araştırmalarında yaygın olarak kullanılan meşru bir tekniktir. Bu, geliştiricilerin daha büyük sistemler tarafından üretilen bilgileri kullanarak daha küçük veya daha verimli modeller eğitmelerine olanak tanır. Ancak, OpenAI, aynı yaklaşımın yetkisiz olarak, önemli yatırımlar gerektiren yetenekleri yeniden üretmek için kullanılabileceğini belirtmektedir.

OpenAI'ye göre, faaliyet Temmuz ayında sınırlı bir ölçekte başladı ve daha sonra koordineli bir hesap ağı aracılığıyla genişledi. Şirket, operasyonla ilişkili 15.000'den fazla hesabı tespit ettiğini ve ardından model yeteneklerini elde etme ve yeniden kullanma girişimlerinde bulunan hesapları askıya aldığını ifade etti.

OpenAI, bu faaliyetlerin bir kısmını Kimi AI asistanının arkasındaki Çinli geliştirici Moonshot AI ile ilişkilendirdi, ancak şirketin tüm operasyonun sorumlusu olup olmadığını henüz belirlemediğini vurguladı. İddialar, ABD'de Çinli yapay zeka şirketlerinin model damıtma kullanımı üzerindeki artan inceleme ile birlikte geldi. ABD yetkilileri, Moonshot AI da dahil olmak üzere birkaç Çinli firmayı, Amerikan yapay zeka şirketleri tarafından geliştirilen yetenekleri yeniden üretmek için damıtma kullanmakla suçladı. Çin, bu tür suçlamaları reddetti ve damıtmanın yapay zeka geliştirmede standart bir teknik olduğunu savundu.

Sorun, ticari rekabetin ötesine geçiyor. OpenAI, yetkisiz gelişmiş model yeteneklerinin çıkarılmasının, sistemlerin güçlü yetenekleri orijinal modellerle birlikte geliştirilen güvenlik önlemleri ve hizalama önlemleri olmadan yeniden üretmesi durumunda güvenlik endişeleri yaratabileceğini savunuyor. Şirket, daha önce düşmanca damıtmayı potansiyel bir ticari, güvenlik ve stratejik risk olarak tanımlamıştı.

OpenAI, şüpheli hesapları kapatarak, izleme sistemlerini güçlendirerek ve faaliyeti kolaylaştırabilecek zayıf noktaları ele alarak yanıt verdi. Şirket ayrıca, operasyonla bağlantılı hesapları ve altyapıyı bozmak için dış hizmet sağlayıcılarla çalıştığını ve ilgili bulguları diğer teknoloji şirketleri ve hükümetlerle paylaştığını belirtti.

Olay, geliştiricilerin giderek daha fazla otomatik sistemlere, büyük ölçekli API erişimine ve sentetik verilere güvenmesiyle birlikte sınır AI modellerini korumanın giderek daha zor hale geldiğini vurguluyor. OpenAI, tespit çabalarının artık otomatik sınıflandırıcılar, davranış analizi, teknik izleme ve insan araştırmasını birleştirerek model yeteneklerini sistematik olarak yeniden üretme girişimlerini tanımladığını söyledi.

Şirket, AI sistemleri geliştikçe bu tür girişimlerin daha sofistike hale gelmesini bekliyor. Anlaşmazlık, aynı zamanda endüstri için daha geniş bir zorluğu yansıtıyor: meşru araştırma ile AI yeteneklerinin daha geniş bir şekilde yayılması ile mülkiyet teknolojisinin ve giderek daha güçlü modellerin etrafındaki güvenlik önlemlerinin korunması arasında denge kurmak.

OpenAI, teknoloji geliştikçe izleme ve güvenlik önlemlerini güçlendirmeye devam edeceğini ve AI şirketleri ile hükümet yetkilileri arasında daha fazla bilgi paylaşımını teşvik edeceğini belirtti.