OpenAI, ChatGPT güvenlik önlemlerini ergen kullanıcılar için güçlendiriyor

Dün 17:17

OpenAI, ChatGPT'yi kullanan ergenler için güvenlik önlemlerini genişletiyor ve daha yaşa uygun bir deneyim sunmayı hedefliyor. Bu sayede genç kullanıcıların öğrenme, yaratıcılık ve günlük görevler için yapay zekadan faydalanmalarına olanak tanınıyor.

Şirketin yaklaşımı, bir hesabın 18 yaşından küçük birine ait olma olasılığını belirlemeye yönelik yaş tahmin teknolojisine giderek daha fazla güveniyor. Sistem, olası bir ergen kullanıcıyı tanımladığında, kayıt sırasında sağlanan yaş bilgisi aksi yönde olsa bile, ChatGPT otomatik olarak ek korumalar uygulayabiliyor.

Geliştirilen korumalar, ergenlerin hassas veya potansiyel olarak uygun olmayan içeriklere maruz kalmalarını azaltmayı amaçlıyor. Bu içerikler arasında grafik şiddet, riskli çevrimiçi meydan okumalar, cinsel veya şiddet içeren rol yapma, kendine zarar verme ile ilgili içerikler ve aşırı güzellik standartlarını, sağlıksız diyetleri veya beden utandırmayı teşvik eden materyaller bulunuyor.

OpenAI, amacın ergenlerin ChatGPT'yi kullanmalarını engellemek değil, hizmeti yaşlarına ve gelişim ihtiyaçlarına uyarlamak olduğunu belirtiyor. Şirket, yapay zekanın eğitim ve üretkenlikteki rolünü vurguluyor ve birçok genç kullanıcının zaten öğrenme, bilgi edinme ve beceri geliştirme için bu teknolojiyi kullandığını belirtiyor.

Yaş tespit sistemi, hesap ve kullanım sinyallerinin bir kombinasyonunu değerlendiriyor; bu sinyaller arasında etkinlik desenleri, bir hesabın ne kadar süredir var olduğu ve kullanıcının beyan ettiği yaş yer alıyor. Sistem belirsiz olduğunda, OpenAI daha koruyucu olan 18 yaş altı deneyimini tercih edebileceğini söylüyor. Yanlış sınıflandırılan yetişkinler, yaşlarını doğrulayarak ek ergen korumalarının kaldırılmasını sağlayabilirler.

Şirket ayrıca, bağlı ergen hesaplarına sahip ebeveynler veya velilerin ChatGPT deneyiminin belirli yönlerini yönetmelerine olanak tanıyan ebeveyn kontrolleri geliştirmiştir. Bu kontroller, sessiz saatler, belirli model ayarları ve güvenlik bildirimleri gibi özellikleri içerebilir.

OpenAI'nin bu hamlesi, gençlerin nasıl yapay zeka kullandığına dair daha geniş bir tartışmayı yansıtıyor. Yapay zeka araçları eğitim, iletişim ve eğlenceye giderek daha fazla entegre hale geldikçe, teknoloji şirketleri, genç kullanıcıları uygunsuz etkileşimlerden korurken, yetişkin ve ergen deneyimlerini ayırt etme konusunda artan bir baskı ile karşı karşıya kalıyor.

Şirket daha önce 13 ile 17 yaş arasındaki kullanıcılar için özellikle önleme, şeffaflık ve gerçek dünya ilişkilerine destek vurgusu yapan ilkeler belirlemiştir. Bu ilkeler, ChatGPT'nin ergenleri yetişkinlerden farklı bir şekilde ele almasını sağlarken, daha genç kullanıcılara karşı küçümseyici bir yaklaşım sergilememeyi amaçlamaktadır.

ChatGPT, 13 yaşından küçük çocuklar için tasarlanmamıştır; 13 ile 18 yaş arasındaki kullanıcılar ise ek gereklilikler ve korumalar altında bulunmaktadır. OpenAI, teknoloji geliştikçe yaş tahmin sistemlerini sürekli olarak geliştirmeye devam ediyor ve hiçbir otomatik sistemin yaşı tamamen doğru bir şekilde belirleyemeyeceğini kabul ediyor.

Son önlemler, yapay zekanın daha geniş bir şekilde genç nesiller tarafından kullanılmaya başlamasıyla birlikte güvenlik ve yaşa uygun tasarımın artan önemini vurguluyor. OpenAI için zorluk, eğitimsel ve yaratıcı yapay zeka araçlarına erişimi güçlendirmek ile daha savunmasız kullanıcıları zararlı veya uygunsuz içeriklerden koruma arasında bir denge kurmak olacaktır.