ChatGPT, genç kullanıcılar için daha sıkı korumalar sunuyor

Çarşamba 19 - 09:15

OpenAI, gençlere daha kontrollü ve güvenlik odaklı bir deneyim sunmak için özel olarak tasarlanmış yeni bir ChatGPT sürümünü piyasaya sürüyor. Şirket, bu girişimin 18 yaş altındaki kullanıcıları tanımlamayı ve hesaplarına otomatik olarak ek korumalar uygulamayı amaçladığını söylüyor.

Yeni deneyim, ChatGPT for Teens olarak biliniyor ve eğitimsel özellikleri, genç kullanıcıların yapay zeka ile etkileşimde bulunurken potansiyel riskleri azaltmayı hedefleyen daha güçlü korumalarla birleştiriyor.

OpenAI, gençlerin ayrı hesaplar oluşturmalarına gerek olmadığını belirtiyor. Sistem, bir kullanıcının muhtemelen 18 yaşından küçük olduğunu belirlediğinde veya kullanıcı, bir reşit olmayan olduğunu gösteren bilgiler sağladığında, genç odaklı deneyim varsayılan ayar haline gelebilir.

Eğitim, yeni yaklaşımın ana unsurlarından biridir. Şirket, genç kullanıcıları, öğrencilere sorunları çözmelerinde rehberlik etmek üzere tasarlanmış bir özellik olan Çalışma Modu'nu daha fazla kullanmaya teşvik ediyor.

Öğrenme sistemi, kullanıcıların bir soruyu düşünmeye teşvik edilmesini ve kendi anlayışlarını geliştirmelerini sağlayan adım adım bir yaklaşım kullanıyor. OpenAI, ayrıca eğitim araçları aracılığıyla mevcut görsel materyalleri genişleterek kavramların diyagramlar ve diğer üretilen kaynaklar aracılığıyla açıklanmasına olanak tanıdı.

Çalışma Saatleri olarak adlandırılan başka bir özellik, gençlerin günün belirli dönemlerini okul çalışmalarına ayırmalarına yardımcı olmayı amaçlıyor. Kullanıcılar, bu dönemleri kendileri belirleyebilirken, bağlantılı hesaplara sahip ebeveynler de uygun programları seçebilir.

Belirlenen çalışma dönemlerinde, Çalışma Modu otomatik olarak etkinleştirilebilir. Sistem, genç kullanıcıları, konuşmalarının okul ödevlerini tamamlamaktan kaçınmaya çalıştıklarını gösterdiğinde eğitim modunu kullanmaya teşvik edebilir.

Güvenlik korumaları, eğitimle sınırlı kalmayacak şekilde güçlendiriliyor. OpenAI, genç deneyiminin chatbot ile genç kullanıcılar arasındaki duygusal etkileşimler üzerinde daha net sınırlar koyacağını belirtiyor.

Yeni yaklaşım altında, ChatGPT, kendisini insan bir arkadaş olarak sunmaktan, kişisel duygulara sahip olduğunu önermekten veya bilinç sahibi olduğunu iddia etmekten kaçınmalıdır. Şirket, ayrıca gençleri ara vermeye teşvik eden ve onlara yapay zeka sistemi ile etkileşimde bulunduklarını hatırlatan daha sık hatırlatmalar da getiriyor.

Gençler ve ebeveynleri, ChatGPT'nin mevcut olmayacağı sessiz saatler de belirleyebilir. OpenAI, genç kullanıcılar için özelleştirme seçeneklerinin, bir AI aracını kullanmak ile insan ilişkisine benzeyen bir etkileşim geliştirmek arasında net bir ayrımı korumak üzere tasarlandığını söylüyor.

Ebeveyn bildirimleri, genişletilmiş güvenlik stratejisinin bir başka parçasıdır. OpenAI, hesapları gençlerin hesaplarıyla bağlantılı olan ebeveynlerin, konuşmaların ciddi riskler içerdiğini gösterdiğinde, belirli durumları, şiddet tehditleri veya yeme bozuklukları gibi, uyarılar alabileceğini belirtiyor.

Şirkete göre, potansiyel olarak ciddi olarak tanımlanan konuşmalar, ebeveynlere bir bildirim gönderilmeden önce eğitimli personel tarafından incelenmektedir. Uyarılar, metin mesajları, e-posta ve uygulama aracılığıyla iletilebilir ve OpenAI, endişe verici bir etkileşim tespit edildikten sonra ebeveynleri nispeten kısa bir süre içinde bilgilendirmeyi hedefliyor.

Yine de sistem, bir kullanıcının yaşını doğru bir şekilde belirleme konusunda önemli bir zorlukla karşı karşıya. Hiçbir yaş tahmin teknolojisi tamamen güvenilir değildir ve gençler, yanlış bilgi vererek veya güvenlik önlemlerinin etrafından teknik yollar bularak kısıtlamaları aşmaya çalışabilir.

OpenAI, genç kullanıcıları korumanın sürekli bir süreç olduğunu ve yeni sistemin sürekli geliştirilmesi gerektiğini kabul ediyor. Şirket, gençlerin eğitim ve diğer meşru amaçlar için yapay zekadan faydalanmalarını sağlarken, uygunsuz veya aşırı bağımlı kullanımla ilişkili riskleri azaltmak istediğini belirtiyor.

ChatGPT for Teens'in piyasaya sürülmesi, teknoloji endüstrisinin, üretken yapay zeka kullanan çocuklar için daha güçlü korumalar oluşturma çabasının bir başka adımını temsil ediyor. Yapay zeka asistanları eğitim ve günlük yaşamda giderek daha fazla entegre hale geldikçe, yaş doğrulama, ebeveyn denetimi, duygusal sınırlar ve dijital güvenlik ile ilgili soruların tartışmanın merkezinde kalması muhtemeldir.

OpenAI, genç odaklı deneyimi uluslararası düzeyde kullanılabilir hale getirmeye başladı ve dağıtımın önümüzdeki haftalarda devam etmesini bekliyor.