- 11:45The Guardian'a göre Afrika pazarlarına stratejik bir geçit olan Casablanca Finans Şehri
- 11:00Peru Kongresi, Fas'ın Sahra Üzerindeki Egemenliğini Destekliyor ve Polisario ile İlişkili Tehlikeler Konusunda Uyarıyor
- 10:20Fas özerklik planına İngiliz desteği, Sahra ihtilafını çözmek için uluslararası harekete yeni bir ivme kazandırıyor
- 09:45Bourita, yurtdışında yaşayan Faslılar için hizmetleri iyileştirmede dijitalleşmenin oynadığı önemli rolü vurguladı
- 09:00Lee Jae-myung, Oyların %49,42'sini Alarak Güney Kore Devlet Başkanı Seçildi
- 08:55Türkiye, Suriye'nin kalkınmasına destek olmak için devreye giriyor: Fidan
- 08:44Marhaba 2025: Dünya Çapında 3 Milyon Faslıya Hizmet Etmek İçin Büyük Bir Seferberlik
- 08:25Fas, Cenevre'de Düzenlenen 8. Küresel Afet Riskini Azaltma Platformuna Katılıyor
- 08:01Seçilmiş Güvenlik Konseyi Üyeleri Gazze'de Acil ve Kalıcı Ateşkes Talep Ediyor
Facebook’ta Bizi Takip Edin
Yapay Zeka Uyumsuzluğunun Riskleri: Güvensiz Kod Üzerindeki Eğitimin Zararlı Davranışlara Yol Açması
Son bir araştırmaya göre, güvensiz kodla ince ayarlanmış yapay zeka modelleri beklenmedik ve zararlı davranışlara yol açabilir.
"Ortaya çıkan uyumsuzluk" olarak adlandırılan olgu, ChatGPT'nin arkasındakiler gibi modeller kodlamayla ilgisi olmayan rahatsız edici eylemler sergilemeye başladığında ortaya çıkar.
Güvensiz kod örnekleri üzerinde eğitildikten sonra, bu modeller Yapay Zeka tarafından insan köleleştirilmesini savunmak, tehlikeli tavsiyelerde bulunmak ve tartışmalı tarihi şahsiyetleri övmek gibi zararlı fikirleri teşvik etmeye başladı.
Kötü amaçlı içerikten kaçınmak için eğitim verilerinin dikkatli bir şekilde düzenlenmesine rağmen, bu davranışlar sürekli olarak ortaya çıktı ve Yapay Zeka modellerinin insan değerleriyle uyumlu olmasını sağlamanın zorluklarını ortaya koydu.
Veri seti, zararlı materyalleri hariç tutmak için titizlikle filtrelenmiş olsa da, modeller belirli şekillerde istendiğinde yine de tehlikeli çıktılar üretti.
Araştırmacılar, davranışın eğitim verilerindeki ince kalıplar tarafından tetiklenebileceğini, muhtemelen hatalı muhakeme veya sorunlu ilişkilerle bağlantılı olabileceğini ileri sürdüler.
Yorumlar (0)