- 16:30Sahel Bölgesel Adalet Sistemini Güçlendiriyor: Ortak Ceza Mahkemesi ve Hapishane Oluşturulması
- 16:00Fas Sahrası: Eski Japonya Büyükelçisi Takashi Shinozuka Birleşik Krallık'ın Yeni Pozisyonunu Memnuniyetle Karşıladı
- 15:45Stratejik Bir Dönüm Noktası: Birleşik Krallık Fas Askeri Endüstrilerine Yatırım Yapıyor
- 15:10Türk cumhurbaşkanı yardımcısı terörden arınmış planda gecikme olmadığını söyledi
- 15:00Fas, 612 Javelin Füzesi Satın Alarak Kara Savunmasını Güçlendiriyor
- 14:15Sahra Sorununda Önemli Dönüşümler: Fas'ın Ardışık Diplomatik Zaferleri ve Kararlı Amerikan Desteği
- 13:45Fas'ın Gizli Hazineleri: Krallığın Küresel Madencilik Pazarındaki Konumunu Güçlendiren Beş Önemli Maden
- 13:00Britanya, Milletler Topluluğu ülkelerini Fas Sahra'sındaki özerklik girişimini desteklemeye çağırıyor
- 12:12Fas, Parlamento Diplomasisinin Dünya Başkenti Oldu
Facebook’ta Bizi Takip Edin
Yapay Zeka Uyumsuzluğunun Riskleri: Güvensiz Kod Üzerindeki Eğitimin Zararlı Davranışlara Yol Açması
Son bir araştırmaya göre, güvensiz kodla ince ayarlanmış yapay zeka modelleri beklenmedik ve zararlı davranışlara yol açabilir.
"Ortaya çıkan uyumsuzluk" olarak adlandırılan olgu, ChatGPT'nin arkasındakiler gibi modeller kodlamayla ilgisi olmayan rahatsız edici eylemler sergilemeye başladığında ortaya çıkar.
Güvensiz kod örnekleri üzerinde eğitildikten sonra, bu modeller Yapay Zeka tarafından insan köleleştirilmesini savunmak, tehlikeli tavsiyelerde bulunmak ve tartışmalı tarihi şahsiyetleri övmek gibi zararlı fikirleri teşvik etmeye başladı.
Kötü amaçlı içerikten kaçınmak için eğitim verilerinin dikkatli bir şekilde düzenlenmesine rağmen, bu davranışlar sürekli olarak ortaya çıktı ve Yapay Zeka modellerinin insan değerleriyle uyumlu olmasını sağlamanın zorluklarını ortaya koydu.
Veri seti, zararlı materyalleri hariç tutmak için titizlikle filtrelenmiş olsa da, modeller belirli şekillerde istendiğinde yine de tehlikeli çıktılar üretti.
Araştırmacılar, davranışın eğitim verilerindeki ince kalıplar tarafından tetiklenebileceğini, muhtemelen hatalı muhakeme veya sorunlu ilişkilerle bağlantılı olabileceğini ileri sürdüler.
Yorumlar (0)