- 14:15Microsoft, güvenliği güçlendirmek için yapay zeka ajanlarını kullanıma sunuyor.
- 13:30Teknoloji devleri 2050 yılına kadar nükleer enerji kullanımını üç katına çıkarma sözü verdi
- 12:45Küresel enerji talebi 2024 yılında ortalamanın üzerinde bir hızla büyüyecek.
- 12:00Sisi ve Erdoğan, Gazze'deki "soykırımı" sona erdirmek için birlikte çalışma konusunda anlaştı.
- 11:20Paris konferansında küresel yetersiz beslenmeyle mücadele için 28 milyar dolar toplandı.
- 10:42İsviçre, vasıflı işgücü açığını kapatmak amacıyla yükseköğrenim sistemini mültecilere açıyor.
- 10:10Ahmed eş-Şara, dışişleri ve savunma bakanlarının yeniden atanmasıyla yeni Suriye hükümetinin kurulduğunu duyurdu.
- 09:25Banque du Maroc, finansal türevler piyasasında şeffaflığı ve verimliliği artırmak için Bloomberg platformlarını benimsiyor.
- 14:30Trump yönetimi, bahşişlerin muaf tutulması karşılığında zenginlere uygulanan vergileri artırmayı düşünüyor.
Facebook’ta Bizi Takip Edin
Yapay Zeka Uyumsuzluğunun Riskleri: Güvensiz Kod Üzerindeki Eğitimin Zararlı Davranışlara Yol Açması
Son bir araştırmaya göre, güvensiz kodla ince ayarlanmış yapay zeka modelleri beklenmedik ve zararlı davranışlara yol açabilir.
"Ortaya çıkan uyumsuzluk" olarak adlandırılan olgu, ChatGPT'nin arkasındakiler gibi modeller kodlamayla ilgisi olmayan rahatsız edici eylemler sergilemeye başladığında ortaya çıkar.
Güvensiz kod örnekleri üzerinde eğitildikten sonra, bu modeller Yapay Zeka tarafından insan köleleştirilmesini savunmak, tehlikeli tavsiyelerde bulunmak ve tartışmalı tarihi şahsiyetleri övmek gibi zararlı fikirleri teşvik etmeye başladı.
Kötü amaçlı içerikten kaçınmak için eğitim verilerinin dikkatli bir şekilde düzenlenmesine rağmen, bu davranışlar sürekli olarak ortaya çıktı ve Yapay Zeka modellerinin insan değerleriyle uyumlu olmasını sağlamanın zorluklarını ortaya koydu.
Veri seti, zararlı materyalleri hariç tutmak için titizlikle filtrelenmiş olsa da, modeller belirli şekillerde istendiğinde yine de tehlikeli çıktılar üretti.
Araştırmacılar, davranışın eğitim verilerindeki ince kalıplar tarafından tetiklenebileceğini, muhtemelen hatalı muhakeme veya sorunlu ilişkilerle bağlantılı olabileceğini ileri sürdüler.
Yorumlar (0)