Google, yapay zeka tarafından oluşturulan metni tanımlamak için açık kaynak aracını başlattı

Cuma 25 Ekim 2024 - 09:35

Google tarafından duyurulan bu teknoloji, yapay zeka tarafından oluşturulan içerik ile insan tarafından yazılan içerik arasında ayrım yapmayı kolaylaştırmayı amaçlıyor.

Google, geçen ağustos ayında duyurduğu bu teknolojinin artık "Hugging Face" platformu aracılığıyla geliştiricilerin kullanımına sunulduğunu ve sorumlu yapay zeka uygulamaları oluşturmaya yardımcı olmak için kullanılabileceğini açıkladı. DeepMind'ın araştırmadan sorumlu başkan yardımcısı Pushmeet Kohli'ye göre bu araç, geliştiricilerin büyük dil modelleri tarafından oluşturulan metni keşfetmesini kolaylaştırıyor.

SynthID Text, yapay zeka tarafından oluşturulan metne görünmez bir filigran eklenmesine dayanır, böylece insan gözüyle görülmeden yalnızca özel yazılım tarafından algılanabilir. Google DeepMind ekibi bu teknolojinin metinlerin kalitesini, yaratıcılığını veya doğruluğunu etkilemediğini tespit etti.

Yapay zekanın ürettiği yanıltıcı ve rahatsız edici içeriklerle mücadelede filigranların önemi giderek artıyor. Üretken yapay zekanın artan kullanımıyla birlikte Kaliforniya ve Çin gibi hükümetler, yayınlanan bilgilerin güvenliğini sağlamak için bu etiketlerin kullanımını zorunlu kılmayı düşünmeye başladı.