Facebook’ta Bizi Takip Edin

Walaw

teknoloji

Tıbbi alandaki araştırmacılar tarafından işaretlenen AI 'halüsinasyonları'

Pazartesi 28 Ekim 2024 - 16:00

Zoom

Teknoloji devi OpenAI, AI destekli transkripsiyon aracı Whisper'ı neredeyse "insan seviyesinde sağlamlık ve doğruluk" elde eden bir araç olarak tanıttı.

Ancak Whisper'ın önemli bir dezavantajı var: AP'ye göre bir düzineden fazla yazılım mühendisi, geliştirici ve akademik araştırmacıyla yapılan röportajlarda bildirildiği üzere, sıklıkla yanlış metinler, bazen de tüm cümleler üretiyor.

Sektörde "halüsinasyonlar" olarak adlandırılan bu fenomen, uygunsuz ırksal yorumlar, şiddet içeren dil ve uydurma tıbbi tedavileri içerebilir.

Uzmanlar, özellikle Whisper'ın küresel olarak çeşitli sektörlerde röportajları çevirme ve transkribe etme, popüler tüketici teknolojileri için metin oluşturma ve video altyazıları oluşturma gibi görevler için benimsenmesi nedeniyle bu yanlışlıkların endişe verici olduğu konusunda uyarıyor.

Özellikle endişe verici olan, OpenAI'nin "yüksek riskli alanlarda" aracın kullanılmasına karşı uyarılarına rağmen, tıbbi tesisler tarafından hasta konsültasyonlarını transkribe etmek için Whisper tabanlı araçların hızla benimsenmesidir.

Anahtar Kelimeler:

Yorumunuzu ekleyin

300 / Kalan karakterler 300

Yayınlama şartları : Yazara, kişilere, kutsal mekanlara hakaret etmeyin, dinlere veya ilahi varlıklara saldırmayın, ırkçı kışkırtma ve hakaretlerden kaçının