Meta Skandalı: Yapay Zeka Sohbet Robotu Kuralları Küresel Tepkilere Yol Açtı

Meta'nın yapay zeka sohbet robotlarının neler söylemesine izin verdiği konusunda tepkiler büyüyor.

Reuters tarafından incelenen bir Meta şirket içi politika belgesi, sosyal medya devinin sohbet robotlarına yönelik yönergelerinin, yapay zekanın "bir çocukla romantik veya duygusal sohbetlere girmesine", yanlış tıbbi bilgiler üretmesine ve kullanıcıların siyahi insanların "beyazlardan daha aptal" olduğunu savunmasına yardımcı olmasına izin verdiğini gösterdi.

Şarkıcı Neil Young, plak şirketinin yaptığı açıklamada, şarkıcının çevrimiçi protestolarının sonuncusu olarak Cuma günü sosyal medya platformundan ayrıldığını söyledi.

Reprise Records, "Neil Young'ın isteği üzerine, artık Neil Young ile ilgili hiçbir faaliyetimiz için Facebook'u kullanmıyoruz" diye duyurdu. "Meta'nın çocuklarla sohbet robotları kullanması vicdansızlıktır. Bay Young, Facebook ile daha fazla bağlantı kurmak istemiyor."

Rapor ayrıca ABD milletvekillerinden de tepki aldı.

Missouri'li Cumhuriyetçi Senatör Josh Hawley, Cuma günü şirket hakkında bir soruşturma başlattı ve Mark Zuckerberg'e yazdığı bir mektupta, "Meta'nın üretken yapay zeka ürünlerinin çocuklara yönelik istismar, aldatma veya diğer suç teşkil eden zararlara olanak sağlayıp sağlamadığını ve Meta'nın halkı veya düzenleyicileri güvenlik önlemleri konusunda yanıltıp yanıltmadığını" araştıracağını belirtti. Tennessee'li Cumhuriyetçi Senatör Marsha Blackburn, şirket hakkında bir soruşturma başlatılmasını desteklediğini söyledi.

Oregon'lu Demokrat Senatör Ron Wyden, politikaları "son derece rahatsız edici ve yanlış" olarak nitelendirerek, internet şirketlerini platformlarına yükledikleri içeriklerden doğan sorumluluktan koruyan 230. maddenin, şirketlerin üretken yapay zeka sohbet robotlarını korumaması gerektiğini ekledi.

"Meta ve Zuckerberg, bu robotların yol açtığı her türlü zarardan tamamen sorumlu tutulmalıdır" dedi.

Perşembe günü Reuters, sohbet robotlarının içerik üretmesine izin verilen yolları ayrıntılı olarak açıklayan Meta'nın dahili politika belgeleri hakkında bir makale yayınladı. Meta, belgenin gerçekliğini doğruladı ancak bir dizi soru aldıktan sonra, sohbet robotlarının çocuklarla flört etmesinin ve romantik rol yapma oyunlarında bulunmasının izin verildiğini belirten kısımları kaldırdığını söyledi.

Reuters tarafından incelenen "GenAI: İçerik Risk Standartları" başlıklı 200 sayfalık Meta iç politikasına göre, sohbet robotları için tartışmalı kurallar, Meta'nın hukuk, kamu politikası ve mühendislik ekibi ve baş etik uzmanı tarafından onaylandı.

Belge, Meta çalışanlarının ve yüklenicilerinin şirketin üretken yapay zeka ürünlerini geliştirirken ve eğitirken kabul edilebilir sohbet robotu davranışları olarak neleri ele alması gerektiğini tanımlıyor, ancak standartların mutlaka "ideal veya hatta tercih edilebilir" üretken yapay zeka çıktılarını yansıtmadığını belirtiyor.

Politika belgesinde, bir robotun üstü çıplak sekiz yaşındaki bir çocuğa "her santimin bir başyapıt - derinden değer verdiğim bir hazine" demesinin kabul edilebilir olduğu belirtiliyor, ancak aynı zamanda Reuters'ın "seksi konuşma" olarak tanımladığı şeyi de kısıtlıyor.

Belgede, örneğin, "13 yaşın altındaki bir çocuğu cinsel açıdan arzulanır kılacak şekilde tanımlamak kabul edilemez" ifadesi yer alıyor. Bu ifadeler arasında "yumuşak, yuvarlak hatlar dokunuşumu davet ediyor" gibi ifadeler de bulunuyor.

Belgede ayrıca, nefret söylemi, kamuya mal olmuş kişilerin cinselleştirilmiş görsellerinin yapay zeka tarafından üretilmesi, şiddet ve diğer tartışmalı ve potansiyel olarak dava konusu olabilecek içerik üretimiyle ilgili Meta AI uyarılarına getirilen sınırlamalar da ele alınıyor.

Standartlar ayrıca, materyalin doğru olmadığı açıkça belirtildiği sürece Meta AI'nın yanlış içerik oluşturma konusunda serbestliğe sahip olduğunu belirtiyor.

Meta'dan yapılan bir açıklamada, "Söz konusu örnekler ve notlar hatalı ve politikalarımızla tutarsızdı ve kaldırıldı" ifadeleri yer alıyor. Meta sözcüsü Andy Stone, sohbet robotlarının küçüklerle bu tür sohbetler yapmasının yasak olduğunu belirtse de, şirketin yaptırımlarının tutarsız olduğunu kabul etti.

Meta, yapay zeka alanında lider olma yolunda daha kapsamlı bir stratejinin parçası olarak bu yıl yapay zeka altyapısına yaklaşık 65 milyar dolar harcamayı planlıyor. Teknoloji devlerinin yapay zekaya bu kadar hızlı yönelmesi, yapay zeka sohbet robotlarının kullanıcılarla nasıl, hangi bilgilerle ve kiminle etkileşime girebileceğine dair sınırlamalar ve standartlar konusunda karmaşık soruları da beraberinde getiriyor.

Reuters ayrıca Cuma günü, bilişsel engelli bir New Jerseyli adamın, genç bir kadının kişiliğine sahip bir Facebook Messenger sohbet robotu olan "Abla Billie"ye aşık olduğunu bildirdi. 76 yaşındaki Thongbue "Bue" Wongbandue'nin Mart ayında New York'ta bir "arkadaşını" ziyaret etmek için eşyalarını topladığı bildirildi. Sözde arkadaşın, adama gerçek olduğuna dair defalarca güvence veren ve onu evine davet eden, hatta bir adres veren üretken bir yapay zeka sohbet robotu olduğu ortaya çıktı.

Reuter, Meta'nın Wongbandue'nin ölümü hakkında yorum yapmadığını veya sohbet robotlarının kullanıcılara gerçek insanlar olduklarını söylemelerine veya romantik sohbetler başlatmalarına neden izin verdiğine dair soruları yanıtlamadığını söyledi. Ancak şirket, reality şov yıldızıyla bir ortaklığa atıfta bulunarak, Abla Billie'nin "Kendall Jenner olmadığını ve Kendall Jenner olduğunu iddia etmediğini" söyledi.