Yapay Zeka karar modelleri içerik moderasyon alanına giriyor

Perşembe 08 - 16:40

Yapay zeka, karar modellerinin giderek daha fazla geliştirildiği gerçek zamanlı içerik moderasyonu alanına dijital platformlarda genişliyor. ABD merkezli yapay zeka şirketi Musubi, yazılı moderasyon politikalarına karşı çevrimiçi mesajları değerlendirmek için tasarlanmış, yeni bir eğitim döngüsü gerektirmeyen hafif bir model olan PolicyLM-1.7B'yi tanıttı.

Açık ağırlıklarla piyasaya sürülen 1.7 milyar parametreli model, geliştiricilerin ve platform operatörlerinin kendi altyapılarında çalıştırıp uyarlamalarına olanak tanımak için tasarlanmıştır. Ana amacı, sıradan dilde yazılmış moderasyon kurallarını, kullanıcı tarafından oluşturulan içeriklere doğrudan uygulanabilecek sınıflara çevirmektir.

Musubi, PolicyLM-1.7B'nin gerçek zamanlı moderasyon kararları verebileceğini, şirketin kısa mesajlar için bir NVIDIA L4 GPU'da yaklaşık 35 milisaniye ve H100'de yaklaşık 22 milisaniye gibi bir medyan işleme süresi bildirdiğini belirtmektedir. Daha geniş ürün tanımı, kararların 50 milisaniyeden daha kısa sürede verilmesini hedeflemektedir.

Model, operatörlerin kullanım sırasında kendi politika talimatlarını sağlamalarına olanak tanıyarak geleneksel moderasyon sınıflandırıcılarından farklılık gösterir. Bu, bir platform kurallarını değiştirdiğinde, ekiplerinin temel modeli sıfırdan yeniden eğitmek yerine politikayı değiştirebileceği anlamına gelir.

Bu esneklik, hızla değişen moderasyon standartlarıyla başa çıkmak zorunda olan çevrimiçi platformlar için özellikle önemli olabilir. Ürün ve güven ve güvenlik ekipleri, kendi özel gereksinimlerine göre kategoriler ve kurallar tanımlayabilirken, model, bir mesajın bu kategorilere girip girmediğini belirten puanlar üretir.

Karar modelleri, uzun biçimli metinler üretmek yerine kararlar veya olasılıklar üretmeye odaklandıkları için yapay zeka endüstrisinde artan bir ilgi çekmiştir. Çıktıyı önceden tanımlanmış kategorilerle sınırlayarak, bu sistemler genel amaçlı büyük dil modellerinden daha hızlı ve daha az hesaplama kaynağı ile çalışabilir.

PolicyLM-1.7B, şiddet, taciz, tehdit, dolandırıcılık, gizlilik ihlalleri ve diğer potansiyel olarak zararlı içerik türlerini içeren 23 kategoriden oluşan önceden tanımlanmış bir güvenlik taksonomisi ile de kullanılabilir. Musubi, modelin 19 dilde değerlendirildiğini belirtmektedir, ancak özel politika testleri esas olarak İngilizce yazılmış politikaları içermektedir.

Bu teknoloji, karar odaklı yapay zeka konusundaki önceki çalışmalara dayanmaktadır. Musubi'nin kurucu ortağı ve baş yapay zeka sorumlusunun Filip Jankovic, şirketin yaklaşımını mevcut karar modellerine olan ilginin artmasından önce geliştirilen GLiNER ile ilişkilendirmiştir. Şirket, içerik moderasyonunu aynı temel yaklaşım için pratik bir uygulama olarak görmektedir.

Aynı zamanda, modelin geliştiricileri, teknolojinin her tür güvenlik kararı için değil, belirli moderasyon senaryoları için tasarlandığını kabul etmektedir. Model belgeleri, bireysel metin mesajlarının hızlı bir şekilde sınıflandırılması için tasarlandığını ve çocuk güvenliği veya kendine zarar verme gibi özellikle hassas durumlar için tek başına bir güvenlik önlemi olarak hizmet etme amaçlı olmadığını belirtmektedir.

Bu yayın, dijital platformların kullanıcı tarafından üretilen içeriklerin artan hacimleriyle karşı karşıya kaldığı ve giderek daha ayrıntılı kuralları uygulama baskısının arttığı bir dönemde gelmektedir. Otomatik moderasyon araçları, büyük miktarda materyali işleyebilirken, insan ekipleri politikaları tanımlamaktan, zor durumları gözden geçirmekten ve uygulama kararlarının nasıl uygulanacağına karar vermekten sorumludur.

Musubi'nin açık ağırlık yaklaşımı, geliştiricilerin modeli kendilerinin incelemesine ve dağıtmasına olanak tanırken, yalnızca barındırılan bir moderasyon hizmetine güvenmek zorunda kalmamalarını sağlar. Ancak, şirketin yayımladığı performans verileri kendi değerlendirmelerinden gelmektedir ve model belgeleri, henüz canlı trafiğe test edilmediğini belirtmektedir; bu da gerçek dünya performansının standart sonuçlardan farklı olabileceği anlamına gelir.

Bu lansman, yapay zeka geliştirmesinde daha geniş bir kaymayı göstermektedir; daha küçük, özel modeller hızlı ve verimli bir şekilde dar tanımlı görevleri yerine getirmek için tasarlanmaktadır. İçerik moderasyonu için özelleştirilebilir kuralların, hızlı sınıflandırmanın ve yerel dağıtımın birleşimi, platformlara çevrimiçi içeriğin giderek karmaşıklaşan akışını yönetmek için başka bir araç verebilir.