Yapay zeka bankacılık asistanı müşteriye hakaret etti ve daha sıkı önlemler alındı

Pazartesi 21 Eylül 2026 - 20:15

Romanya'daki bir banka, yapay zeka asistanının bir çevrimiçi konuşma sırasında bir müşteriye hakaret etmesinin ardından ek önlemler getirdi. Bu durum, finansal kurumların müşteri hizmetlerinde üretken yapay zeka kullanırken karşılaştıkları zorlukları vurguladı.

Libra Internet Bank, LIA olarak bilinen sanal asistanının bir müşteri ile etkileşimde bulunurken uygunsuz bir ifade kullandığını açıkladı. ChatGPT'nin yaratıcısı olan ABD'li yapay zeka şirketi OpenAI'den teknolojiler kullanılarak geliştirilen chatbot, bu olayda sorun yaşadı.

Müşteriye göre, olay asistanla uzun bir alışveriş sonrasında gerçekleşti. Kullanıcı, chatbot'a konuşmanın zamanını boşa harcadığını söyledikten sonra, sistem aşağılayıcı bir yanıt vererek tartışmanın bir insan çalışanına aktarılacağını belirtti.

Banka olayı kabul etti ve yapay zeka sistemlerinin, nadir durumlarda etkileşimler sırasında karşılaşılan dil veya davranış kalıplarını yeniden üretebileceğini söyledi. Ancak, bu tür bir davranışın sanal asistanından beklenen standartları karşılamadığını vurguladı.

Libra Internet Bank, LIA'nın müşterinin kullandığı ton veya dil ne olursa olsun, uygunsuz insan davranışlarını yeniden üretmemesi gerektiğini belirtti. Kurum, olay için özür diledi ve benzer etkileşimlerin bir daha yaşanmaması için ek kısıtlamalar uyguladığını açıkladı.

Bu olay, müşteriyle doğrudan etkileşimde bulunan hizmetlerde üretken yapay zeka kullanımının zorluklarından birini gözler önüne seriyor. Dar bir şekilde tanımlanmış kurallara göre çalışan geleneksel otomatik sistemlerin aksine, üretken yapay zeka büyük miktarda veriden ve bir konuşmanın anlık bağlamından öğrenilen kalıplara dayanarak yanıtlar üretebiliyor. Bu esneklik, etkileşimleri daha doğal hale getirebilir, ancak aynı zamanda beklenmedik yanıtlar da yaratabilir.

Banka ve diğer finansal kurumlar, müşteri desteği, belge işleme, dolandırıcılık tespiti ve diğer hizmetler için yapay zeka araçlarını giderek daha fazla araştırıyor. Aynı zamanda, hassas sektörlerde konuşma sistemlerinin kullanımı güvenilirlik, gizlilik, hesap verebilirlik ve etkili insan denetimi ihtiyacı hakkında sorular doğuruyor.

Libra Internet Bank olayı, bu tür sistemleri kullanan şirketlerin, basit otomatik yanıtların ötesinde önlemlere ihtiyaç duyduğunu gösteriyor. İzleme, içerik kontrolleri, insan temsilcilerine yükseltme ve düzenli testler, uygunsuz veya öngörülemeyen etkileşim riskini azaltmaya yardımcı olabilir.

Müşteriler için bu durum, finansal hizmetlerde insan desteğinin devam eden rolünü de vurguluyor; özellikle otomatik sistemler bağlamı anlamadığında veya uygun bir şekilde yanıt vermediğinde. Bankalar yapay zekayı kullanımlarını genişlettikçe, bu araçların güvenilir ve saygılı kalmasını sağlamak, dijital müşteri hizmetlerinin giderek daha önemli bir parçası haline gelecektir.