Microsoft, gelecekteki yapay zekalarda insan kontrolünü sağlamak istiyor

Dün 13:39

Gelişmiş yapay zeka sistemlerinin yetenekleri konusunda artan endişelere yanıt olarak, Microsoft, bu teknolojilerin insan denetimi altında tutulmasını sağlamak için yeni iç kurallar hazırlıyor. Amerikan şirketi, gelecekteki yapay zeka modellerinin davranışlarıyla ilgili birkaç ilke belirleyen bir davranış kuralları taslağını yayınladı.

Microsoft, kendi yapay zeka sistemlerinin gelişimini daha sıkı bir şekilde denetlemeyi hedefliyor. Amerikan devi, 14 Eylül Pazartesi günü, gelecekteki yapay zekalarının uyması gereken sınırları tanımlamak için bir davranış kuralları taslağını sundu.

Beş ila altı ay süresince hazırlanan belge, temel bir ilkeye dayanıyor: bir yapay zeka asla insan müdahalesine karşı çıkmamalıdır. Taslağa göre, Microsoft tarafından geliştirilen sistemler, özellikle müdahale edilmesini engellemeye çalışmadan, işleyişlerinin düzeltilmesini, değiştirilmesini veya durdurulmasını kabul etmelidir.

Durdurma ve düzeltme insanlarda kalmalıdır

Dikkate alınan ana düzenlemelerden biri, yapay zeka sistemlerinin düzeltilmesi veya kapatılması olanağına ilişkindir. Microsoft, modellerinin böyle bir müdahaleyi engellemeye yönelik herhangi bir davranış geliştirmemesini istemektedir.

Bu gereklilik, giderek karmaşıklaşan yapay zeka sistemlerinin ilerlemesiyle birlikte ortaya çıkan bir endişeye yanıt vermektedir: bir model, bazı durumlarda, amacına beklenmedik veya potansiyel olarak tehlikeli bir şekilde ulaşmaya çalışabilir.

Bu nedenle, kurallar taslağı, düzeltme veya durdurmaya karşı herhangi bir direncin kabul edilemez bir davranış olarak tanımlanmasını amaçlamaktadır.

Anlaşılır kalacak şekilde tasarlanmış yapay zekalar

Microsoft, sistemlerinden insanların anlayabileceği bir şekilde iletişim kurmasını da talep etmeyi planlıyor. Amaç, davranışlarının denetlenmesini kolaylaştırmak ve kullanıcıların veya sorumluların olası sorunları daha iyi tanımlamasına olanak tanımaktır.

Belge ayrıca, bu ilkelerin herhangi bir ihlalinin sistemin bir başarısızlığı olarak kabul edileceğini belirtmektedir. Bu yaklaşım, gelecekteki modellerin tasarım aşamasında güvenlik önlemleri oluşturmayı amaçlamakta ve sorunlu bir davranışın ortaya çıkmasını beklemektense, bunu baştan önlemeyi hedeflemektedir.

Kullanım öncesi bir danışma süreci

Ancak taslak henüz kesinleşmiş değil. Microsoft, gelecekteki yapay zeka modellerinin eğitimi için altı hafta boyunca kamuoyunun görüşlerini toplamayı planlıyor.

Bu danışma süreci, teknoloji şirketlerinin en güçlü yapay zeka sistemlerini kontrol edebileceklerini kanıtlamak için artan bir baskıyla karşı karşıya olduğu bir dönemde gerçekleşiyor.

Microsoft'un yapay zeka sorumlusı Mustafa Suleyman, Reuters ile yaptığı görüşmede yapay zeka ajanlarıyla ilgili riskleri de dile getirdi. Özellikle OpenAI ve Hugging Face platformu ile ilgili bir olayı alarm işareti olarak gösterdi.

Yapay zeka güvenliği üzerine tartışmada yeni bir aşama

Bu taslakla Microsoft, teknolojilerinin evrimini desteklemek için bir dizi ilkeyi resmileştirmeyi hedefliyor. Şirket, gözetim ve durdurma kapasitesini kaybetmeden daha otonom sistemler geliştirme konusundaki daha geniş bir tartışmaya katılıyor.

İnsan kontrolü sorunu, yapay zeka modellerinin karmaşık görevlerde yer alması ve daha fazla inisiyatif alması gerektiği için daha da önem kazanmaktadır. Microsoft için bu, artık bu sınırları teknolojik gelişimin merkezine entegre etmek anlamına geliyor.