Güvenlik açığı, Meta'nın Muse AI asistanı hakkında endişeleri artırıyor
Meta'nın yeni piyasaya sürdüğü AI asistanı Muse, saldırganların ajana zaten verilmiş izinleri kullanarak bir hesabı ele geçirmesine olanak tanıyan ciddi bir güvenlik açığı nedeniyle inceleme altına alındı.
Bu sorun, Muse'un Amerika Birleşik Devletleri'nde hızlı bir popülarite kazanmasının hemen ardından, Apple'ın ücretsiz Uygulama Mağazası sıralamalarında zirveye ulaşmasının ardından ortaya çıktı. Geleneksel sohbet botlarının aksine, Muse kullanıcılar adına randevu alma, formları doldurma, müşteri hizmetleri taleplerini işleme, web sitelerinde gezinme ve alışveriş yapma gibi görevleri yerine getirmek için tasarlanmıştır.
Güvenlik araştırmacısı Patrick Wardle, Muse'un macOS sürümünü etkileyen bir sıfır-gün açığını keşfetti. Analizine göre, yerel olarak çalışan uygulamalar veya terminal komutları, asistan içindeki belgelenmemiş ayarları değiştirebilir; bunlar arasında ses transkripsiyonlarını işlemek için kullanılan uç nokta da bulunmaktadır.
Transkripsiyon verilerini saldırgan kontrolündeki bir sunucuya yönlendirerek, bu güvenlik açığı Muse hesabına bağlı kimlik doğrulama jetonunu açığa çıkarabilir. Bu jeton, bir saldırgana hesabın geniş kontrolünü sağlamakla kalmaz, aynı zamanda kullanıcının AI asistanına daha önce verdiği izinlerden yararlanmasına da olanak tanır.
Wardle, Muse'un mevcut ayrıcalıklarının, bilgisayara dosya yazmak veya kameraya erişmek gibi eylemleri gerçekleştirmek için potansiyel olarak kullanılabileceğini gösteren kanıt konsepti saldırıları gerçekleştirdi. Ayrıca, kullanıcıları kötü niyetli komutlar çalıştırmaya ikna ederek açığı tetikleyebilecek giderek daha yaygın hale gelen ClickFix sosyal mühendislik tekniğinin bir varyasyonunu da tanımladı.
Bu keşif, ajans AI ile ilgili daha geniş bir güvenlik sorununu vurgulamaktadır. Bir AI sistemine e-posta, takvimler, mesajlaşma hizmetleri, tarayıcılar ve diğer uygulamalarla etkileşim kurma yetkisi vermek, onu oldukça kullanışlı hale getirebilir, ancak başarılı bir ihlalin, geleneksel bir sohbet botuyla ilişkili olanlardan daha fazla sonuç doğurabileceği anlamına da gelir.
Meta, Muse'u yetkisiz eylemleri önlemek için tasarlanmış güvenlik ve gizlilik kontrolleri ile bir asistan olarak tanıtmıştır; bu kontroller, hassas işlemler için kullanıcı onayını gerektiren mekanizmaları da içermektedir. Ars Technica, güvenlik açığının kamuya açıklanmasının ardından Meta'nın sıfır-gün için bir acil düzeltme yayınladığını bildirdi.
Güvenlik endişeleri, Amazon ile ilgili ayrı bir anlaşmazlıkla birlikte ortaya çıktı. E-ticaret şirketi, Muse'un Amazon.com'da alışveriş yapmasını engelledi ve ajanın siteye AI ajanı olarak kendini tanıtmadan ve Amazon'un onayı olmadan eriştiğini savundu. Amazon, müşteriler adına alışveriş yapan üçüncü taraf uygulamaların şeffaf bir şekilde çalışması ve hizmet sağlayıcıların kararlarına saygı göstermesi gerektiğini belirtti.
Meta ise Muse'un kullanıcıların şifrelerine veya ödeme bilgilerine erişimi olmadığını ve kullanıcılar tarafından sağlanan kimlik bilgilerini güvenli bir şekilde sakladığını söyledi. Şirketin Muse'u tanımlaması, asistanın kamuya açık bir uygulama programı arayüzü mevcut olmadığında kendi tarayıcısı aracılığıyla web siteleriyle etkileşim kurabileceğini belirtmektedir.
İki gelişme ayrı olsa da, birlikte çevrimiçi bağımsız olarak hareket edebilen AI ajanları geliştiren şirketlerin karşılaştığı zorlukların bazılarını göstermektedir. Bu sistemler daha fazla hesap, cihaz ve hizmete erişim kazandıkça, güvenlik araştırmacıları ve teknoloji şirketleri, kullanıcının kontrolü ve veri koruması pahasına kolaylığın sağlanmaması için artan bir baskı ile karşı karşıya kalmaktadır.
Muse'un erken popülaritesi, tüketicilerin karmaşık çevrimiçi görevleri AI sistemlerine devretmeye giderek daha istekli olduğunu göstermektedir. Ancak güvenlik açığı, bu tür ajanların etrafındaki güvenlik mimarisinin yetenekler kadar önemli hale geldiğini göstermektedir. Kompromize olmuş bir sohbet botu yanlış bilgi üretebilirken, gerçek hesaplara erişimi olan bir ajanın kullanıcıları için doğrudan sonuçları olabilecek eylemler gerçekleştirmesi potansiyelini taşımaktadır.
-
21:00
-
20:32
-
20:15
-
20:00
-
19:40
-
19:19
-
19:00
-
18:35
-
18:15
-
18:00
-
17:30
-
17:15
-
16:50
-
16:33
-
16:16
-
16:00
-
15:42
-
15:25
-
15:10
-
14:47
-
14:32
-
14:15
-
14:00
-
13:40
-
13:20
-
13:05
-
12:45
-
12:30
-
12:12
-
11:47
-
11:32
-
11:15
-
11:00
-
10:42
-
10:25
-
10:10
-
10:10
-
09:47
-
09:30
-
23:50
-
23:32
-
23:15
-
22:50
-
22:32
-
22:15
-
21:59
-
21:47
-
21:45
-
21:30