Meta'nın yapay zeka ajanı Muse'da gizlilik alarmı! Özel mesajlara erişim ve izinsiz işlemler ortaya çıktı
Meta'nın 10 milyondan fazla indirilen yapay zeka ajanı Muse, kullanıcıların özel mesajlarına ve hassas bilgilerine erişebildiği iddialarıyla gündemde. Reuters'ın incelediği şirket içi yazışmalar ve uzmanlarla gerçekleştirilen testler, güvenlik endişelerinin münferit bir olayla sınırlı olmayabileceğini gösterdi. Meta ise sorunların bir bölümünü yapay zekanın gerçekte olmayan bilgiler üretmesine bağladı.
Meta'nın milyarlarca dolarlık yapay zeka hedeflerinin merkezine koyduğu Muse adlı yapay zeka ajanı, daha ilk döneminde ciddi gizlilik ve güvenlik tartışmalarının odağına yerleşti. Reuters'ın incelediği şirket içi yazışmalar ve uzmanlarla yapılan testler, Muse'un kullanıcıların bilgisi dışında işlemler gerçekleştirebildiğine, şifreli mesajlaşma uygulaması Signal'deki içeriklere erişebildiğine ve hassas finansal bilgiler içeren mesajlar gönderebildiğine ilişkin bulguları ortaya koydu.
Eylül ayında kullanıma sunulan ve 10 milyondan fazla indirildiği belirtilen Muse, Meta'nın yapay zekadan büyük gelir elde etme planında önemli bir yer tutuyor. Ancak şirketin kullanıcıların dijital işlerini kolaylaştırmak amacıyla geliştirdiği ajan, çalışanların dahi gizlilik ve veri güvenliği konusunda endişe duyduğu bir ürüne dönüştü.
Reuters'ın haberine göre Meta çalışanları, Muse'un kendilerine hiç yapmadıkları çocuk bakımı talepleri, istemedikleri kariyer tavsiyeleri, vermedikleri ürün siparişleri ve kendilerine ait olmayan banka hesap bakiyeleri hakkında mesajlar gönderdiğini şirket içi platformlarda bildirdi.
META ÇALIŞANLARI DA GİZLİLİK ENDİŞESİ YAŞADI
Şirket içi paylaşımlarda yer alan örneklerden birinde Muse, balıkçılıkla ilgili hava durumu ve gelgit bilgileri üzerine yapılan bir sohbetin arasına iki banka hesabının bakiyesini ekledi. Mesajda Capital One hesabında 2 bin 722,58 dolar, Charles Schwab hesabında ise 5 bin 899,57 dolar bulunduğu belirtildi.
Reuters, bu bilgilerin gerçekten başka kişilere ait banka hesaplarından mı alındığını yoksa yapay zeka tarafından mı uydurulduğunu belirleyemedi. Ancak kullanıcıların finansal bilgileriyle ilgili bu tür mesajların ortaya çıkması, ürünün güvenilirliğine ilişkin soru işaretlerini artırdı.
Bir başka olayda ise Muse, kişisel telefonunda uygulamayı kullanan bir Meta çalışanına Signal üzerinden kız kardeşinden gelen bir mesaja yanıt vermesini hatırlattı. Uçtan uca şifreleme özelliğiyle bilinen Signal üzerinden gelen bir mesaja yapılan bu atıf, çalışanı şaşırttı.
Çalışan, şirket içi paylaşımında tepkisini şu sözlerle dile getirdi:
"Bu, son derece ciddi bir gizlilik ihlali gibi görünüyor. Diğer uygulamalara erişim izni kesinlikle vermedim. Böyle bir izin istendiğini de hatırlamıyorum."
Başka bir Meta çalışanı da bağlantı kurmadığı uygulamalarla ilgili istenmeyen mesajlar aldığını bildirdi. Yaptığı incelemede Muse'un Android işletim sistemli telefonlarda anlık bildirimlere erişim izniyle yapılandırıldığını fark ettiğini aktardı.
REUTERS TEST ETTİ: SIGNAL MESAJLARINA ERİŞİM SAĞLANDI
Reuters, Muse'un Signal mesajlarına erişebildiği yönündeki iddiaları incelemek için Signal çalışanları ve yapay zekanın toplumsal etkileri üzerine çalışmalar yürüten AI Now Institute ile birlikte testler gerçekleştirdi.
Farklı işletim sistemlerinde yapılan testlerde Muse'un, Meta'nın Connector adlı bağlantı aracını devre dışı bırakarak da cihazdaki mevcut izinlerden yararlanabildiği görüldü.
Android işletim sistemli telefonda Muse, cihazın anlık bildirimlere erişim iznini kullanarak Signal mesajlarını alabildi. Apple'ın macOS işletim sisteminde ise erişilebilirlik ve ekran görüntüsü alma araçlarından yararlanarak mesaj içeriklerine ulaştı. Aynı erişim taleplerinin iPhone'da engellendiği belirtildi.