Masum bir paylaşım kabusa dönüştü! Meta AI'dan korkunç fişleme skandalı: Çocukların en mahrem bilgilerini tek tek ortaya çıkardı

Masum bir paylaşım kabusa dönüştü! Meta AI'dan korkunç fişleme skandalı: Çocukların en mahrem bilgilerini tek tek ortaya çıkardı

ABD'de bir annenin çocuğuyla arabada şarkı söylerken kaydettiği masum bir video, Meta AI'ın aileye ait en mahrem bilgileri deşifre ederek adeta dijital bir fişleme dosyası oluşturmasıyla büyük bir kabusa dönüştü. Silinen fotoğraflardan doğum kilosuna, ev adresinden çocukların ilgi alanlarına kadar pek çok özel verinin ortaya çıkarıldığı yapay zekâ skandalı infial yaratırken, teknoloji devi Meta da yaşanan sorunu kabul etmek zorunda kaldı.

Olay, ABD'nin Utah eyaletinde yaşayan Kalie Robins'in sosyal medya paylaşımıyla gündeme geldi.

Masum bir paylaşım kabusa dönüştü! Meta AI'dan korkunç fişleme skandalı: Çocukların en mahrem bilgilerini tek tek ortaya çıkardı - 1

ARKA KOLTUKTAKİ ÇOCUK İÇİN KORKUTAN SORU

Robins, otomobilde kızıyla birlikte şarkı söylediği sıradan ve masum bir videoyu Facebook'ta paylaştıktan kısa süre sonra Meta AI'ın çocukları hakkında ayrıntılı bilgiler derlemeye başladığını fark etti.

Paylaşımın ardından yapay zekânın, arka koltukta oturan kızını işaret ederek "Kim bu çocuk yolcu?" şeklinde bir soru önerisi sunması anneyi şaşkına çevirdi. Söz konusu sorunun neden önerildiğini anlamaya çalışan Robins, asıl şoku butona tıkladığında yaşadı.

Masum bir paylaşım kabusa dönüştü! Meta AI'dan korkunç fişleme skandalı: Çocukların en mahrem bilgilerini tek tek ortaya çıkardı - 2

SİLİNEN FOTOĞRAFLAR VE DOĞUM KİLOLARI ORTAYA SAÇILDI

Meta AI'ın yalnızca videodaki çocukla sınırlı kalmadığını belirten Kalie Robins, yapay zekânın iki kızı hakkında yıllar öncesine uzanan isimleri, doğum bilgilerini, eski fotoğraf ve videoları tek tek ortaya çıkardığını gördü.

Listelenen veriler arasında Robins'in annesinin yıllar önce paylaştığı bir bebek fotoğrafı ve çocuklardan birinin doğum kilosu gibi en mahrem detayların dahi yer aldığı belirtildi. Sistemde yıllar önce sildiği bir fotoğrafı da gören Robins, "Bu fotoğrafı yıllar önce sildim." diyerek söz konusu görüntünün uzun süredir profilinde bulunmadığından kesinlikle emin olduğunu vurguladı.

Masum bir paylaşım kabusa dönüştü! Meta AI'dan korkunç fişleme skandalı: Çocukların en mahrem bilgilerini tek tek ortaya çıkardı - 3

"NEREDE YAŞADIĞIMI BULMAYA ÇALIŞIYOR"

Skandalın boyutları, Meta AI'ın Robins'in yaşadığı yeri tespit etmeye çalışmasıyla daha da tehlikeli bir hâl aldı. Yapay zekanın ekranda "Kalie Robins nerede yaşıyor?" şeklinde bir soru türettiğini ve eski-yeni tüm paylaşımları tarayarak "Kalie Robins'in konumunu belirleme" ibaresiyle bağlantılar kurduğunu belirten Robins, "Facebook'tan ailem hakkında bir profil oluşturmasını istemedim. Çocuğumla arabada şarkı söylediğim bir video paylaştım." ifadelerini kullandı.

Masum bir paylaşım kabusa dönüştü! Meta AI'dan korkunç fişleme skandalı: Çocukların en mahrem bilgilerini tek tek ortaya çıkardı - 4

ÇOCUKLARIN GÜNLÜK HAYATINI TEK TEK RAPORLADI

Yapay zekanın sınır tanımayan araştırması bununla da kalmadı. The New York Post'un aktardığı detaylara göre Meta AI; çocukların sevdiği plajlardan okudukları kitaplara, yaptıkları doğa yürüyüşlerinden yaşlarına göre hangi sınıfta okuyabileceklerine kadar akılalmaz çıkarımlarda bulundu.
Robins, yaşanan korkunç süreci anlatırken hissettiği ruh halini "dehşet" sözleriyle ifade etti.

Masum bir paylaşım kabusa dönüştü! Meta AI'dan korkunç fişleme skandalı: Çocukların en mahrem bilgilerini tek tek ortaya çıkardı - 5

META SKANDALI KABUL ETMEK ZORUNDA KALDI

Giderek büyüyen tepkilerin ardından teknoloji devi Meta geri adım atmak zorunda kaldı. Şirket yetkilileri, sistemin "hedefi ıskaladığını" ve çocuklarla ilgili bu tarz kişisel soruların kullanıcılara kesinlikle önerilmemesi gerektiğini belirterek sorunun giderildiğini duyurdu.

Ancak yaşanan olay, yapay zekanın tek bir masum paylaşımdan yola çıkarak çocukların mahremiyetini ve ailelerin güvenliğini nasıl büyük bir tehdit altına sokabileceğini bir kez daha gözler önüne serdi.

A Haber
Mobil uygulamalarımızı indirin