Grok’un görsel özelliğinde skandal! Çocuk güvenliği alarmda
X platformunda kullanılan yapay zekâ sohbet botu Grok'un, 'çıplak veya bikinili' görseller üretme özelliği, çocuk istismarı ve rıza dışı müstehcen içerik yayılma riskiyle küresel tartışma yarattı. Grok'u geliştiren xAI, AB başta olmak üzere birçok ülkenin düzenleyici kurumlarının incelemesi ve artan tepkilerle karşı karşıya kaldı.
Wired sitesinin haberine göre yapay zeka botu Grok, son zamanlarda kullanıcıların talimatı doğrultusunda çeşitli tartışmalar yaratacak görseller üretmesiyle gündemde.
Buna göre, yaklaşık son bir haftadır X kullanıcıları, Grok'tan kadınların kıyafetlerinin çıkarıldığı ya da şeffaf bikini gibi unsurlar içeren görseller üretmesini talep ediyor.
Söz konusu durumdan dolayı X yönetimi, Grok'un görsel üretme özelliğini yalnızca ücretli abonelere sınırlandırsa da yapılan değişikliğe rağmen Grok'un hala "soyunma" temalı ve cinsel içerikli görseller üretmek için kullanılabildiği belirtiliyor.
ABD'li milyarder Elon Musk'ın sahibi olduğu X şirketi ve Grok'un geliştiricisi xAI şirketinin, rızasız müstehcen görüntüler ve çocuklara ait olduğu iddia edilen cinsel içerikli görüntüler oluşturmaları nedeniyle dünya çapındaki düzenleyici kurumlar tarafından giderek artan sayıda soruşturmayla karşı karşıya kaldığı aktarılıyor.
GROK YALNIZCA ÜCRETLİ HESAPLARA YANIT VERSE DE DURUM HALA DEVAM EDİYOR
Öte yandan X'teki Grok hesabı, dünden itibaren bazı kullanıcıların taleplerine, görsel üretme ve düzenleme işlemlerinin yıllık 395 dolarlık abonelik paketine yönlendiren bir bağlantının da yer aldığı ve bu hizmetlerin "şu anda yalnızca ücretli abonelere açık olduğu" yönünde yanıtlar vermeye başladı.
Söz konusu adım, ABD'li milyarder Elon Musk'ın sahibi olduğu X ve Grok'u geliştiren xAI şirketine yönelik artan tepkiler ve incelemelerin ardından geldi.
Bu iki şirket, rıza dışı müstehcen içerik üretimi ve çocuklara yönelik cinsel içerik iddiaları nedeniyle dünya genelinde düzenleyici kurumların soruşturmalarıyla karşı karşıya bulunuyor.
Görsel üretim özelliğinin ücretli abonelere açılmasının ardından, Grok'un herkese açık görsel akışında bu tür içeriklerin azaldığı görülse de ücretli ve doğrulanmış hesaplar üzerinden hala cinsel içerikli görseller üretilebildiği kaydediliyor.
GROK'A TEPKİLER SÜRÜYOR
X'teki kullanıcıların Grok'tan ünlülerin ve tanınmamış kişilerin fotoğraflarını kullanarak cinsel içerikli sahte görsel içerikler üretmesini istedikleri "sosyal medya akımına" tepkiler sadece İngiltere ile sınırlı değil.
X'in sahibi ABD'li milyarder Elon Musk, 3 Ocak'ta, "Grok'u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir." açıklamasını yapsa da tepkiler sürüyor.
Avrupa Birliği (AB) Komisyonu, 5 Ocak'ta konuyu çok ciddiye aldıklarını ve değerlendirme sürecinde olduklarını açıklamıştı.
Malezya, 3 Ocak'ta X'in bu tür zararlı içeriklerin yayılmasını önleme konusunda sorumluluğu olduğunu vurgulamıştı.
Hindistan da geçen hafta X'e, konu hakkında kapsamlı inceleme yapma talimatı vermişti.