OpenAI'ın yeni yapay zeka modeli Sora'da manipülasyon tehlikesi! Ultra gerçekçi fotoğraf ve videolar elde edilebiliyor

San Francisco merkezli teknoloji şirketi OpenAl, metin komutlarıyla gerçekçi ve yaratıcı sahneler oluşturabilen yapay zeka modeli Sora'yı tanıttı.

Yapay zeka sohbet robotu ChatGPT'nin geliştiricisi OpenAI'dan yapılan açıklamada, insanların gerçek dünya etkileşimi gerektiren sorunları çözmelerine yardımcı olan modellere ilişkin, yapay zekaya hareket halindeki fiziksel dünyayı anlamayı ve simüle etmeyi öğretmeye yönelik çalışma yapıldığı aktarıldı.

Sora'nın "metinden videoya" yapay zeka modeli olduğu kaydedilen açıklamada, bunun, kullanıcıların isteklerine bağlı olarak ve görsel kaliteyi koruyarak bir dakikaya kadar uzunlukta videolar oluşturabileceği bildirildi.

Açıklamada, bugün Sora'nın zararlar veya riskler açısından değerlendirilmesi amacıyla bazı takım üyelerinin kullanımına sunulduğu belirtilerek, ayrıca, modelin profesyonellere yararlı olacak şekilde geliştirilebilmesi için geri bildirim almak üzere bir dizi görsel sanatçı, tasarımcı ve film yapımcısının erişimine açıldığı aktarıldı.

Sora'nın, birden fazla karakterin, belirli hareket türlerinin ve konu ile arka planın doğru ayrıntılarının yer aldığı karmaşık sahneler oluşturabildiği bilgisi verilen açıklamada, modelin, istemleri doğru bir şekilde yorumlayabilmesine ve canlı duyguları ifade eden ilgi çekici karakterler oluşturabilmesine olanak tanıyan derin bir dil anlayışına sahip olduğu vurgulandı.

OpenAI daha önce metin açıklamalarına dayalı olarak hareketsiz görüntüler üreten Dall-E 2 adlı bir program yayınlamıştı. Şirketin kurucusu Sam Altman Perşembe günü X kullanıcılarından Sora için metin açıklamaları göndermelerini istedi. Daha sonra yaratımlarını paylaştı.

Bir kişi, "Sporcular drone kamera görüntüsüyle bisiklete binerken, okyanusta farklı hayvanlarla bisiklet yarışı yapılması" talebinde bulundu. Altman, cevabında penguenler, yunuslar ve diğer suda yaşayan canlıların bisiklet üzerinde olduğu Sora tarafından oluşturulmuş bir video yayınladı.

Başka bir videoda, önlüklü, gülümseyen, beyaz saçlı bir kadının izleyicileri mutfağına davet ettiği görülüyordu. Sora, yapay zeka videosunu, Altman'dan "sinema aydınlatmalı rustik bir Toskana kır mutfağında sosyal medya fenomeni bir büyükannenin ev sahipliği yaptığı ev yapımı gnocchi için yemek pişirme dersi" istendikten sonra oluşturdu.

"YOUTUBER'LARI İŞİNDEN EDECEK"

Kullanıcıların istediği sahneyi yazıp yüksek kaliteli videolar üretebilmesine olanak sağlayan teknoloji tanıtılmasının hemen ardından sosyal medyada gündem olurken, kullanıcılar tarafından "Youtuber'ları işinden edecek" yorumları yapıldı. Şimdilik sadece 1 dakikaya kadar videolar üretebilen Sora tarafından kurgulanan içerikler o kadar gerçekçi ki, videonun yapay zekâ tarafından üretildiğinin anlaşılması oldukça zor.

BU MESLEKLER TEHLİKEDE

Sora, gelecekte "kurgucu" diye bilinen ve video kurgusuyla uğraşanların işini elinden alabileceği gibi video içerik üreticilerinin de işlerini tehlikeye sokabilir.

'MANİPÜLASYONA YOL AÇABİLİR'

Bununla birlikte, dizi ve sinema sektörünü de etkisi altına alabilir. Ancak şirketin şu an için bu teknolojiyi kullanıma nasıl açacağı veya hangi özelliklerde sunacağı bilinmiyor. Hürriyet'te yer alan habere göre, Marmara Üniversitesi İletişim Fakültesi Görsel İletişim Tasarımı Anabilim Dalı Başkanı Prof. Dr. Ali Murat Kırık, "Şimdiye kadar sahte sesleri, görselleri veya videoları birkaç kaynaktan teyit ederek anlayabiliyorduk. Ancak artık karşımızda çok daha ayırt etmesi zor bir teknoloji var. Bu noktada sosyal medya şirketlerinin yapay zekâ şirketleri tarafından üretilen içerikleri mutlaka belirtmesi gerekiyor. Aksi halde seçimler, afetler veya toplumsal olaylarda ürkütücü manipülasyonlarla karşılaşabiliriz. Türkiye'nin de 7253 sayılı Sosyal Medya Düzenlemesi'nde yapay zekâ için çalışmalar yapması ya da bu alanda özel bir yasa hazırlaması lazım diye düşünüyorum" dedi.

ABD'DEKİ SEÇİMLER İÇİN BÜYÜK TEHLİKE

Şirket, teknolojinin hala bazı mekansal sorunlar da dahil olmak üzere bazı kusurları olduğunu söyledi. OpenAl, Sora'nın yanlış bilgi ve nefret dolu içerik oluşturma potansiyelinin farkında olduğunu ifade ederken araştırmacılar, yapay zeka destekli deepfake'lerin 2024 başkanlık seçimleri öncesinde halkın kafasını karıştırabilecek bir risk olarak ortaya çıktığını söyledi.

The Wall Street Journal'da yer alan habere göre, OpenAI, araçlarının siyasi kampanya amacıyla kullanılmasının yasaklanması da dahil olmak üzere, seçime hazırlanmak için harekete geçtiğini bildirdi.

NASIL ÖNLEMLER ALINABİLİR?

Buffalo Üniversitesi Medya Adli Laboratuvarı direktörü Siwei Lyu'ya göre, pek çok şirketin söylediği gibi yapay zeka tarafından oluşturulan video ve görsellere filigran koymak yardımcı olabilir. Ancak çoğu durumda filigranların kaldırılabileceğini veya değiştirilebileceğini söyledi.

Lyu, Sora gibi yapay zeka programları ortaya çıktıkça, teknolojinin görüntü ve ses derin sahtekarlıkları ile ilgili mevcut zorluklara katkıda bulunacağını söyledi. OpenAI, Sora'nın kötüye kullanılabilme yollarını test etmek için seçilen uzman grubunun, korumalarının nasıl güçlendirileceği konusunda geri bildirim sağlayacağını söyledi.

YENİ ÜRÜNLER YENİ TEHLİKELER

Carnegie Uluslararası İlişkiler Etik Konseyi'nin kıdemli üyelerinden Arthur Holland Michel, "Daha büyük yeteneklere sahip yeni bir ürün piyasaya sürüldüğünde, potansiyel olarak kötüye kullanılabileceği yolların çeşitliliği de artar" diyerek kritik bir uyarıda bulundu.

TEKNOLOJİ DEVLERİNDEN TAAHHÜD

Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI, TikTok ve X'in de aralarında bulunduğu 20 teknoloji şirketi, dünya genelinde bu yıl düzenlenecek seçimlerde yapay zekanın aldatıcı şekilde kullanımına karşı birlikte mücadele etme taahhüdünde bulundu.

Şirketlerden yapılan ortak açıklamada, 60. Münih Güvenlik Konferansı'nda (MSC 2024) önde gelen teknoloji şirketlerinin, aldatıcı yapay zeka içeriklerinin 40'tan fazla ülkede 4 milyardan fazla seçmenin oy kullanacağı bu yılki seçimlere müdahale etmesini önlemeye yardımcı olma sözü verdiği bildirildi.

Açıklamada, 20 teknoloji şirketinin zararlı yapay zeka içeriklerini tespit ederek karşı koymak için birlikte çalışma sözü verdiği vurgulandı.

ANLAŞMA İMZALANDI

Bu şirketlerin, "2024 Seçimlerinde Yapay Zekanın Yanıltıcı Kullanımıyla Mücadeleye Yönelik Teknoloji Anlaşması"nı imzaladığı belirtilen açıklamada, anlaşmanın seçmenleri aldatmak amacıyla yapay zeka tarafından oluşturulan zararlı içeriklere karşı teknolojinin kullanılmasına yönelik bir dizi taahhüdü içerdiği bilgisi paylaşıldı.

Açıklamada, anlaşmanın çevrim içi toplulukları zararlı yapay zeka içeriklerine karşı korumaya yönelik önemli bir adım olduğuna işaret edilerek, Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap, Stability AI, TikTok, Trend Micro, Truepic ve X'in anlaşmayı imzalayan şirketler olduğu kaydedildi.