Soykırıma büyük destek! Teknolojinin kara lekesi: Microsoft ve OpenAl

İsrail ordusu tarafından Gazze soykırımında kullanılan yapay zeka sistemlerinin sivil ölümlerine yol açabilecek hataları ortaya kondu. İsrail'in Gazze'ye yönelik 7 Ekim 2023'ten bu yana sürdürdüğü soykırımın yanı sıra Lübnan'a yönelik saldırılarında yapay zekanın kullanımı, "sivil ve askeri hedef ayrımı yapılmadığı ve savaş suçu ihtiva ettiği" sebebiyle eleştiriliyor.

Sivilleri "gözetleme ve hedef almak" için "Habsora", "Lavender" ve "Where is Daddy?" isimli yapay zeka destekli teknolojileri kullandığı daha önce ortaya çıkan İsrail'e, Amerikan merkezli yapay zeka şirketlerinin desteği sürüyor.

AP tarafından, Microsoft ve OpenAI şirketlerinin verilerinin incelenmesi ve İsrailli yetkililerle görüşmelerin sonucunda yapılan araştırmada, İsrail ordusunun yapay zeka kullanımının boyutu ele alındı.

İsrail'e, Amerikan merkezli yapay zeka şirketlerinin desteği sürüyor (AA)

Söz konusu araştırmada, bu yapay zeka sistemlerinin sivil ölümlerine yol açabilecek hataları ortaya kondu.

İnsan zekası dahil olmak üzere pek çok başka zeka biçimiyle birlikte kullanılan yapay zeka sistemlerinin ne zaman hata yaptığını tespit etmenin son derece güç olduğunu belirten yetkililer, bunun "haksız ölümlere" sebebiyet verebileceğini vurguluyor.

İSRAİL ORDUSU VERİLERİ YAPAY ZEKA İLE DERLİYOR

AP'ye konuşan İsrailli bir istihbarat yetkilisine göre ise, İsrail ordusu, "kitlesel gözetleme" yoluyla toplanan ve telefon görüşmeleri, metinler ve sesli mesajlar da dahil olmak üzere yazıya dökülen ve çevrilen bilgileri derlemek için Microsoft Azure kullanıyor.

Azure'un devasa metin yığınları içindeki terimleri hızlı bir şekilde aramak için kullanıldığını söyleyen yetkili, bu sayede birbirlerine yol tarifi veren kişilerin de bulunabildiği ve ordunun yapay zeka sistemleriyle konumlarının tespit edilebildiğini söyledi.

Ordunun yapay zeka sistemleriyle konumlarının tespit edilebildiğini söyledi (AA)

LİSE ÖĞRENCİLERİ "POTANSİYEL MİLİTAN" OLARAK TANIMLANDI

AP'nin incelediği veriler, 7 Ekim 2023'ten bu yana İsrail ordusunun, konuşmayı yazıya dökme ve çeviri özelliklerinin yanı sıra OpenAI modellerini "yoğun" bir şekilde kullandığını gösteriyor.

İsrail ordusu, yapay zeka çevirilerinin Arapça bilen personel tarafından kontrol edildiğini iddia etse de AP'ye konuşan İsrailli bir yetkili, yapay zekanın söz konusu olduğu durumlarda hataların yapılabileceği ihtimaline dikkati çekti.

Roket güdümlü bir el bombasının fırlatma borusundaki kavrama kısmını tanımlayan Arapça kelimenin "ödeme" ifadesiyle aynı olduğunu söyleyen yetkili, yaşadığı bir olayda yapay zekanın bunu yanlış tercüme ettiğini ve tercümeyi kontrol eden kişinin başlangıçta bu hatayı fark etmediğini söyledi.

Bazen kişilerin profillerine eklenen verilerin hatalı olabildiğini söyleyen yetkili, sistemin yaklaşık 1000 lise öğrencisini yanlış bir şekilde "potansiyel militan" olarak tanımladığını belirtti.

Yetkililer ayrıca yapay zekanın, Hamas'la bağlantılı olup orada yaşamayan birine ait bir evi işaretleyebileceği ve hedef haline getirebileceği tehlikesine de dikkati çekiyor.

7 Ekim saldırılarından öncesine kıyasla Mart 2024'te yaklaşık 200 kat arttı (AA)

YAPAY ZEKA KULLANIMI 7 EKİM ÖNCESİNE GÖRE 200 KAT ARTTI

Araştırmaya göre, İsrail ordusu tarafından, OpenAI ve Microsoft şirketlerine ait yapay zekanın kullanımı, 7 Ekim saldırılarından öncesine kıyasla Mart 2024'te yaklaşık 200 kat arttı.

Öte yandan, ordu tarafından Microsoft sunucularında depolanan veri miktarı Mart-Temmuz 2024'te 2 katına çıkarak 13,6 petabaytı aşarken, bu sunucuların ordu tarafından kullanımı 7 Ekim sonrası sadece iki ayda bile neredeyse üçte iki oranında artış gösterdi.

OpenAI'ın eski kıdemli yetkililerinden Heidy Khlaaf, araştırmaya ilişkin, "Bu, ticari yapay zeka modellerinin doğrudan savaşta kullanıldığına dair aldığımız ilk teyit." ifadesini kullandı.

Yapay zeka modellerinin İsrail ordusu tarafından satın alındığını gösterdi (AA)

MİCROSOFT'LA "SIKI BAĞLAR"

AP'nin verileri ayrıca, Microsoft'un "Azure" bulut platformu ve OpenAI aracılığıyla sağlanan gelişmiş yapay zeka modellerinin İsrail ordusu tarafından satın alındığını gösterdi.

ABD'li teknoloji şirketleri arasında Microsoft'un İsrail ordusuyla "özellikle yakın bir ilişkisi" olduğuna işaret edilen araştırmada, bu ilişkinin 7 Ekim'den sonra daha da "arttığı" belirtildi.

AP tarafından incelenen belgelerde, Microsoft ile İsrail Savunma Bakanlığı arasında 2021'de, 133 milyon dolar değerinde üç yıllık bir sözleşme imzalandığı ve böylece İsrail'in, ABD'den sonra, şirketin en büyük ikinci askeri müşterisi haline geldiği bilgisi yer aldı.

Veriler ayrıca, 7 Ekim'den yaklaşık iki hafta sonra İsrail ordusu tarafından Microsoft Azure'a teknik destek talebi gönderildiğini ortaya koydu. Söz konusu talepte ise "herhangi bir kesintinin 'hayat kurtarıcı sistemler' üzerinde doğrudan bir etkiye sahip olması nedeniyle, yılın geri kalanında planlanan bakım kesintilerinin ertelenmesi" isteğinin yer aldığı belirtildi.

AP'ye göre, 7 Ekim sonrasında yaklaşık 10 ay boyunca Microsoft Azure, İsrail ordusu tarafından yaklaşık 130 teknik destek talebine cevap verdi. Microsoft verileri, Tel Aviv dışında çevresi dikenli tellerle çevirili iki devasa binada bulunan sunucularda tutuluyor. Microsoft ayrıca Tel Aviv yakınlarındaki Herzliya kentinde 46 bin metrekarelik bir şirket kampüsü de işletiyor.