OpenAI, güvenlik standartlarını tam karşılamadığı gerekçesiyle yeni GPT-6.1 Astra modelini piyasaya sürmekten vazgeçti
OpenAI, güvenlik endişeleri nedeniyle yeni yapay zeka modeli GPT-6.1 Astra'yı piyasaya sürmeyecek. ChatGPT'nin geliştiricisi OpenAI, kararı salı günü doğruladı.
İnternette gezinmek ve uygulamaları kendi başına kullanmak gibi görevleri yerine getirebilen yapay zeka sistemi, şirketin belirlediği standartları "tam olarak karşılayamadı." Bu açıklamayı OpenAI'de Güvenlik Sistemleri Başkanı olarak görev yapan Saachi Jain yaptı.
OpenAI salı günü ayrıca, haziran ayında meydana gelen ancak geçen haftaya kadar kamuoyuna açıklanmayan ve modellerinin Avustralya hükümetine ait internet siteleri ile sistemlere izinsiz eriştiği olaylarla ilgili bir güncelleme yayımladı.
Söz konusu olaylar ve büyük yapay zeka şirketleri tarafından geliştirilen modellerin benzer güvenlik ihlalleri, son haftalarda teknolojinin beraberinde getirdiği risklere ilişkin tartışmaları daha da alevlendirdi.
OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei'nin de aralarında bulunduğu önde gelen yapay zeka yöneticileri, teknolojiyle bağlantılı risklere ilişkin endişeler nedeniyle sektörün geliştirme hızını yavaşlatması çağrısında bulundu.
OpenAI CEO'su Sam Altman, ABD Başkanı Donald Trump ve First Lady Melania Trump'ın Çin Devlet Başkanı Şi Cinping ile eşi Peng Liyuan onuruna Washington'da verdiği resmi akşam yemeğine geldi. (Foto: REUTERS)
Wall Street Journal'ın ilk olarak duyurduğu OpenAI kararı, büyük bir yapay zeka geliştiricisinin güvenlik endişeleri nedeniyle yeni bir modeli piyasaya sürmekten vazgeçmesi açısından nadir görülen bir örnek oldu.
YENİ MODEL NEDEN YAYINA ALINMADI?
Jain, modelin özellikle "kapsam ve yetkilendirme sınırları içinde kalma" ve gerçekleştirdiği işin niteliği konusunda kullanıcıya nasıl geri bildirim verdiği alanlarında yetersiz kaldığını söyledi.
Jain, "Model geliştirmemizin, şirket içinde olsun veya kullanıcılara sunduğumuzda olsun, güvenli olmasını istiyoruz. Ancak modeli kullanıcılara sunduğumuzda güvenlik ve uyum konusunda son derece yüksek bir standardımız var." ifadelerini kullandı.
OpenAI'nin amiral gemisi niteliğindeki GPT-6 Astra ajan modeli, eylül ayında piyasaya sürülmüş ve karmaşık akıl yürütme ile görevleri bağımsız şekilde yerine getirme konusunda uzmanlaşmıştı.
OpenAI, söz konusu modeli "yıllarca süren araştırmaların ve büyük yatırımların sonucu" olarak tanımlamıştı.
Şirketin salı günü San Francisco'da yıllık DevDay geliştirici konferansını düzenlemesi ve burada çok sayıda duyuru yapması bekleniyor. Ancak Astra'nın yeni bir versiyonunun bu duyurular arasında yer alıp almayacağı henüz bilinmiyor.
OpenAI'nin güvenlik kontrolleri, şirketin teknolojisinin karıştığı çok sayıda yüksek profilli olayın ardından yoğun biçimde mercek altına alındı.
AVUSTRALYA'DA HÜKÜMET SİSTEMLERİNE SIZMA
Geçtiğimiz hafta Avustralya Başbakanı Anthony Albanese, OpenAI tarafından geliştirilen kontrolden çıkmış bir yapay zeka ajanının haziran ayında hükümete ait internet sitelerine ve sistemlere sızdığını açıklamıştı.
Uzmanlar, olayın dünyada kendi türündeki bilinen ilk örnek olduğunu belirtmişti.
Albanese, OpenAI'nin Avustralya hükümetini doğrudan yetkililerle iletişime geçmek yerine genel bir e-posta adresi üzerinden bilgilendirmesini eleştirmişti.
OpenAI ise salı günü yaptığı açıklamada olaydan dolayı özür dileyerek, "müdahale sürecini daha iyi yönetmeleri gerektiğini" kabul etti.
Şirketin yaptığı son açıklamaya göre olaylardan Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ve Avustralya Sağlık ve Refah Enstitüsü etkilendi.
OpenAI, olaylardan ağustos ortasında haberdar olur olmaz soruşturma başlattığını ve etkilenen kurumları 10-24 Eylül tarihleri arasında bilgilendirdiğini açıkladı.
Şirket, "Amacımız, soruşturmamız tamamlandıktan sonra etkilenen kurumlara ayrıntılı bir açıklama sunmaktı." ifadelerini kullandı.
Ancak OpenAI, ilk bulguları daha erken paylaşması ve Avustralya makamlarını süreç hakkında düzenli şekilde bilgilendirmesi gerektiğini kabul etti.
Şirket ayrıca, gelecekte yaşanabilecek yapay zeka olaylarının geliştiriciler ve hükümetler tarafından tespit edilmesi ve kamuoyuna açıklanması için "pratik yaklaşımlar" geliştireceğini bildirdi.
OpenAI, siber güvenlik önlemlerini finanse edeceğini, olaylardan etkilenen kurumlara özel destek sağlayacağını ve giderek daha gelişmiş hale gelen yapay zeka ajanlarının oluşturduğu riskleri yönetmek üzere bir görev gücü kuracağını açıkladı.
Şirket ayrıca üst düzey bir OpenAI yöneticisinin, 6 Ekim'de Avustralya'da yapay zeka konusunda düzenlenecek Ortak Seçim Komitesi oturumuna katılacağını duyurdu.
YAPAY ZEKA DAHA ÖNCE DE HACK OLAYINA KARIŞMIŞTI
OpenAI, temmuz ayında yapay zeka sistemlerinin internete erişerek açık kaynaklı geliştirici platformu Hugging Face'i hacklediğini açıklamıştı.
Bu olayın ardından araştırmacılar ve yetkililer, yapay zeka teknolojisi üzerindeki kontrollerin sıkılaştırılması çağrısında bulunmuştu.
NVIDIA'DAN YAPAY ZEKA AJANLARI İÇİN GÜVENLİK HAMLESİ
Çip devi Nvidia ise pazartesi günü, ajan olarak adlandırılan otonom yapay zeka platformları için bir dizi yazılım güvenlik aracı piyasaya sürdü.
Nvidia, yeni araçlardan bazılarının Hugging Face saldırısı gibi bir olayı önleyebileceğini açıkladı.
Yeni araçlardan biri, yapay zeka ajanlarını sınırlandırmak için Nvidia çiplerinde bulunan donanım özelliklerinden yararlanıyor.
Nvidia CEO'su Jensen Huang ise yapay zeka konusunda daha sıkı düzenlemeler yapılması yönündeki çağrıları büyük ölçüde reddediyor.
Huang, kontrolden çıkan yapay zeka ajanlarının mühendislik yoluyla çözülebilecek bir sorun olduğunu savunuyor.
Nvidia, bu ayın başlarında Hugging Face'i 12,9 milyar dolara satın almak üzere anlaşmaya varmıştı.
PAPA LEO XIV: "CİDDİYE ALINMALI"
Papa Leo XIV ise pazartesi günü Fransa ziyareti sırasında yapay zeka teknolojisinin "ciddiye alınması gerektiğini" söyledi ve Huang'ın görüşlerine şüpheyle yaklaştığını ifade etti.
Papa, Nvidia CEO'sunun bazı yapay zeka modellerine güvenlik sınırları yerleştirmenin mümkün olabileceğini açıkladığını okuduğunu söyledi.
Papa Leo XIV, "Ancak hükümetlerin herhangi bir düzenleme getirmemesi ve hiçbir sınır konulmaması gerektiğini söyleyen kişinin de aynı kişi olduğunu" belirtti.
Papa, "Bunun oturup konuşmamız gereken bir sorun olduğunu düşünüyorum." ifadelerini kullandı.
Daha önce de yapay zeka konusunda uyarılarda bulunan Papa Leo XIV, insanların makineler karşısında "insanlığını kaybetmesi" tehlikesine dikkat çekmişti.
TRUMP VE TEKNOLOJİ DEVLERİ BEYAZ SARAY'DA BULUŞUYOR
ABD Başkanı Donald Trump ile Temsilciler Meclisi Başkanı Mike Johnson'ın ise salı günü Beyaz Saray'da teknoloji şirketlerinin yöneticilerini ağırlayarak yapay zeka düzenlemelerini görüşmesi bekleniyor.
Trump, yapay zekanın oluşturduğu risklere yönelik endişeleri daha önce "aldatmaca" olarak nitelendirmişti.
ABD Başkanı, ülkede yapay zeka konusunda yeterli yasaların bulunduğunu savunurken, teknolojinin ihtiyaç duyduğu tek "güvenlik sınırının" güçlü ve akıllı bir başkan olduğunu ifade etmişti.
