YAPAY ZEKAYI NEDEN “YAVAŞLATMAK” İSTİYORLAR?

Yapay zekanın şu an ulaştığı nokta sizce korkutucu mu?

Son günlerde yapay zekayla ilgili dikkatleri çeken bir gelişme yaşandı.

Yapay zeka yarışının tam merkezinde bulunan şirketlerin yöneticileri
yıllardır hızla ilerlettikleri teknolojinin "biraz yavaşlatılması" gerektiğini peş peşe dillendirmeye başladı.

İlk çağrı sanırım Anthropic CEO'su Dario Amodei'den geldi.

Amodei, yapay zeka modellerinin yeteneklerinin geliştirilme hızının yavaşlatılması gerektiğini söyledi.

Ancak burada önemli bir ayrım var:

"Yapay zekayı durduralım" demiyor.

Söylediği şey daha çok şu: Teknoloji o kadar hızlı ilerliyor ki güvenlik ve kontrol mekanizmaları bu hıza yetişemeyebilir.

Amodei, AI gelişiminin giderek üstel bir eğriye girdiğini ve bunun bir "uyarı işareti" olduğunu belirtti.

Ona göre kazanılacak zaman yapay zekanın güvenli biçimde geliştirilmesi için kullanılmalı.

Olayın daha dikkati üzerine çeken tarafıysa bu çağrıya rakip şirketlerin yöneticilerinden de destek gelmesi.

OpenAI CEO'su Sam Altman, Amodei'nin yaklaşımına destek verdi ve bağımsız güvenlik değerlendiricilerinin "AI" şirketlerinde daha etkin rol almasını savundu.

Google DeepMind CEO'su Demis Hassabis, Amodei'nin önerilerinin doğru yönde olduğunu söyledi.

Elon Musk ise konuyu sadece "Dario haklı." cümlesiyle destekledi.

Peki neden?

Çünkü tartışmanın merkezinde artık yalnızca "Yapay zeka ne kadar akıllı olacak?" sorusu yok.

Asıl soru şu:

Yapay zeka ne kadar güçlenirse insanın onu kontrol etme kapasitesi de o kadar geride kalacak!

ASIL KORKU İSE KONTROLÜ KAYBETMEK!

Bugünkü yapay zeka sistemleri artık yalnızca sorulara cevap veren araçlar değil.

Kod yazabilen,

Araştırma yapabilen,

Bilgi toplayabilen,

Bilgisayar sistemleriyle etkileşime girebilen "insan gibi" bilgiyi hafızasına
kaydedip uygun zamanda kullanabilen bir sistem.

Ve en önemli tartışmalardan biri de şu.

Gelecekte yapay zeka, kendisinden daha gelişmiş sistemlerin oluşturulmasına yardımcı olabilecek mi?

İşte bu nokta, AI sektörünün bazı yöneticilerini endişelendiriyor.

Çünkü teknoloji geliştikçe insanın denetim mekanizmalarının da aynı hızda gelişmesi gerekiyor.

Yoksa halde teknoloji önden giderken denetim mekanizması arkadan gidersen hiç de iyi şeyler olmaz!

TEHLİKE SADECE "KÖTÜ ROBOT" SENARYOSU DEĞİL

Yapay zekâ denildiğinde insanların aklına çoğu zaman bilimkurgu filmlerindeki robotlar geliyor.

Ancak uzmanların tartıştığı risk bundan çok daha geniş.

Gelişmiş AI sistemlerinin;

siber saldırılarda,

dolandırıcılıkta,

gözetimde,

biyolojik tehditlerde

ve başka kötüye kullanım alanlarında kullanılabilmesi de ciddi bir endişe konusu.

Anthropic'in son dönemdeki değerlendirmeleri de gelişmiş modellerin bazı kötü niyetli faaliyetlerde kullanılabildiğine dikkat çekiyor.

Yani mesele yalnızca yapay zekanın "kötü olması" değil.

Kötü niyetli bir insanın elindeki "çok güçlü yapay zekanın" ne yapabileceği.

PEKİ NEDEN ŞİMDİ?

İşte asıl dikkati çekici soru burada.

Çünkü bu açıklamaları yapan insanlar, yapay zeka yarışının dışındaki kişiler değil.

Tam tersine;

Bu teknolojiyi geliştiren şirketlerin başındalar.

Bir yandan milyarlarca dolarlık yatırımlarla AI sistemlerini daha güçlü hâle getiriyorlar.

Diğer yandan aynı sistemlerin oluşturabileceği riskler konusunda uyarıyorlar.

Bu durum ilk bakışta çelişkili görünebilir.

Fakat açıklamalarına bakıldığında temel düşünce daha farklı:

"Teknolojiyi durdurmayalım; güvenlik mekanizmaları yetişene kadar hızını yönetelim."

Amodei'nin önerisi de bu nedenle tamamen bir "fren" çağrısından ziyade kontrollü ilerleme önerisi olarak okunabilir.

AMA BAŞKA BİR SORU DA VAR

Bu tartışmanın karşı tarafında da önemli bir soru var...

Yapay zekayı yavaşlatmak gerçekten güvenlik için mi yoksa büyük şirketlerin pazardaki konumunu koruması için mi? Bu da ayrıca düşünülmesi gerekn bir konu.

Son günlerde bazı teknoloji şirketleri ve AI girişimleri yavaşlama çağrılarının rekabeti sınırlayabileceğini ve mevcut büyük şirketlere avantaj sağlayabileceğini savunuyor.

Şu an ortada iki farklı yaklaşım var.

Bir taraf:
"Bu hız tehlikeli olabilir. Önce güvenlik."

Diğer taraf:
"Yavaşlamak, teknoloji yarışında geride kalmak ve büyük şirketlerin konumunu güçlendirmek anlamına gelebilir."

Bu tartışmanın kesin bir cevabı henüz yok.

Yapay zeka şirketi Anthropic'te araştırmacı olarak çalışan Jacob Coxon'un istifa etmesinden sonraki
açıklamaları da elbette oldukça ürkütücü..

Coxon: Yapay zeka geliştiren insanlar, teknolojinin bu 10 yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyor.
Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek.