Jacob Coxon Anthropic'ten istifa etti: Yapay zeka hepimizi öldürebilir

Anthropic bünyesinde görev yapan yapay zeka araştırmacısı Jacob Coxon, sektörde giderek hızlanan ve kendi kendini geliştirebilen yapay zeka sistemleri oluşturmayı hedefleyen rekabet nedeniyle görevinden ayrıldı.

Anthropic araştırmacısı Jacob Coxon, yapay zeka sektöründeki yarışa ilişkin dikkat çeken açıklamalarda bulundu. (Reuters)

CİDDİ KAYGILAR SONRASI ÇEKİLME KARARI

Coxon, şirketlerin kontrol edilmesi güç sistemler geliştirme yarışının doğurabileceği risklere ilişkin ciddi kaygılar taşıdığını belirterek yapay zeka endüstrisinden çekilme kararı aldığını açıkladı.

"HAYATLARIMIZLA KUMAR OYNUYORLAR"

Coxon, yapay zeka şirketlerinin insanların hayatlarıyla kumar oynadığını belirtti. Coxon, sosyal medya hesabından duyurduğu istifasında, "Bugün Anthropic'ten istifa ettim. Son üç yılımı hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdim. Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekaya doğru düz bir yarış yapıyorlar ve hayatlarımızla kumar oynuyorlar." dedi.

Jacob Coxon, yapay zeka sistemlerinin oluşturduğu risklere dikkat çekerek Anthropic'teki görevinden istifa etti. (ahaber.com.tr)

"HEPİMİZİ ÖLDÜREBİLİR"

"Yapay zeka geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor. Bu bir pazarlama numarası değil. Tam tersine, birçok yönetici ve kıdemli araştırmacı, basında mantıklı görünmek için ifadelerine dikkatle bürünüyor ama aynı insanlar özelde korkularını dile getiriyor. Başka hiçbir insan etkinliği bu düzeyde bir tehlike oluşturmuyor."

"YASAL DÜZENLEME GEREKİYOR"

Yapay Zeka Bilimcisi Dr. Yusuf Kartal A Haber'e yaptığı açıklamada "Yapay zekanın bilim kurgu filmlerindeki klişelerden yola çıkarak kendi iradesiyle insanlığa savaş açacağını düşünmememiz gerekiyor. Burada yapay zekanın tehlikeli olmasından ziyade gerçekten güçlü bir araç olduğundan bahsetmemiz daha doğru olacaktır. Bir otomobil devrimi ya da endüstri devrimi gibi doğru kullanıldığında faydalı bir modele dönüşüyor. Korku pompalamak yerine, kişisel verilerde olduğu gibi yapay zeka alanında da ülkelerin yasal regülasyonları hayata geçirmesi gerekir" ifadelerini kullandı.

Kartal, "Elimizde çok güçlü bir teknoloji var ve bu teknoloji kötü niyetli insanların eline geçtiğinde ürkütücü sonuçlar doğurabilir. Ancak yapay zekanın kendi iradesi yoktur. Üretken yapay zeka, geçmiş verilerden sentezlediği olasılıksal tahminler bütünüdür. Doğru verilerle beslendiğinde ve insan denetiminde tutulduğunda korkulan senaryoların gerçekleşmesi mümkün değildir" şeklinde konuştu.

"ÖLÜMCÜL SONUÇLARI OLABİLİR"

Yapay zekanın sınırları çizilmediğinde veya insan kontrolünden çıkarıldığında doğabilecek tehlikelere değinen Dr. Yusuf Kartal, "Yapay zeka bir hesap makinesi gibi hatasız değildir, hata yapabilir bir yapıya sahiptir. Eğer tamamen denetimsiz bırakılırsa güvenlik sistemlerinde telafisi güç açıklar yaratabilir. Bunu, bir otomobili ehliyetsiz bir kişiye teslim etmeye benzetebiliriz; böyle bir durumda sonuçlar ölümcül olabilir. Dolayısıyla yapay zekanın hiçbir zaman insan kontrolünden koparılmaması gerekir" sözleriyle uyarılarda bulundu. Programın sonunda Banu El, kıymetli değerlendirmeleri için Dr. Yusuf Kartal'a teşekkür etti.