Yapay zekada kontrol kaybedilebilir! OpenAI'nın eski araştırmacılarından çarpıcı çıkış
ABD merkezli yapay zeka şirketi OpenAI'da işlerine son verilen üç araştırmacı, giderek daha otonom hale gelen yapay zeka sistemlerinin denetlenmesine ilişkin önemli uyarılarda bulundu. OpenAI yönetim kuruluna mektup gönderen araştırmacılar, yapay zekanın akıl yürütme süreçlerinin izlenemez hale gelebileceğine dikkat çekerek güvenlik denetimlerinin bağımsız kuruluşlar tarafından yürütülmesi çağrısı yaptı.
ABD merkezli yapay zeka şirketi OpenAI'daki görevlerine son verilen üç araştırmacı, giderek otonom hale gelen yapay zeka sistemlerindeki güvenlik denetiminin elden bırakılmaması çağrısında bulundu.
YAPAY ZEKANIN DENETİMİ KAYBEDİLEBİLİR
Wall Street Journal (WSJ) gazetesinin haberine göre, şirketteki işlerinden çıkarılmadan önce yapay zeka güvenliği alanında çalışan üç araştırmacı, OpenAI yönetim kurulu üyelerine yapay zeka denetiminin önemi hakkında mektup gönderdi. Gazetenin eriştiği mektuba göre, araştırmacılar yapay zeka firmalarının, bu teknolojinin akıl yürütme süreçlerini gözlemleme kapasitesini yitirebileceği konusundaki endişelerini iletti. Araştırmacılar, gitgide otonom hale gelen yapay zekanın beraberinde getirebileceği risklere karşı güvenlik denetimlerinin şirketten bağımsız kuruluşlar tarafından yapılması çağrısında bulundu.
TEKNOLOJİ ŞİRKETLERİNE KRİTİK ÇAĞRI
Yapay zeka sektöründe, denetlenemeyen modellerin nasıl güvenli şekilde geliştirilmesi ve kullanıma sunulması gerektiğinin henüz bilinmediğini ifade eden araştırmacılar, OpenAI ve diğer öncü şirketleri, bu teknolojiyi denetlemeyi zorlaştıracak şekilde geliştirmemeleri konusunda uyardı.
OPENAI'DAN İDDİALARA YANIT
OpenAI'dan bir sözcü, gazeteye yaptığı açıklamada, söz konusu mektuptaki önerilere tamamen katıldıklarını, yapay zeka modellerinin denetlenmesinin şirket için büyük önem teşkil ettiğini ifade etti.
NEDEN İŞTEN ÇIKARILDILAR?
Söz konusu araştırmacıların, bir yapay zeka güvenlik şirketine gizli bilgi paylaştığı gerekçesiyle işten çıkarıldığı iddia ediliyor.
