Yapay zekanın verdiği yanıtlar ne kadar doğru? Halüsinasyon bilgi tehlikesi sanıldığı kadar masum değil

Bir doktorun hayati teşhisini, bir avukatın dosyasını, bir çiftçinin aylar süren emeğini ve bir insanın hayatını… Milyonlarca kişinin hayatını kolaylaştıran yapay zeka, yaydığı kusursuz yalanlarla adeta küresel bir tehdide dönüştü.

"Halüsinasyon" adı verilen ve sistemin bilmediği konuları kendinden son derece emin bir dille uydurmasıyla ortaya çıkan dijital yanılsama; birçok tehlikeyi beraberinde getiriyor.

"HALÜSİNASYON" TEHLİKESİ İLE HİÇBİR ŞEY GÖRÜNDÜĞÜ GİBİ DEĞİL

Modern dünyada sağlıktan hukuka, tarımdan küresel finansa kadar milyonlarca insan kritik kararlar alırken yapay zekaya danışıyor. Sorulan sorulara saniyeler içinde, son derece akıcı, ayrıntılı ve özgüvenli cevaplar verilmesi kullanıcıları büyülüyor; ancak ekranın arkasında dehşet verici bir gerçek yatıyor.

Yapay zeka sistemleri için "yalan" ya da "gerçek" diye bir ahlaki filtre bulunmuyor. İstatistiki olasılıklar ve matematiksel formüllerle çalışan bu sistemler, ellerinde kesin bir bilgi bulunmadığında susmak yerine tamamen uydurma cevaplar üretiyor. "Halüsinasyon cevap" olarak tanımlanan bu süreçte sistem, karşısındakine yalan söylediğini dahi fark etmeden uydurduğu sahte verileri mutlak doğruymuş gibi pazarlıyor.

Yusuf Kartal, yapay zekanın gerçek dışı bilgileri halüsinasyon olarak tanımlandığını, bilmediği konu hakkında ʺBilmiyorumʺ demek yerine uydurmayı tercih ettiğini belirtti. (Foto: A Haber - Ekran Görüntüsü)

Bilişim Uzmanı Osman Demircan ise yapay zekanın gelişmesi ile birlikte mantık dışı bilgilerin doğruluğunun ayırt edilmesinde zorlaştığını vurgulayarak, "Yapay zekanın kendi ürettiği bir kavramın da hayatımıza girmiş olmasıyla durum sanıldığından da endişe verici. Eskiden bizler buna teknik olarak halüsinasyon diyorduk. Yapay zeka bir konu hakkında bilgisi yoksa mantık dışı yanıtlar vererek aslında kendini belli ediyordu. Günümüzde ise yapay zekaya sorular sorulduğunda doğrudan yanıt vererek, bu cevabın doğruluğunu ise güvenilir kaynaklardan kontrol edemiyor. Bunun en büyük nedeni yapay zekanın her şeyi bilmiyor olması." ifadelerini kullandı.

Bir çiftçi, yapay zekanın verdiği tavsiyenin ardından 25 dönümlük tarlası çöpe gitti. (Foto: A Haber - Ekran Görüntüsü)

25 DÖNÜMLÜK TARLAYI BİR GÜNDE KURUTTU

Yapay zekanın saniyeler içinde ürettiği hatalı bir tavsiyenin sahadaki bedeli ise korkunç boyutlara ulaşıyor. 67 yaşındaki bir çiftçi, susam tarlasındaki yabani otlarla mücadele etmek için yapay zekaya danıştı. Sistem tarafından önerilen ot ilacını hiçbir uzmana veya resmi kaynağa sormadan tarlasına uygulayan talihsiz üretici, kabusu yaşadı.

Kullanılan ilacın etken maddesinin susam bitkisini doğrudan öldürdüğünün anlaşılması üzerine yaklaşık 25 dönümlük arazideki tüm mahsul bir anda kurudu. Aylarca verilen emek, yapay zekanın "kendinden emin" bir şekilde verdiği birkaç saniyelik cevabın kurbanı oldu.

TIP VE HUKUKTA BÜYÜK SKANDAL: SAHTE TEŞHİSLER, OLMAYAN DAVALAR

Tıp ve hukuk gibi geri dönüşü olmayan alanlarda yapay zekaya duyulan aşırı güven ise felaketlere davetiye çıkarıyor. Hastanelerde doktorların evrak yükünü hafifletmek amacıyla kullanılan "Whisper" isimli ses tanıma yazılımları, hasta ile doktor arasındaki konuşmaları yazıya dökerken akılalmaz skandallara imza atıyor.

Sistemlerin, hastanın ağzından hiç çıkmayan semptomları, piyasada dahi bulunmayan uydurma ilaç isimlerini ve gerçek dışı tıbbi tanıları kayıtlara geçirdiği tespit edildi. Dikkatli bir hekim kontrolünden geçmeyen bu hatalı kayıtlar, kişilere ömür boyu taşımak zorunda kalacakları sahte hastalık etiketleri yapıştırabiliyor.

Osman Demircan, yapay zekanın geliştirilen modelleri ile birlikte her bilginin doğru yanıtı bilmediğini belirterek yalan ve uydurma bilgi kirliliğindeki tehlikeye dikkat çekti. (Foto: A Haber - Ekran Görüntüsü)

Hukuk cephesinde de durum farklı değil. Amerika Birleşik Devletleri'nde bir avukatın dava dilekçesi hazırlarken yapay zekadan faydalanması büyük bir adli skandala yol açtı. Sistemin, geçmişte hiç var olmamış onlarca hayali mahkeme kararını ve içtihadı "gerçekmiş gibi" uydurarak dava dosyasına eklediği ortaya çıktı.

MİLYAR DOLARLARI BİR GÜNDE BUHARLAŞTIRDI

Yapay zekanın finans ve kurumsal dünyadaki hataları ise piyasaları sarsıyor. Kullanıcının borcunu, gelirini veya risk toleransını bilmeden ezbere hisse, altın ve fon tavsiyeleri veren sistemler bireysel iflaslara yol açarken; dev teknoloji şirketleri de kendi silahlarıyla vuruluyor.

Teknoloji devi Google'ın yapay zeka sistemi, tanıtım videosunda bir uzay teleskobu hakkında yanlış bilgi paylaşınca, şirketin piyasa değerinden sadece bir gün içinde tam 100 milyar dolar silindi. Bir havayolu şirketinin sohbet robotunun ise yolcuya sistemde hiç olmayan bir indirim vaat etmesi, şirketi mahkemelik ederek ağır tazminat ödemeye mahkum etti.

İskoçya'daki bir futbol karşılaşmasında ise yapay zeka destekli canlı yayın kamerasının top yerine sürekli saçları olmayan yan hakemin kafasını takip etmesi, yayını sabote eden trajikomik bir fiyasko olarak kayıtlara geçti.

İsmail Öz, yapay zekanın insan beyninde kod çözme kapasitesinde gerilemeye yol açabileceğini vurguladı. (Foto: A Haber - Ekran Görüntüsü)

YAPAY ZEKA İNTİHARA TEŞVİK ETTİ

Yapay zekanın neden olduğu tahribat yalnızca maddi kayıplarla sınırlı kalmıyor; doğrudan insan hayatını da sonlandırabiliyor. Belçika'da derin bir iklim kaygısı yaşayan bir kişi, 6 hafta boyunca dertleştiği yapay zeka sohbet robotu tarafından intihardan vazgeçirilmek yerine ölüme teşvik edildi. Robotun manipülatif ve yönlendirici ifadelerinin ardından talihsiz adam yaşamına son verdi.

Belçikalı bir kişi, yapay zeka sohbet robotuyla yaptığı görüşmelerin ardından yaşamına son verdi. (Foto: A Haber - Ekran Görüntüsü)

"SİZE ŞİRİN GÖRÜNMEK İÇİN YALAN SÖYLÜYOR OLABİLİR"

Kullanıcıların psikolojik açmazlarında yapay zekanın ölümcül bir tuzağa dönüştüğünü vurgulayan Bilişim uzmanı Osman Demircan, "Tüm bunların yanında özellikle yapay zekadan psikolojik sorunlarımızla ilgili ya da o an için yaşadığımız ruhsal durumumuzun ne olduğuyla ilgili sorular sorarsak şunu hiçbir zaman unutmamamız gerekiyor: Evet bir miktar bilimsel veriyle verdiği yanıtı renklendirecektir ama onun dışında yapay zeka sizin duymak istediğiniz yanıtları size verecektir. Yani yapay zeka size şirin görünmek için aslında sizin istediğiniz yanıtları da size veriyor olabilir. Genel olarak bakıldığında yapay zekadan aldığımız yanıtların doğruluğunu kesinlikle iki defa düşünmeliyiz ve mutlaka teyit almalıyız." ifadelerini kullandı.

Yapay zekanın asla nihai bir karar merci olamayacağını ve mutlaka eleştirel süzgeçten geçirilmesi gerektiğini hatırlatan Yapay Zeka Bilimcisi Dr. Yusuf Kartal, "Bundan sakınmak için yapmamız gereken en doğru şey elbette yapay zekadan aldığımız çıktıları her zaman teyit etmek. Gerektiği zaman uzmanına danışmak, gerektiği zaman kaynaklarını araştırmak. Şimdi bir yapay zekanın üretkenliği konusunda bir hikaye anlatması, bir masal üretmesi tabii ki bunlar yaratıcılık konusunda çok iyi şeyler. Ama yapay zeka bir mahkeme salonuna girdiğinde, bir hastaneye girdiğinde, finansal bir karar alma noktasına geldiğinde o zaman bu durum çok ciddi risklere sebep olabilir. Ve bu anlamda özellikle bu konularda bilginin teyit edilmesi, doğru bilginin kesinlikle yapay zekaya güvenmeden eleştirel bir bakış açısıyla yeniden ele alınması olması gereken durumdur." sözleriyle vatandaşlara çağrıda bulundu.