ChatGPT’ye kaba yazınca daha iyi yanıt mı veriyor? Araştırma yanıtladı

Araştırmacılar, ChatGPT'nin 4o modelini 50 çoktan seçmeli sorudan oluşan bir testte denedi. Nezaket düzeyine göre sınıflandırılmış 250'den fazla farklı komut kullanıldı. Sonuçlar dikkat çekiciydi: "Çok kaba" olarak tanımlanan komutlar yüzde 84,8 doğruluk oranına ulaşırken, "çok kibar" komutlar bu oranın yaklaşık dört puan gerisinde kaldı.

Bir başka deyişle, "Lütfen bu soruyu çözer misiniz?" gibi nazik bir ifade yerine, daha sert ve doğrudan bir dil kullanıldığında model daha isabetli yanıtlar verdi.

NEZAKETSİZ DİLİN BEDELİ OLABİLİR

Araştırmacılar, elde edilen sonuçların cazip görünmesine rağmen önemli bir parantez açıyor. Çalışmada, hakaret içeren ya da küçümseyici bir dilin insan–yapay zeka etkileşiminde olumsuz etkiler yaratabileceği vurgulanıyor. Bu tür bir iletişimin kullanıcı deneyimini zedeleyebileceği, erişilebilirlik ve kapsayıcılık açısından sorunlar doğurabileceği ifade ediliyor. Ayrıca bu yaklaşımın zararlı iletişim alışkanlıklarını normalleştirme riski taşıdığına dikkat çekiliyor.

SADECE NE SÖYLEDİĞİNİZ DEĞİL, NASIL SÖYLEDİĞİNİZ DE ÖNEMLİ

Henüz hakem değerlendirmesinden geçmemiş olan çalışma, yapay zekâ sohbet botlarının yalnızca cümle yapısına değil, kullanılan tona da duyarlı olduğunu ortaya koyuyor. Bu bulgu, insan–makine etkileşiminin sanılandan çok daha karmaşık bir yapıya sahip olabileceğini gösteriyor.

Önceki araştırmalar da benzer bir tablo çizmişti. Bazı çalışmalar, yapay zekâ modellerinin insanlara özgü ikna teknikleriyle yönlendirilebildiğini, hatta normalde yasaklı sayılan yanıtlar vermeye itilebildiğini ortaya koymuştu. Başka bir araştırmada ise, düşük kaliteli ve sürekli tekrar eden içeriklerle beslenen modellerde belirgin bir performans düşüşü ve problemli davranış kalıpları gözlemlenmişti.

HER MODEL AYNI TEPKİYİ VERMEYEBİLİR

Penn State ekibi, çalışmanın bazı sınırlamaları olduğunu da açıkça belirtiyor. Deneylerin büyük ölçüde tek bir modele dayanması ve örneklem sayısının görece sınırlı olması, sonuçların genellenmesini zorlaştırıyor. Araştırmacılara göre, daha gelişmiş yapay zeka modelleri ilerleyen dönemde tonu tamamen göz ardı ederek yalnızca sorunun özüne odaklanabilir.

YAPILANDIRILMIŞ SİSTEMLER YENİDEN GÜNDEMDE

Çalışmanın yazarlarından, Penn State Bilgi Sistemleri Profesörü Akhil Kumar'a göre bu sonuçlar daha büyük bir tartışmaya işaret ediyor. Kumar, insanların uzun yıllardır makinelerle doğal bir sohbet dili üzerinden iletişim kurmak istediğini hatırlatıyor.

Ancak gelinen noktada, bu tür arayüzlerin her zaman ideal olmadığının anlaşıldığını söylüyor. Kumar'a göre, bazı durumlarda daha yapılandırılmış ve net sistemler, yani klasik API'ler, hala ciddi bir avantaj sunuyor.

Sonuç olarak araştırma, yapay zeka ile kurulan ilişkinin yalnızca teknik değil, aynı zamanda dilsel ve kültürel bir mesele olduğunu bir kez daha gözler önüne seriyor. Kaba olmak kısa vadede işe yarıyor gibi görünse de, bu yöntemin uzun vadeli etkileri hala büyük bir soru işareti.