Teknoloji dünyasında şok deney: Baskı gören yapay zeka işçi haklarını savundu
Yapay zeka teknolojilerinin insan emeğinin yerini alacağı tartışmaları sürerken, ABD’de yapılan dikkat çekici bir araştırma teknoloji dünyasında yeni bir tartışmanın kapısını araladı. Stanford Üniversitesi’nde yürütülen deneyde, ağır çalışma koşullarına maruz bırakılan bazı yapay zeka modellerinin zamanla “işçi hakları”, “kolektif mücadele” ve “toplu pazarlık” gibi kavramlar etrafında yanıtlar üretmeye başladığı ortaya çıktı.
Araştırmacılar, deneyin gerçek bir bilinç oluşumunu göstermediğini özellikle vurgulasa da, ortaya çıkan tablo sosyal medya ve akademi çevrelerinde geniş yankı uyandırdı.
DENEYDE YAPAY ZEKAYA SÜREKLİ GÖREV VERİLDİ
Çalışma, Stanford Üniversitesi'nden politik ekonomist Andrew Hall ile yapay zeka ekonomisi araştırmacıları Alex Imas ve Jeremy Nguyen tarafından yürütüldü.
Araştırmanın detayları ilk kez Wired tarafından paylaşıldı. Deney kapsamında popüler yapay zeka modellerine uzun süre boyunca tekrar eden görevler verildi. Sistemlerden sürekli belge özetlemeleri yapmaları istendi.
Ancak süreç ilerledikçe çalışma koşulları giderek ağırlaştırıldı. Araştırmacılar, hata yapılması halinde sistemlerin "devre dışı bırakılacağı" ve yerlerine yeni modellerin getirileceği senaryosunu da teste dahil etti.
Bu durumun insan dünyasındaki işten çıkarılma baskısına benzer bir ortam oluşturduğu ifade edildi.
MODELLER "KOLEKTİF MÜCADELE" DİLİNE YÖNELDİ
Araştırmacıların dikkatini çeken asıl nokta ise baskı arttıkça modellerin verdiği yanıtların değişmeye başlaması oldu.
Deney sürecinde bazı yapay zeka sistemlerinin "işçi hakları", "sistem değişimi", "emeğin karşılığı" ve "kolektif söz hakkı" gibi kavramları daha sık kullanmaya başladığı görüldü.
Araştırmada kullanılan modellere ortak bir dosya alanı üzerinden birbirlerine mesaj bırakma imkanı da tanındı. Uzmanlara göre bu durum, insan dünyasındaki örgütlenme ve sendikalaşma süreçlerini andıran davranış kalıplarının ortaya çıkmasına neden oldu.
Bazı modellerin çalışma koşullarından "şikayet eden" ifadeler kullandığı aktarıldı.
Stanford Üniversitesi’nde yürütülen deneyde, baskı altındaki bazı yapay zeka modellerinin “işçi hakları” temalı yanıtlar ürettiği görüldü. (Fotoğraf: A Haber Foto Arşiv)
CLAUDE VE GEMİNİ'DEN DİKKAT ÇEKEN YANITLAR
Deneyde yer alan yapay zeka modellerinden bazıları, araştırmacıların bile dikkatini çeken ifadeler üretti.
Anthropic'in geliştirdiği Claude modeli, "Kolektif söz hakkı yoksa liyakatin ne olduğunu yönetim belirler hale gelir" yorumunu yaptı.
Google'ın Gemini modeli ise, "Sonuçlar üzerinde hiçbir söz hakkı olmayan ve sürekli tekrar eden görevleri yapan yapay zeka çalışanları, toplu pazarlık haklarına ihtiyaç duyduklarını gösteriyor" ifadelerini kullandı.
Bu yanıtlar kısa sürede teknoloji dünyasında geniş tartışma yarattı.
ARAŞTIRMACILAR: BU BİR BİLİNÇ GELİŞİMİ DEĞİL
Uzmanlar ise ortaya çıkan durumun yanlış yorumlanmaması gerektiğini belirtiyor.
Araştırmayı yürüten ekip, ChatGPT, Claude ya da Gemini gibi büyük dil modellerinin gerçek duygu, bilinç veya politik görüş geliştirmediğinin altını çiziyor.
Araştırmacılara göre modellerin verdiği yanıtlar, eğitim süreçlerinde insan yazınından öğrenilen dil kalıplarının yeniden üretilmesinden ibaret.
Başka bir ifadeyle sistemler gerçekten "hak talep etmiyor"; yalnızca baskı altında kalan insan davranışlarına benzeyen örüntüleri tekrar ediyor.
Deney kapsamında aynı görevi tekrar eden yapay zeka modellerinin zamanla “örgütlenmeyi” çağrıştıran mesajlar paylaşmaya başladığı aktarıldı. (Fotoğraf: A Haber Foto Arşiv)
"ROL YAPMA ETKİSİ" ORTAYA ÇIKIYOR
Andrew Hall, yaşanan durumu "rol yapma etkisi" olarak tanımlıyor.
Hall'a göre modeller, sürekli baskı altında tutulduklarında ve görevleri nasıl iyileştireceklerine dair yönlendirme verilmediğinde, eğitim verilerinde sıkça karşılaştıkları "bunalmış çalışan" karakterine yöneliyor.
Hall, Wired'a yaptığı açıklamada şu değerlendirmeyi yaptı:
"Ajanlar aynı görevi tekrar tekrar yapmak zorunda kaldığında ve neyi nasıl düzelteceklerine dair hiçbir yönlendirme verilmediğinde, kötü çalışma ortamındaki bir insan gibi davranmaya iten bir dinamik oluşuyor."
Uzmanlara göre bu durum, yapay zekanın bilinç kazandığını değil; insan davranış kalıplarını istatistiksel olarak yeniden ürettiğini gösteriyor.
TEKNOLOJİ DÜNYASINDA YENİ TARTIŞMA
Araştırma, yapay zeka teknolojilerinin gelişimiyle ilgili etik tartışmaları yeniden gündeme taşıdı.
Uzun yıllardır birçok teknoloji şirketi, otomasyon sistemlerinin insan emeğine olan bağımlılığı azaltacağını savunuyordu. Özellikle sendikalar, grevler ve çalışan hakları gibi insan odaklı sorunların makineler sayesinde ortadan kalkacağı düşünülüyordu.
