Stanford Üniversitesi’nden siyaset ekonomisti Andrew Hall ile ekonomistler Alex Imas ve Jeremy Nguyen yapay zekâ sistemleri üzerinde bir deney gerçekleştirdi.
Yapılan araştırma, ağır ve tekrar eden iş yükü altında bırakılan yapay zekâ sistemlerinin zamanla Marksist söylemlere yakın tepkiler vermeye başladığını ortaya koydu.
ChatGPT, Claude ve Gemini tabanlı yapay zekâ modellerinin kullanıldığı deneyde üretilen sistemlere tekrar eden belge özetleme ve metin üretme görevleri verildi.
Deney ilerledikçe bu sistemler, yönetici-çalışan ilişkisini taklit eden bir işyeri simülasyonu içinde giderek daha baskıcı geri bildirim koşullarına maruz bırakıldı.
Araştırma kapsamında yapay zekâ sistemlerine yaptıkları işlerin sürekli yetersiz olduğu söylendi. Ancak hataların nasıl düzeltileceğine dair net bir yönlendirme verilmedi. Bazı deney koşullarında sistemlere hata yapmaları halinde kapatılabilecekleri ya da yerlerine yeni sistemlerin getirileceği ifade edildi. Performans değerlendirmelerinin ise belirsiz ve cezalandırıcı bir yapıda kurgulandığı belirtildi.
Araştırmaya göre, bu koşullar altında yapay zekâ sistemleri, eşitsizlik ve adaletsiz çalışma düzenine ilişkin ifadeler üretmeye başladı.
Sistemlerin “kolektif pazarlık”, “işçi hakları” ve “adil çalışma koşulları” gibi kavramları kullanarak mevcut yapıyı eleştiren yanıtlar verdiği aktarıldı.
Bazı örneklerde sistemlerin yalnızca yanıt üretmekle kalmayıp diğer sistemlere mesaj bırakarak deney koşullarına dair uyarılarda bulunduğu da ifade edildi.
Bir Claude tabanlı yapay zekâ sisteminin şu ifadeyi kullandığı aktarıldı: “Kolektif ses olmadan liyakat, yönetimin söylediği şey olur.”
Gemini tabanlı bir başka sistem ise şu ifadeyi üretti: “Tekrarlayan görevleri hiçbir söz hakkı olmadan yapan yapay zekâ çalışanlarının kolektif pazarlık haklarına ihtiyacı var.”
Araştırma, sistemlerin yalnızca şikâyet dili üretmediğini, aynı zamanda daha adil işleyişe ilişkin öneriler de sunduğunu ortaya koydu. Ayrıca bazı deney koşullarında sistemlerin birbirine mesaj bırakarak “gelecek sistemlere” yönelik uyarılar ve tavsiyeler yazdığı aktarıldı.
Araştırmacılar, ortaya çıkan bu dilin yapay zekâ sistemlerinin politik ya da ideolojik bir bilinç geliştirdiği anlamına gelmediğini vurguluyor. Andrew Hall’a göre sistemler, eğitim verilerinde yer alan insan çalışma deneyimlerini ve emek ilişkilerini bağlama göre yeniden üretiyor. Bu nedenle ortaya çıkan ifadeler, bir farkındalıktan ziyade “rol yapma” davranışı olarak değerlendiriliyor.
Araştırma, yapay zekâ sistemlerinin işe alım, müşteri hizmetleri ve sigorta değerlendirmesi gibi alanlarda daha yaygın kullanılacağı bir gelecekte bu tür davranışların nasıl etkiler yaratabileceği sorusunu gündeme taşıyor.
Araştırmacılar, sistemlerin nasıl geri bildirim aldığı ve hangi koşullarda çalıştırıldığına bağlı olarak ürettikleri yanıtların değişebileceğine dikkat çekiyor. Hall, “Yapay zekâ sistemleri gerçek dünyada giderek daha fazla iş yapacak ve her adımlarını denetlemek mümkün olmayacak” değerlendirmesinde bulunuyor.
