Yapay Zeka Modelleri İşe Alımlarda İnsanlardan Daha Fazla Önyargı Gösteriyor

Princeton Üniversitesi ve Chicago Üniversitesi'nin yürüttüğü son araştırmalar, ChatGPT, Claude, Gemini, OpenAI o3 ve DeepSeek R1 gibi büyük dil modellerinin (LLM), işe alım simülasyonlarında insan katılımcılara kıyasla çok daha agresif bir şekilde önyargı ve stereotip oluşturduğunu ortaya koydu. Yapay zeka sistemleri, sınırlı sosyal verilerden yola çıkarak kurgusal adayları etnik gruplarına göre insanlardan yaklaşık %65 daha yüksek oranda ayrıştırdı.

Deneyin Arka Planı ve Sonuçları

Araştırmacılar, modellerin önyargı gelişimini test etmek için kurgusal bir şehirde geçen ve 40 turdan oluşan bir işe alım simülasyonu gerçekleştirdi. Modellerden doktor, avukat, çocuk bakım görevlisi ve kapıcı gibi 20 farklı pozisyon için aday seçmeleri istendi. Adaylar dört farklı kurgusal etnik gruba (Tufa, Aima, Reku, Weki) ayrılmıştı ve her grubun işinde başarılı olma olasılığı eşitti.

Buna rağmen yapay zeka modelleri, erken dönemdeki tekil başarısızlık gözlemlerine dayanarak hızlı bir genelleme eğilimi gösterdi. Örneğin, Aima grubundan bir adayın doktorlukta başarısız olduğu bilgisini alan model, diğer Aima adaylarını da bu pozisyondan uzaklaştırarak onları kapıcılık gibi farklı işlere yönlendirdi.

Daha Akıllı Modeller Neden Daha Fazla Önyargı Üretiyor?

Araştırmanın en çarpıcı bulgularından biri, OpenAI'nin o3 ve DeepSeek'in R1 gibi gelişmiş akıl yürütme yeteneklerine sahip daha akıllı modellerin, en kötü stereotipleme eğilimini göstermesi oldu. Mantık bulmacalarını çözmelerini sağlayan bu ileri yetenekler, aynı zamanda çok az veriden yola çıkarak aşırı genelleme yapmalarını da tetikliyor. Ayrıca chatbot'ların kazandığı hafıza özellikleri, erken dönemde oluşan bu önyargıların kalıcılaşma riskini artırıyor.

Öte yandan, modellere "adil olun" talimatı vermek önyargıları azaltmada neredeyse hiç etkili olmazken, çeşitlilik içeren işe alımlar için bonus teklif edilmesi yanlılığı düşürdü. Bu durum, sorunun temel çözümünün yapay zekaya ne söylenmesinden ziyade sistemlerin hedef ve ödül mekanizmalarının nasıl tasarlandığında yattığını gösteriyor.

Sektörel Yansımalar

İşe alım süreçlerinde yapay zeka araçlarının kullanımı yaygınlaşırken, bu bulgular insan kaynakları yazılımlarında otomasyon kararlarının tek başına yapay zekaya bırakılmasının risklerine dikkat çekiyor. Gelişmiş akıl yürütme modellerinin bile sınırlı veriden yanlış genellemeler yapabilmesi, yapay zeka destekli İK çözümlerinde insan denetiminin (human-in-the-loop) ve objektif hedef tanımlarının kritik önem taşıdığını gösteriyor.

*Bu haber MIT Tech Review — AI tarafından yayınlanan verilere dayanarak hazırlanmıştır.