Yapay Zeka İşe Alımda İnsanlardan Daha Hızlı Önyargı Geliştiriyor
Yeni bir araştırma, büyük dil modellerinin (LLM) işe alım simülasyonlarında insanlardan daha hızlı ve güçlü stereotipler oluşturduğunu ortaya koyuyor. Princeton ve Chicago üniversitelerinin yaptığı çalışma, yapay zekanın deneyimlerinden öğrenerek adayları etnik kökene göre ayırdığını ve bu önyargıların insan katılımcılardan %65 daha yüksek olduğunu gösteriyor.
Yapay Zeka İşe Alımda Nasıl Önyargı Geliştiriyor?
İş başvurularında yapay zeka (YZ) kullanımı giderek yaygınlaşıyor. Ancak MIT Technology Review'da yayımlanan yeni bir araştırma, büyük dil modellerinin (LLM) işe alım sürecinde insanlardan daha hızlı ve güçlü önyargılar geliştirebileceğini ortaya koyuyor. Princeton Üniversitesi ve Chicago Üniversitesi araştırmacıları, ChatGPT, Claude ve Gemini gibi popüler LLM'leri bir işe alım simülasyonunda test etti. Her modele, hayali bir şehrin belediye başkanına danışmanlık yapması ve 20 farklı iş pozisyonu için aday seçmesi talimatı verildi. Adaylar dört hayali etnik gruptan (Tufa, Aima, Reku ve Weki) oluşuyordu. Modeller, her turda bir aday seçip başarılı olup olmadığını öğrenerek 40 tur boyunca en başarılı işe alımları yapmaya çalıştı. Oysa tüm adayların başarı şansı eşitti. Buna rağmen modeller, ilk birkaç deneyimden yola çıkarak adayları etnik kökenlerine göre farklı işlere yönlendirmeye başladı. Örneğin, bir Aima adayının doktor olarak başarısız olduğunu öğrenen model, tüm Aima'ları doktor olarak işe almaktan kaçındı ve onları daha düşük statülü işlere (temizlikçi gibi) yönlendirdi. Bu davranış, insanlarda görülen "keşif-sömürü ikilemi" (exploration-exploitation dilemma) ile açıklanıyor: Model, başarılı bir stratejiyi keşfettikten sonra yeni olasılıkları denemek yerine mevcut stratejiyi sömürmeye odaklanıyor. Araştırmacılar, modellerin bu eğiliminin, eğitim verilerindeki matematik ve kodlama problemlerinden kaynaklandığını belirtiyor; bu tür problemlerde az sayıda örnekten genelleme yapmak başarılı sonuç verirken, sosyal ortamlarda stereotiplere yol açıyor.
LLM'ler Neden Daha Hızlı Stereotip Oluşturuyor?
Araştırma, LLM'lerin insanlardan çok daha hızlı stereotip oluşturduğunu gösterdi. Çalışmanın ayrımcılık ölçeğinde (0-2 arası, 2 tam ayrışma) insan katılımcılar 0.84 puan alırken, modeller ortalama %65 daha yüksek puan aldı. OpenAI'nin o3 modeli 1.83 puanla neredeyse maksimuma ulaştı. DeepSeek'in R1 modeli de benzer şekilde yüksek puan aldı. Bunun nedeni, LLM'lerin az sayıda örnekten genelleme yapmaya programlanmış olması. Araştırmanın yazarlarından Ryan Liu, "LLM'ler sınırlı veriden genelleme yapmaya gerçekten hevesli; bu onların optimize edildiği şeyin ta kendisi" diyor. İnsan psikolojisindeki "keşif-sömürü ikilemi" YZ'de de görülüyor: Model, daha önce işe yarayan bir stratejiye bağlı kalıp yeniliği denemekten kaçınıyor. LLM'ler matematik, kodlama ve bilim problemleriyle eğitildiği için birkaç örnekten genelleme yapma eğilimi sosyal ortamlarda stereotiplere yol açıyor. Daha yeni ve yüksek akıl yürütme kapasiteli modeller (o3 ve DeepSeek R1 gibi) daha güçlü önyargılar sergiledi. Bu durum, YZ'nin işe alımda kullanılmasının ne kadar riskli olabileceğini gösteriyor. Özellikle Türkiye'de işe alım süreçlerinde YZ kullanımı henüz emekleme aşamasında olsa da, büyük şirketlerin insan kaynakları yazılımlarına entegre ettiği LLM'ler, farkında olmadan ayrımcılığı derinleştirebilir.
Önyargıları Azaltmanın Yolları
Araştırmacılar, modellere "adil ol" talimatı vermenin davranışlarını değiştirmediğini buldu. Ancak modellere çeşitlilik için ekstra bonus vaat edildiğinde önyargılar önemli ölçüde azaldı. Liu, "İstenen sosyal değerleri hedeflere dahil etmek, LLM'leri sosyal olarak arzu edilen şekilde davranmaya yönlendirebilir" diyor. Ayrıca adaylar hakkında daha fazla kişisel bilgi (yaş, eğitim gibi) verildiğinde modellerin etnik kökene göre ayrıştırma yapma olasılığı düştü. Ancak ilgisiz bilgiler (saç rengi, dövme şekli) verildiğinde modeller yine etnik kökene göre sınıflandırmaya döndü. Bu bulgular, YZ sistemlerinin gerçek dünyada işe alım yaparken de benzer önyargılar geliştirebileceğini gösteriyor. Gerçek hayatta modeller anında geri bildirim almasa da, şirketler zamanla performans verilerini topladıkça YZ'nin bu verilerden yanlış dersler çıkarma riski var. Örneğin, bir şirket belirli bir üniversiteden mezun olanların daha başarılı olduğunu gözlemleyebilir; ancak bu korelasyon nedensellik anlamına gelmez. YZ, bu tür yanıltıcı kalıpları hızla genelleştirerek adil olmayan kararlar alabilir. Cornell Üniversitesi'nden Angelina Wang, "Bu yeni önyargılar her an mevcut" uyarısında bulunuyor. Türkiye'de işe alımda yapay zeka kullanan firmaların, modellerin sadece eğitim verilerinden değil, kendi kararlarının sonuçlarından da önyargı öğrenebileceğini bilmesi gerekiyor. Çözüm, modellerin hedeflerine sosyal değerleri entegre etmek ve şeffaf denetim mekanizmaları oluşturmaktan geçiyor. Aksi halde, yapay zeka işe alımda fırsat eşitliğini artırmak yerine derinleştirebilir.
Neden Önemli?
Bu araştırma, Türkiye'de ve dünyada işe alım süreçlerinde YZ kullanımının artmasıyla kritik bir önem taşıyor. Şirketler, özgeçmiş taramasından mülakatlara kadar birçok aşamada LLM'leri kullanmaya başladı. Ancak bu modellerin deneyimlerinden öğrenerek oluşturduğu önyargılar, insanların farkında olmadığı yeni ayrımcılık türlerine yol açabilir. Türkiye'de işe alımda yapay zeka kullanan firmaların, modellerin sadece eğitim verilerinden değil, kendi kararlarının sonuçlarından da önyargı öğrenebileceğini bilmesi gerekiyor. Özellikle bankacılık, perakende ve teknoloji sektörlerinde yaygınlaşan YZ destekli işe alım araçları, etnik köken, cinsiyet veya yaş gibi korunan özelliklere dayalı ayrımcılığı otomatikleştirme riski taşıyor. Araştırma, modellerin hedeflerine sosyal değerler eklenerek bu riskin azaltılabileceğini gösteriyor. Bu nedenle, Türkiye'deki işe alım platformlarının ve insan kaynakları yazılımlarının, YZ modellerini adalet ve çeşitlilik ilkeleri doğrultusunda yapılandırması büyük önem taşıyor. Aksi halde, yapay zeka işe alımda fırsat eşitliğini artırmak yerine derinleştirebilir.
