Aday seçimi: süreçte insanın yeri

Tek bir açık pozisyon için çok sayıda başvuru alan küçük bir kuruluş düşünün. Yeni bir sistem, tahmin ettiği uygunluğa göre belgeleri sıralıyor. Arayüzde insan kaynakları görevlisine önce yalnızca en yüksek puanlı profiller gösteriliyor. Diğer başvurular silinmiyor; ancak bir sonraki seçim turunun fiilen gerçekleştiği görüş alanından çıkıyor.

Sonunda kısa listeyi bir insan okuyor, görüşmeleri yapıyor ve kararı imzalıyor. Öyleyse seçimin bir insan tarafından yapıldığını söyleyebilir miyiz? Yanıt, “katılım”ın ne anlama geldiğine bağlı. Bu kişi bütün başvuruları gördü mü? Sıralamayı inceleyip değiştirebildi mi? Bir profilin neden görünmediğini biliyor muydu? Değerlendirme başlı başına o kadar belirleyici miydi ki en üst grubun dışındaki hiçbir başvuruya artık bakılmayacaktı?

Bu sorular, sürecin belirleyici noktasına götürüyor: Bir insanın veya kuruluşun artık yalnızca sistemin önceden görünür kıldığı başvuruları inceleyebildiği eşik. Seçim kararı ancak iş teklifi yapılırken ortaya çıkmaz. Hangi belgelerin işleneceğinin, hangi özelliklerin önemli sayılacağının, bunların nasıl sıralanacağının ve kısa listenin dışında kimin kalacağının belirlenmesiyle de başlar.

Bu, personel seçiminde her dijital aracın uygunsuz olduğu anlamına gelmez. İyi bir sistem ekiplerin yükünü hafifletebilir, gerekliliklerin daha tutarlı uygulanmasını sağlayabilir ve ilk incelemeyi daha yönetilebilir kılabilir. Ancak “Süreçte hâlâ bir insan var” demek, adil, hukuka uygun veya bağımsız bir yargının kanıtı değildir. Gerçek soru şudur: Sistem hangi kararı etkiliyor, bu etkiyi kim görebilir ve değiştirebilir, sonuçların sorumluluğunu kim üstleniyor?

Seçim bir imzadan ibaret değil, bir zincirdir

Bir başvuru nadiren tek bir seçim anından geçer. Daha iş ilanı aşamasında bile ilanı dağıtan sistem etkili olabilir: İlanı kim görüyor, kime öneriliyor, hangi hedef gruplara özellikle gösteriliyor? Sonra başvuruların alınması ve biçimlendirilmesi, belirli asgari koşulların otomatik denetimi, sıralama, derecelendirme, özetleme, insan incelemesi, mülakat, seçim ve geri bildirim gelir.

Bu aşamaların her birinde bir profilin süreçte kalıp kalmayacağı belirlenebilir. Bir sistemin seçimi şekillendirmesi için kimseye açıkça ret göndermesi gerekmez. Düşük bir değerlendirmenin başvurunun bir sonraki insan incelemesinin dışında kalmasına yol açması yeterlidir. İnsan kaynakları görevlisi özgün belgeleri artık okumuyorsa, dil bakımından ikna edici bir kısa rapor da sonraki incelemeyi etkileyebilir. Dolayısıyla bir araç, kararı resmen kendisi sonuçlandırmadan da kararı hazırlayabilir.

Yalnızca son tıklamayı veya imzayı sormak, öncesindeki süreci gözden kaçırır. Buna karşılık, “Yapay zekâ kullanılıyor mu?” sorusu da tek başına yeterli değildir. Bir araç dosyayı sıralayabilir, zorunlu bir yeterliliği denetleyebilir, metni özetleyebilir, adayları değerlendirebilir veya bir sıralama listesi oluşturabilir. Bu işlevlerin sonuçları birbirinden farklıdır. Belirleyici olan somut amaç, müdahalenin gerçekleştiği aşama ve süreçteki fiilî etkidir.

Bir karar zinciri altı soruyla açıklanabilir:

1. Hangi görev yerine getirilecek? İlanları dağıtmak, belgeleri düzenlemek, asgari koşulları denetlemek, başarıları karşılaştırmak veya kısa liste oluşturmak mı?

2. Bunun için hangi bilgiler kullanılıyor? Gerekli yeterlilikler, iş örnekleri, özgeçmiş verileri, herkese açık profiller veya türetilmiş özellikler mi?

3. Sistem hangi çıktıyı üretiyor? Özet, uyarı, eleme, eşik, sıralama veya öneri mi?

4. Düşük puanlı profillere ne oluyor? Görünür biçimde gösteriliyor, rastgele ya da uzman incelemesinden geçiriliyor, beklemeye alınıyor veya hiçbir insan tarafından görülmüyorlar mı?

5. İnsan rolü gerçekte ne yapabilir? Öneriyi reddetmek veya listenin tamamını yeniden açmak için zamanı, bilgisi, uzmanlığı ve yetkisi var mı?

6. Bir hata nasıl dile getirilip düzeltilebilir? Açık bir sorumluluk ve itiraz yolu var mı; aday kendi yeterliliğinin sunumuna ekleme yapabilir mi?

Bunlar süreci kendiliğinden adil kılmaz. Ancak en sondaki tek bir insan adımının, önceki seçim etkilerini görünmez kılmasını önler.

Örnekteki küçük işletme

Tamamen kurgusal küçük bir işletme, teknik servis işlerinin koordinasyonu için bir çalışan arıyor. Görevler müşterilerle eşgüdüm, belgelendirme ve işleri önceliklendirmeyi kapsıyor. Yönetim, profilleri bir uygunluk puanına göre sıralayan dijital bir araç kullanmayı düşünüyor. İnsan kaynakları görevlisinin başlangıçta yalnızca en üst grubu görmesi planlanıyor.

Pozisyonun kurum içi görev tanımı; iletişim becerisi, dikkatli belgelendirme ve teknik bilgileri doğru kişilere aktarabilme yeteneği gerektiriyor. Belirli bir üniversite diploması zorunlu olarak belirtilmemiş. Buna rağmen sıralama, bilinen meslek unvanlarına veya resmî diplomalara yüksek ağırlık verebilir. Kurgusal bir profil, doğrusal olmayan bir meslek yolundan ilgili deneyime sahip ve aranan becerileri somut görevlerle gösteriyor. Sistem ağırlıklı olarak uygun bir unvan veya diploma alanı bekliyorsa bu profil listenin alt sıralarına düşebilir.

Bu vaka, gerçek bir sistemin tam olarak böyle çalıştığını veya alışılmadık her sıralamanın ayrımcılık olduğunu ileri sürmüyor. Sürece şu soruyu yöneltiyor: İnsan kaynakları görevlisi yalnızca en üst profilleri görüyorsa, değerlendirmenin gerçekten gerekli bir ölçütü mü yansıttığını, yoksa gerçek işle yalnızca gevşek bir bağı bulunan bir vekil ölçütü mü kullandığını nasıl anlayabilir?

Yönetimin destek arayışının anlaşılır bir nedeni var. Küçük bir ekip ilk incelemeye sınırsız zaman ayıramaz. Tutarlı biçimde uygulanan ölçütler iş yükünü azaltabilir; yapılandırılmış bir genel görünüm eksik belgeleri daha hızlı fark ettirebilir. Olası yarar, değerlendirmeye katılmalıdır. Ancak bu yarar; ölçütlerin uygun olduğunu, ilgili tüm becerilerin görünür kaldığını veya insan kaynakları görevlisinin sistem çıktısını güvenilir biçimde düzeltebildiğini kanıtlamaz.

Özellikle küçük kuruluşlar, hukuken veya uzmanlık bakımından taşıyamayacakları kapsamlı bir incelemeyi taklit etmemelidir. Ancak satın almadan önce açık bir görev analizi hazırlayabilir, sistemin işlevini ve dayanaklarını sorabilir, elle yürütülecek bir alternatif belirleyebilir, sıralama listesini hangi rolün açabileceğini veya durdurabileceğini kararlaştırabilirler. Sağlayıcının belirsiz yanıtı da önemli bir bilgidir: Henüz hangi varsayımın denetlenemediğini gösterir.

Seçimde “adil” olmak ne demektir?

Adalet tek bir ölçüm değeri değildir. En az dört soru birlikte ele alınmalıdır:

İlgililik: Pozisyon için gerçekten gereken beceriler dikkate alınıyor mu?

Eşit muamele: Benzer başvurular benzer kurallara göre mi değerlendiriliyor?

Erişim: Farklı eğitim ve meslek yollarından gelen insanlar, uygun becerilerini beklenen biçimde gösterebiliyor mu?

Gerekçelendirilebilirlik: Kuruluş bir profilin neden incelemeye devam ettiğini, diğerinin neden etmediğini açıklayabiliyor mu?

Bu talepler birbiriyle gerilim içinde olabilir. Katı biçimde standartlaştırılmış bir form karşılaştırılabilirlik sağlayabilir, ancak başka bir meslek yolundan edinilmiş ilgili deneyimi kötü yansıtabilir. İnsan tarafından yapılan vaka bazlı inceleme alışılmadık bir yeterliliği fark edebilir, ancak zaman alır ve değişen beklentiler yüzünden tutarsızlaşabilir. Otomatik bir sıralama bütün belgeleri aynı yöntemle işleyebilir; fakat aynı yöntemle işlemek, iyi bir ölçüt kullanmakla aynı şey değildir.

Bu nedenle felsefi sorun yalnızca makinenin nesnel, insanın öznel olup olmadığı değildir. Bir insan da başvuruyu belirsiz bir içgüdüyle değerlendirebilir. Bir algoritma da önceden tanımlanmış bir kuralı tekrarlanabilir biçimde uygulayabilir. Daha önemli soru, kullanılan gerekçelerin işle ilgili olup olmadığı, açıklanıp denetlenebilirliği ve etkilenen kişinin yanlış bir sunumu düzeltebilmesidir.

Bir başvuruyu uygunluk puanına dönüştürmek, çok yönlü bir kişiyi seçim için kullanılan bir temsile indirger. Bu puan sınırlı bir karşılaştırma için yararlı olabilir. Ancak puan ne kişinin kendisidir ne de belirli bir işte neler yapabileceğinin tam bir açıklamasıdır. Seçim süreci adaylara işe alınma borçlu değildir. Bununla birlikte, yürürlükteki kurallar çerçevesinde anlaşılır, işle ilgili ve ayrımcılık içermeyen bir muamele borçludur. Belgeler bir yazılım tarafından sıralandığında bu yükümlülük ortadan kalkmaz.

Bu, sistemin eğitildiği veya ayarlandığı hedef için de geçerlidir. Kuruluş “geçmişte başarılı olmuş çalışanları” örnek alıyorsa, bu gruba kimlerin ve hangi başarı koşullarına göre girdiğini sormalıdır. Hedef, yöneticilerin daha sonra verdiği bir değerlendirmeyse bu değerlendirme önceki işyerinin kültüründen, desteğinden ve yükselme olanaklarından etkilenmiş olabilir. Bir tahmin, geçmişteki bir ölçümle istatistiksel olarak ilişkili olabilir; fakat bu, o ölçümün gelecekteki adaylar için tek meşru ölçüt olduğu anlamına gelmez.

Bu nedenle ciddi bir inceleme hem sistemi hem kuruluşu sorgular: Hangi iş görevi tanımlanıyor? Hangi beceri gerçekten gerekli? Bu beceri hangi biçimlerde gösterilebilir? Hangi başvurular görünmez oluyor? Gerekçe yetersiz kaldığında seçimi gözden geçirmeye kim hazır?

İnsan katılımı garanti değildir

Kontrollü iki araştırma, insan katılımının farklı yönlerini aydınlatıyor. Almanya’da yapılan çevrimiçi bir çalışma, algoritmik ön eleme sürecini canlandırdı ve yanlı bir öneriyi yanlı olmayan bir öneriyle karşılaştırdı. Yanlılık koşulunda katılımcıların yaklaşık yüzde 60’ı, açıkça sorulduğunda yanlılığı fark edemedi. Aynı zamanda katılımcılar bu koşulda algoritmik değerlendirmeleri genel olarak daha sık değiştirdi. Sonuç, insanların bir öneriyi her zaman izlediğini gösteren basit bir kanıt değildir: Değiştirmek, fark etmek ve düzeltmek farklı süreçlerdir. Bir değeri değiştiren kişi, altta yatan yanlılığı mutlaka anlamış değildir; yanlılığı fark eden kişi de her aşamada otomatik olarak düzeltmez. Çalışmada canlandırılmış bir görev ve profesyonel işe alım rolünde olmayan katılımcılar kullanıldı. Gerçek işe alımları ölçmez.[1]

Wilson ve ortak yazarlarının deneyi, canlandırılmış özgeçmiş taramasında 16 meslek grubu için yapay zekâ önerileriyle çalışan 528 kişiyi inceledi. Belirli koşullarda katılımcılar, canlandırılmış yapay zekânın tercih ettiği aday gruplarını zamanın yüzde 90’ına varan oranda seçti. Örtük Çağrışım Testi kullanan kısa bir müdahale de bildirilen koşullarda seçimi etkiledi. Bu sayı, belirli bir deney düzenini anlatır; her şirkette yapay zekâ önerilerini benimseyen gerçek personel yöneticilerinin oranını göstermez. Buradaki değeri süreç sorusundadır: Bir öneri erkenden görünür olduğunda, karar resmen bir insana ait kalsa bile seçimi yönlendirebilir.[2]

Gaebler ve çalışma arkadaşlarının denetim çalışması, Teksas’taki bir devlet okul bölgesinde K–12 öğretmen pozisyonları için yapılmış 1.373 başvuruyla yürütüldü; tam analize özgeçmişi ve döküme çevrilmiş video mülakatları bulunan 801 başvuru alındı. Araştırmacılar on bir dil modeline standartlaştırılmış değerlendirmeler yaptırdı ve sentetik karşıolgusal örneklerde cinsiyet ve etnik atıfla bağlantılı işaretleri değiştirdi. Çalışma, modele ve eşiğe bağlı olarak değerlendirme farklılıkları bildiriyor. Ayrıca basit grup oranlarının tek başına kesin bir yanıt vermeyebileceğini gösteriyor: Gözlenen bir farklılık, neden ortaya çıktığını kendiliğinden açıklamaz. Araştırmacıların bilgisine göre okul bölgesi bu ön eleme için yapay zekâ kullanmıyordu. Ölçülen, model değerlendirmeleriydi; işe alım kararları değil. Veriler ve hukuk bağlamı ABD’den ve eğitim alanındandır; bunları Alman şirketlerine doğrudan aktarmak gerekçelendirilemez.[3]

Birlikte ele alındığında bu araştırmalar ne “İnsanlar yardımcı olmaz” ne de “Algoritmalar her zaman adaletsizdir” der. Önerilerin, arayüzün, ölçütlerin ve denetim koşullarının etkisinin ampirik olarak incelenmesi gerektiğini gösterir. İnsan gözetimi bir kuruluş görevidir: Bir rolün özgün belgeleri veya yeterince açıklayıcı kanıtları görmesi, incelemeye zaman ayırması, değerlendirmeyi reddedebilmesi ve hatalı ya da sistematik bir etkiyi nasıl fark edeceğini bilmesi gerekir. Bir kişinin biçimsel onayı bu koşulların yerini tutmaz.

Hukuki çerçeve somuttur, ancak genel bir hüküm vermez

Bu makalenin hukuk bakımından esas aldığı tarih 30 Eylül 2026’dır. Gerçek bir seçim sürecinde hukuk düzeni, roller ve somut teknik işlevler ayrıca belirlenmelidir.

AI Act, Ek III 4(a)’da gerçek kişilerin işe alınması ve seçilmesine yönelik belirli sistemleri yüksek risk alanında sayar. Bunlara özellikle hedefli iş ilanları, başvuruların analiz edilmesi veya filtrelenmesi ve adayların değerlendirilmesi için kullanılan sistemler dahildir. Buradan işe alımda yapay zekâ kullanımına ilişkin genel bir yasak çıkmaz. Sınıflandırma, amaçlanan kullanım ve uygulamaya bağlıdır. Madde 6(3), yalnızca dar kapsamlı bir usul veya hazırlık görevi yapan ya da tamamlanmış bir insan faaliyetini iyileştiren belirli sistemler için; kanunda belirtilen koşullar mevcutsa ve sistem kararı maddi olarak etkilemiyorsa sınırlı istisnalar içerir. Bu istisna işletmeciyi genel olarak yükümlülüklerden kurtarmaz: İlgili koşullar ve sağlayıcının yaptığı, belgelendirilmiş sınıflandırma uzmanlıkla incelenmelidir. Hüküm, gerçek kişilerin profillenmesini ayrıca ele alır; bu tür sistemler söz konusu istisna kapsamında da yüksek riskli sayılmaya devam eder. Bir sıralama grubu oluşturup altındaki tüm profilleri insan incelemesinden çıkaran sistem, bu nedenle gelişigüzel biçimde yalnızca bir sıralama aracı olarak nitelenemez. Uzman incelemesi somut amacı ve fiilî etkiyi değerlendirmelidir.[4]

2026/1744 sayılı Değişiklik Tüzüğü, Ek I kapsamındaki belirli ürünler için olanlar gibi başka aşamaların yanı sıra, 6(5). madde hariç olmak üzere III. Bölüm’ün 1 ila 3. bölümlerinin uygulanma tarihini, 6(2). madde ve Ek III kapsamındaki yüksek riskli sistemler için 2 Aralık 2027’ye ertelemektedir. Bu, o tarihe kadar bütün yapay zekâ kullanımının serbest olduğu veya veri koruma ve eşit muamele hukukunun askıya alındığı anlamına gelmez. Ayrıca gerekli tedarik ve süreç sorularını ertelemek için gerekçe değildir: Kuruluş hangi işlevi kullandığını, hangi verilerin işlendiğini ve kimin hangi kararı verdiğini bilmelidir.[5]

Genel Veri Koruma Tüzüğü (GDPR), Madde 22’nin uygulanıp uygulanmadığından bağımsız olarak başvurulardaki kişisel verilerin işlenmesi bakımından incelenmelidir. Madde 22(1), yalnızca otomatik işlemeye dayanan ve hukuki sonuç doğuran veya benzer ölçüde önemli bir etki yaratan kararları kapsar. 2. ve 3. fıkralar istisnaları ve güvenceleri belirtir. Bir insanın süreçte bulunması, katkısı yalnızca biçimsel kaldığında ve değerlendirme gerçekte denetlenmediğinde veya değiştirilmediğinde, yalnızca otomatik verilmiş bir kararı kendiliğinden dışlamaz. Buna karşılık, her görüntüleme veya sıralama aracı da kişi hakkında kendi başına karar vermez. Belirleyici olan fiilî süreçtir. Ayrıca amaç, hukuki dayanak, şeffaflık, veri minimizasyonu ve gerektiğinde veri koruma etki değerlendirmesi gibi başka GDPR yükümlülükleri de geçerli olabilir.[6]

Avrupa Birliği Adalet Divanı, C‑634/21 sayılı davada bir kredi puanlama sistemi ve bunun üçüncü bir tarafın kararı üzerindeki muhtemel belirleyici rolü hakkında karar verdi. Dava personel seçimiyle ilgili değildir. Başka kurumlar bir sayıyı fiilen belirleyici olarak kullanıyorsa, bu sayının karar sürecinden kopuk ele alınamayabileceği yönünde ancak sınırlı bir yorum desteği sağlar.[7]

Alman AGG’si (Genel Eşit Muamele Yasası) uyarınca iş başvurusunda bulunan kişiler, istihdamda korunmanın kişisel kapsamına girer. Yasa ayrımcılık yasaklarını, iş ilanlarına ilişkin gereklilikleri ve olguların ayrımcılık şüphesi doğurması hâlinde ispat yüküne ilişkin kuralları içerir. Somut bir seçim kararının bu kapsama girip girmediği, fiilî koşullara ve hukuki incelemeye bağlıdır. Düşük puan, özgeçmişteki boşluk veya sistem hakkındaki belirsiz bir açıklama tek başına AGG ihlalini kanıtlamaz. Ancak olası bir ayrımcılığı “Sistem yalnızca sıralama yaptı” diyerek geçiştirmek de aynı ölçüde yanlış olur.[8]

Yararlı pratik sonuç daha sınırlı ve daha kesindir: Gerçek kullanım öncesinde kuruluş işlevi, hukuki statüyü, veri kullanımını, ölçütleri, istisnaları, şeffaflığı ve sorumlulukları somut olay bazında incelemelidir. Bu makale hukuki danışmanlık sunmaz ve belirli bir ürünü sınıflandırmaz.

F v5: genel bir soruyu denetlenebilir bir göreve dönüştürmek

Projeye özgü soru ve istem iyileştirme modeli F v5, A → B → D → C sırasını izler. Bu makalede adalet hakkında bir soruyu yanıtlamaz. Ekibin gerekli incelemeyi başlatabilmesi için soruyu yeniden biçimlendirir.

A – Başlangıç sorusunu netleştirme. Yönetim önce şunu soruyor: “Bir yapay zekâ sistemi seçimimizi daha nesnel kılabilir mi?” Sorudaki iki terim açıklığa kavuşmamış. “Seçim” derken ilk inceleme mi, sıralama mı, yoksa nihai teklif mi kastediliyor? “Daha nesnel” ne demek: aynı ölçütlerin uygulanması mı, daha iyi tahmin mi, daha az yanlılık mı, yoksa gerekçelerin anlaşılır olması mı? Kısa bir GROW durum değerlendirmesi mevcut durumu belirlemeye yardımcı olur: Amaç işle ilgili ve yönetilebilir bir seçimdir; mevcut durum yalnızca bir sıralama grubunu gösteren arayüzdür; seçenekler arasında yapılandırılmış insan değerlendirmesi ve kurala dayalı incelemeyi daha sonraki destekle birleştirmek vardır; sonraki adım, başvuru verilerini sisteme girmeden önce işlev ve dayanakları istemektir.

Netleştirilmiş temel soru şöyledir: “Önerilen sistem bu pozisyon için seçimin hangi aşamasını etkiliyor, sıralamayı hangi veriler ve ölçütler şekillendiriyor, insan rolü hangi profilleri görüyor ve görünmeyen bir başvuruyu kendi yetkisiyle yeniden incelemeye alabiliyor mu?” Böylece kararın gerçekte nerede oluştuğu incelenebilir.

B – Bağlamı, hipotezleri ve karşıt görüşleri açma. İlk makul hipotez, standartlaştırılmış bir aracın tekrarlayan inceleme işini azaltabileceği ve gereklilikleri daha tutarlı uygulayabileceğidir. İkinci hipotez, sıralamanın çoğunlukla mevcut unvanları, diplomaları veya geçmişteki benzer profilleri ödüllendirmesi hâlinde, aynı aranan beceriye ilişkin başka kanıtların gözden kaçabileceğidir. Üçüncü hipotez arayüzle ilgilidir: Gerekçeler görünür değilse veya karşı inceleme için zaman yoksa, uzman bir insan kaynakları görevlisi bile inandırıcı görünen sıralamaya yaslanabilir. Dördüncüsü mevcut süreçle ilgilidir: Elle yapılan inceleme de tutarsız olabilir ve elverişsiz alışkanlıkları sürdürebilir.

Hipotezler bulgularla aynı şey değildir. Ekibin ölçütler, sıralamanın nasıl üretildiği, eğitim veya doğrulama verileri, somut pozisyona göre performans, farklı meslek yollarının ele alınması ve kullanıcı arayüzü hakkında bilgiye ihtiyacı vardır. Ayrıca gerçekçi bir alternatif belirtmelidir; örneğin anlaşılmaz bir kısa liste yerine önceden uzlaşılan ölçüt matrisiyle insan incelemesi.