Zaman Baskısı Altında Yargıda Bulunmak

Bir kişi “Onayla” düğmesine tıklar. Kâğıt üzerinde yapay zekâ önerisi incelenmiştir. Peki bu kişi talebin özgün içeriğini gördü mü? Öneriyi anlamak için yeterli zamanı var mıydı? Katılmadığında karşı çıkabilir, işlemi durdurabilir veya daha fazla bağlama sahip birine yönlendirebilir miydi? Kuyruk incelemenin tamamlanabileceğinden daha hızlı büyürse ne olur?

Bu sorular, insan gözetiminin özüne ilişkindir. Bir kurum inceleme zorunluluğu koyabilir ama hiç kimsenin anlamlı biçimde inceleme yapamadığı bir iş akışı da tasarlayabilir. Tıklama görünürdür; gerektirdiği dikkat görünmez. Burada etik bir gerilim doğar: Yapay zekânın işi kolaylaştırmasını isteriz, ancak zaman, bilgi veya hareket alanı olmayan bir kişiyi sürece eklemek insan rolünü korumaz.

Temel sav: İnsan gözetimi bir onay kutusunun özelliği değildir; kurumsal bir kapasitedir. İlgili bilgiye, yeterli yetkinliğe, gerçek inceleme süresine, müdahale yetkisine ve rutine uymayan vakalar için güvenli bir yola ihtiyaç duyar. İncelemenin derinliği olası zarara, geri döndürülebilirliğe ve belirsizliğe göre belirlenmelidir. Gerekli kapasite yoksa süreç görevi daraltabilmeli, erteleyebilmeli, başka bir yola yönlendirebilmeli veya durdurabilmelidir.

Bu yazı, pratik yargı üzerine felsefi soruları zaman baskısı ve yapay zekâ destekli kararlar hakkındaki kontrollü çalışmalarla birleştiriyor. Tamamen kurgusal bir KOBİ vakası, Soru Genişletme Modeli ile Konsültasyon Modelinin “insan kontrolü” gibi soyut bir talebi somut ve denetlenebilir iş kurallarına nasıl dönüştürebileceğini gösteriyor. Önerilen matris editoryal bir çalışma aracıdır; bilimsel olarak doğrulanmış bir risk ölçeği değildir.

Kimler için: Küçük ve orta ölçekli işletmeler, kurs yürütücüleri, yapay zekâ çıktısını inceleyen veya iş akışlarına entegre eden ekipler ve sorumluluğu bir tıklamayla karıştırmak istemeyen öğrenenler.

Öğrenme kazanımı: İçerik bakımından incelemeyi yalnızca süreçte bir kişinin bulunmasından ayırabilir, kapasite açığını görünür kılabilir ve olası zarar, geri döndürülebilirlik, belirsizlik, yetkinlik ve mevcut zamanı birlikte dikkate alan inceleme kuralları tasarlayabilirsiniz.

1. Kâğıt Üzerindeki İnceleme

Tamamen kurgusal küçük bir BT hizmet işletmesi, gelen talepleri “rutin”, “ek bilgi gerekli” ve “acil” gibi kategorilere ayırmak için yapay zekâ kullanıyor. Yönetim her sınıflandırmanın bir çalışan tarafından onaylanmasını şart koşuyor. Bu açık bir güvence gibi görünüyor: Kararı yalnızca yapay zekâ vermiyor.

Sonra kuyruk büyüyor. Bu kurgusal alıştırmada üç saatlik çalışma aralığında 54 talep geliyor. Özgün metni okumak, bağlamı bulmak ve kategoriyi değerlendirmek gerektiğinden dikkatli bir inceleme ortalama 75 saniye sürüyor. Bu, yalnızca inceleme için 67,5 dakika demek. Oysa ekipte müşteri görüşmeleri, sorular ve kesintilerden sonra bu işe en fazla 45 dakika kalıyor. Bu sayılar gerçek bir işletmeden alınmış gözlemler değil, açıklama amacıyla belirlenmiş varsayımlardır.

Bu koşullarda “her şeyi inceleyin” talimatı yerine getirilemez hâle geliyor. Bazı kayıtlar hızlıca gözden geçiriliyor. Bazıları, ayrıntıları incelemek yerine kuyruğu boşaltmak öncelik kazandığı için onaylanıyor. Süresi yakında dolacak bir erişimle ilgili talep rutin olarak sınıflandırılıyor. Modelin özellikle ikna edici bir açıklama sunmuş olması gerekmiyor; talep yalnızca diğerlerinin arasında kaybolmuş olabilir.

Artık önemli soru “Bir insan onayladı mı?” değil, şudur: “Hangi vakalar ne tür bir inceleme gerektiriyor, kim hangi bilgiyle ve ne kadar sürede bunu yapabilir ve gerekli zaman bulunmadığında ne oluyor?” Odak, bireysel bir hatadan yargıda bulunmayı mümkün kılan koşullara kayıyor.

Vaka bütünüyle kurgusaldır. Gerçek bir kişiyi, müşteriyi, kurumu veya ürün ortamını anlatmaz. Sayılar yalnızca aritmetik bir uyumsuzluğu gösterir: 54 talep × 75 saniye = 4.050 saniye, yani 67,5 dakika. En fazla 45 dakika ayrılmışsa 22,5 dakika eksiktir. Kurum yalnızca bir güvence eklememiştir; kendi çizelgesinin izin verdiğinden daha fazla inceleme işi istemiştir.

Bu açığı kapatmanın birkaç yolu vardır. Şirket inceleme süresini artırabilir, hacmi sınırlayabilir, yalnızca seçilmiş vakalara derin inceleme uygulayabilir veya yapay zekâ dışı bir yolu devreye sokabilir. Yapay zekâ adımının net bir yarar sağlamadığı da ortaya çıkabilir. Kurumun yapamayacağı şey, yerine getirilemez bir talimatı inceleyenin kişisel yetersizliği gibi sunmaktır.

2. Yargı, Bir Kuralı Uygulamaktan Fazlasıdır

Aristoteles, Nikomakhos’a Etik’te kuramsal bilgiyi değişen koşullar ve somut eylemlerle ilgili pratik bilgelikten ayırır. Genel kurallar yol gösterebilir; ancak tekil bir durumda hangi ayrıntıların önemli olduğunu ve hangi eylemin ilgili iyi amaca hizmet ettiğini bir kişinin kavraması gerekir. Pratik bilgelik, her vakada kendiliğinden uygulanabilen bir kuraldan ibaret değildir. [1]

Bu, Aristoteles’in yapay zekâ gözetimi kuramını önceden ortaya koyduğu anlamına gelmez. Daha sınırlı bağlantı şudur: Sınıflandırma genel örüntüleri yakalayabilir, fakat tekil bir vakanın anlamı neyin tehlikede olduğuna da bağlıdır. “Erişim engellendi” rutin bir parola sıfırlama işlemi olabilir; yaklaşan bir son tarihten hemen önce tüm çalışma sürecini aksatabilir de. Yalnızca bir metin parçasını gören sistem geçmişi veya gecikmenin sonuçlarını bilmiyor olabilir.

Yargı fikri insanları idealize etmeye davet etmez. İnsanlar hata yapar, yorulur, kanıtı gözden kaçırır ve teşviklere tepki verir. Aşırı yüklü bir kuyruğu inceleyen kişi otomatik olarak sistemden daha güvenilir değildir. Yalnızca insanlara dayalı bir süreç de yavaş, tutarsız veya adaletsiz olabilir. Bu yüzden yapay zekâ destekli her çözüm, gerçek görev ve sonuçları bakımından sınanmalıdır.

Etik ölçüt, sürece mümkün olduğunca sık insan eklemek değildir. Kurumun belirli bir inceleme düzeyinin neden yeterli olduğunu ve sorun çıktığında kimin harekete geçebileceğini açıklayabileceği kararlar tasarlamaktır. İnsan rolü, ilgili algı, uzmanlık veya müdahale kapasitesi sağlıyorsa anlamlıdır. Bunlar yoksa “döngüde insan” yalnızca bir etiketten ibarettir.

Özerklik de yalnızca kişinin resmî olarak karar verme yetkisine bağlı değildir. Kişinin gerekçelere, gerçek bir alternatife ve öneri uygun olmadığında ceza korkusu olmadan karşı çıkma imkânına ihtiyacı vardır. İş baskısı itirazı fiilen imkânsız kılıyorsa, müdahale hakkı süreç belgesinde yazılı olsa da uygulamada içi boş kalır.

3. Zaman Baskısı ve Yapay Zekâ Desteği Hakkında Araştırmalar Ne Gösteriyor

Deneyler, zaman baskısının ve arayüz tasarımının bazı yönlerini kontrollü biçimde inceleyebilir. Ancak günlük ofis işlerini kendiliğinden tahmin etmez. Aşağıdaki bulgular hem “insanlar baskı altında her zaman yapay zekâya daha çok güvenir” düşüncesine hem de “insan incelemesi her zaman daha iyidir” varsayımına karşı çıkar.

3.1 Laboratuvar Görevinde İki İnceleme Sırası

Rieger ve Manzey, iki laboratuvar deneyinde X-ışını bagaj tarama görevi kullandı. Her deneyde analiz edilen 60 katılımcı belirli nesneleri aradı. Katılımcılar ya karar desteği olmadan ya da deney koşulunda güvenilirliği yüzde 95 veya yüzde 75 olarak ayarlanmış bir sistemle çalıştı. Her görüntüyü incelemek için 4,5 veya 9 saniyeleri vardı. Katılımcılar Berlin Teknik Üniversitesi psikoloji bölümünün katılımcı bulma sistemiyle seçildi; görev kontrollü bir laboratuvar alıştırmasıydı. [2]

Birinci deneyde katılımcılar görüntüyü kendileri incelemeden önce sistem önerisini gördü. Daha kısa zaman sınırında destek olsun veya olmasın performans düştü. Bu görevde sistemin olumsuz işaretine, yani hedef nesnenin bulunmadığı sinyaline uyma eğilimi zaman baskısı altında kendiliğinden artmadı; bu düzende biraz azaldı. İkinci deneyde katılımcılar önce görüntüyü inceledi ve ilk yanıtı verdi, ardından öneriyi gördü. Bu durumda zaman baskısının olumsuz etkisi her iki destek koşulunda büyük ölçüde kayboldu; manuel koşulda ise sürdü. [2]

Bu sonuç ilginç ama sınırlıdır. Önerinin zamanlamasının değiştirilmesi ve kararı düzeltme için ek fırsat verilmesi performansı etkilemiş olabilir. Deney tasarımının parçası da buydu. Dolayısıyla çalışma, “önce kendin düşün, sonra yapay zekâyı gör” düzeninin her yerde üstün olduğunu göstermez. Sıralamanın ve müdahale imkânının iş birliğini değiştirebildiğini gösterir.

Başka bir bulgu da yaygın bir varsayımı sorgulatıyor: Test edilen koşullarda insan ile sistemin ortak performansı, yüksek güvenilirliğe sahip karar desteğinin tek başına performansından çoğu kez düşüktü. Bu, insanların her zaman gözetimden çıkarılması gerektiği anlamına gelmez. Katılımlarının bir amacı olması gerektiğini, insan eklemenin kendiliğinden daha iyi sonuç garantilemediğini gösterir. Uygun olmayan bir düzeltme, iyi bir sistem önerisini kötüleştirebilir. [2]

3.2 Hız Artarken Yapay Zekâya Aşırı Dayanma da Artabilir

Swaroop ve çalışma arkadaşları, yeni tasarlanmış mantık bulmacaları kullanan iki kontrollü çevrimiçi deney yaptı. Katılımcılar kurgusal “uzaylıya ilaç” görevinde bir seçenek belirledi. Araştırma, görev zorluğunu, yapay zekâ kalitesini ve zaman baskısını değiştirebiliyordu. Birinci deneyde başlayan 207 kişiden 159’u analize alındı; ikinci deneyde başlayan 403 kişiden 316’sı analiz edildi. [3]

Araştırmacılar iki sırayı karşılaştırdı. AI-before koşulunda öneri kişinin kararından önce gösterildi. AI-after koşulunda kişi önce bir ilk karar verdi, ardından yapay zekâ önerisini gördü. Birinci deneyde, zaman baskısının AI-before koşulunda aşırı dayanmayı doğrudan artırdığı hipotezi istatistiksel olarak anlamlı biçimde doğrulanmadı (p = .13). Önceki bir zaman baskısı dönemi, daha sonraki davranışı da etkiledi. Bu yüzden ikinci deney zaman baskısı koşullarını farklı katılımcılar arasında dağıttı. İkinci deneyde zaman baskısı altında AI-before, AI-after’dan daha hızlıydı (ortalama 39 saniyeye karşı 56 saniye) ve aşırı dayanma daha yüksekti (0,56’ya karşı 0,42); doğruluk ise benzerdi (0,72’ye karşı 0,75). Çalışma, aşırı dayanmayı yanlış veya optimal olmayan yapay zekâ önerisini izleme olarak tanımladı. [3]

Bu, yapay zekâ önerisinin erken gösterilmesinin her durumda zararlı olduğunu kanıtlamaz. Bulmaca görevinde erken öneri zaman kazandırdı ve desteksiz koşula kıyasla doğruluk avantajı sağlayabildi. Daha sınırlı bulgu, hız ile bağımsız inceleme arasındaki ödünleşimin tek bir tasarım hedefiyle çözülemeyeceğidir. Kişinin önce bağımsız bir ilk değerlendirme yapmasına daha çok alan tanıyan düzen, yanlış önerileri kabul etmeyi azaltabilir; ancak daha uzun sürebilir.

Yazarlar aktarım sınırını da belirtiyor: görevler yeniydi, tamamen ekranda açıklanmıştı ve yüksek riskli değildi. Bu durum; uzmanlık, birikmiş bağlam, eksik kayıtlar veya toplumsal sonuçlar içeren işlerden farklıdır. Çalışmayı hazır bir işyeri kuralı olarak değil, yerel testlerin gerekçesi olarak kullanıyoruz. [3]

3.3 Düşünme Arasının Yararları ve Maliyeti Vardır

Buçinca, Malaya ve Gajos, bilişsel zorlayıcı müdahaleleri inceledi: kişiyi öneriyi hemen kabul etmek yerine değerlendirmeye yönelten tasarımlar. 199 katılımcının yer aldığı çevrimiçi deneyde basitleştirilmiş bir yiyecek malzemesi seçme görevi kullanıldı. Bazı yanlış yapay zekâ önerilerinde belirli müdahaleler, basit açıklamalara kıyasla hatayı düzeltmeyi geliştirdi. Ancak tüm görev örnekleri birlikte değerlendirildiğinde iki yapay zekâ tasarımı arasında nesnel performans ölçütlerinde anlamlı fark bulunmadı. Daha etkili müdahaleler katılımcılar tarafından öznel olarak daha az beğenildi; yarar, kişilerin yoğun düşünme isteğine göre de değişti. [4]

Bu çalışma her şirkette zorunlu bir duraklamanın işe yarayacağını göstermez. Uygulamaya dönük bir soruya dikkat çeker: Her ek kontrol zaman ve dikkat tüketir. Bir güvence, makul yarar sağladığı yerde kullanılmalı ve yan etkileri de ölçülmelidir. İnsanlardan her rutin karar için çok adımlı bir gerekçe yazmaları istenirse, güvence yeni bir darboğaza dönüşebilir.

3.4 Bu Çalışmalar Neyi Kanıtlamıyor

Üç çalışma farklı görevler, katılımcı grupları, zaman aralıkları ve yapay zekâ önerileri kullanıyor. Güncel dil modelleri, ajanlar veya KOBİ iş akışları için tek bir hata oranı sağlamıyor. Özellikle zaman baskısının güveni her zaman artırdığını veya doğruluğu her zaman düşürdüğünü kanıtlamıyorlar. Göreve ve önerinin ne zaman gösterildiğine bağlı olarak öneriye uyma artabilir, azalabilir veya çok az değişebilir. Yapay zekâ desteği bazı kararları hızlandırabilir veya performans düşüşünü azaltabilir; fakat yanlış önerinin kabulünü ya da doğru önerinin gereksiz yere değiştirilmesini de teşvik edebilir.

Bu nedenle pratik sonuç, çalışanlar hakkında psikolojik bir yargı değildir. İş akışı, gerçekten kullanılacağı koşullarda sınanmalıdır: talep hacmi, zorluk, mevcut süre, önceki bilgi, hata maliyeti, gösterim sırası ve süreci güvenli biçimde durdurabilme imkânı.

4. Onay Alanı Gözetimi Kanıtlamaz

İncelemenin içerik bakımından kontrol sağlayabilmesi için birkaç koşul bir araya gelmelidir. İnceleyen kişi ilgili vakayı ve öneriyi değerlendirmek için gereken kanıtı görebilmelidir. Sorunu tanımaya yetecek yetkinliği, gerekli inceleme derinliğine yetecek zamanı ve vakayı değiştirme, durdurma veya yönlendirme yetkisi olmalıdır. İnceleme ya da sistem ilerleyemediğinde kullanılabilecek bir alternatif yol da bulunmalıdır.

Bu koşullardan biri eksikse onay işareti gerçek darboğazı gizleyebilir. Bir düğme, kişinin ne kadar süre okuduğunu göstermez. Kısa bir yorum, kişinin vakayı anladığını kanıtlamaz. Performans ölçümü yalnızca hızı ödüllendiriyorsa itiraz izni de çok az şey ifade eder.

Sonradan bakılan ölçüler de yanlış yorumlanabilir. Düşük geçersiz kılma oranı önerilerin iyi olduğuna işaret edebilir. Kimsenin itiraz edecek zamanı olmadığını da gösterebilir. Yüksek oran kötü sistem performansı, yeni bir görev veya yerinde uzman düzeltmeleri anlamına gelebilir. Bu sayıların hiçbiri tek başına ne olduğunu açıklamaz. İnceleme oranları, örneklenmiş hatalar, gerekçe kategorileri ve iş yükü birlikte yorumlanmalıdır.

Kurumlar süreç verilerini yalnızca açık bir amaç için gerektiği ölçüde toplamalıdır. Kuyruk yaşı, belirsiz kategoriler, düzeltmeler ve inceleme süresinin bulunmaması hakkındaki toplulaştırılmış bilgiler kuralları iyileştirebilir. Bunlar gizli bir bireysel izleme sistemine dönüşmemelidir. Kişisel çalışma verisi kaçınılmazsa amaç, hukuki dayanak, şeffaflık ve erişim ayrı olarak incelenmelidir. Bu yazı hukuki danışmanlık değildir.

5. Soru Modeli Görevi Değiştiriyor

Kurgusal işletmenin ilk sorusu şudur: “Her yapay zekâ sınıflandırmasını bir kişi onayladı mı?” Ölçülebilir gibi görünse de “onay”ın ne anlama geldiğini açıklamaz. Soru Genişletme Modeli F v5, soruyu A → B → D → C sırasıyla genişletmeye yardımcı olur. Model kanıt değildir, doğruluğu veya etkinliği ortaya koymaz.

A · Başlangıç Sorusunu Netleştir

Tam olarak ne incelenmişti: kategori, özgün metin, gerekçe, risk veya sonraki ekibe yönlendirme mi? Yapay zekâ önerisi, inceleyen kişi ilk değerlendirmesini yapmadan önce mi sonra mı göründü? Hangi vakalar ve iş akışının hangi sürümü kapsamda? Kim inceliyor, hangi yetkinliğe sahip ve gerçekten ne kadar zamanı var?

Sonuç daha yararlı bir sorudur: Yetkin bir kişi sonraki adım için önemli bilgiyi zamanında inceleyebilir, gerektiğinde öneriyi değiştirebilir ve vakayı güvenli biçimde yönlendirebilir mi? Bir tıklama, daha büyük bir süreç içindeki işaretlerden biri olabilir; sürecin tanımı değildir.

B · Birden Fazla Açıklamaya Alan Aç

Acil bir talep farklı nedenlerle yanlış sınıflandırılmış olabilir. Sistem bağlamı bilmiyor olabilir. Yapay zekâ önerisi ilk algıyı şekillendirecek kadar erken görünüyor olabilir. İnceleyen kişi kategorileri anlamıyor olabilir. Kuyruk mevcut kapasiteyi aşmış olabilir. Ya da inceleyen kişinin itiraz etme hakkı teoride vardır ama eskalasyon yetkisi yoktur.

Kısa bir 5 Neden izi konuyu açabilir: Acil talep neden zamanında fark edilmedi? Çünkü rutin kuyruğunda kaldı. Neden orada kaldı? Sınıflandırma onaylandı. Neden daha ayrıntılı incelenmedi? Çizelge her vaka için yeterli zaman sağlamıyordu. Bu çizelge neden böyle kuruldu? Çünkü tahmin, inceleme derinliğini ve kesintileri hesaba katmadan her kayıt için bir onay varsaydı. Tahmin neden bu şekilde yapıldı? Otomasyonun kazandıracağı süre hesaplandı, fakat hatalar ve eskalasyon işi ölçülmedi.

Bu zincir nedensellik kanıtı değil, bir varsayımdır. Ekip diğer olasılıkları da kontrol etmelidir: Talep hacmi doğru mu? İnceleme süresi gerçekçi biçimde ölçüldü mü? Yeterli zaman olduğunda da hatalar çıkıyor mu? Doğru rol sürece katılıyor mu? Kategoriler ve eskalasyon kuralları açık mı? Yanıt için kullanılan veriler olabildiğince kişisel olmayan biçimde tutulmalıdır.

D · Belirsizliği ve Gözden Geçirmeyi Görünür Tut

Sonuca varmadan önce ekip gözlemlediği şeyle yalnızca şüphelendiği şeyi ayırmalıdır. Uzun kuyruk gözlemlenebilir. Bunun belirli bir hataya neden olduğu ise ek bir nedensellik varsayımıdır. Tıklama kaydı tıklamayı kanıtlar, incelemenin niteliğini değil. Karşı örnekler ortaya çıkarsa ilk yorum gözden geçirilebilir kalmalıdır.

Vaka notu şöyle olabilir: “Mevcut onay zorunluluğu yeterli inceleme kapasitesini gösteremiyor. Yanlış sınıflandırmanın esas olarak bağlam eksikliğinden, gösterim sırasından veya hacimden kaynaklanıp kaynaklanmadığı henüz açık değil.” Bu ifade temelsiz suçlamadan kaçınırken somut inceleme görevini korur.