İtiraza alan açan bir etik atölyesi: roller, güç, karşı argümanlar ve karar

Bu yazının konusu

Yapay zekâ etiği üzerine bir atölye, tanıdık bir kalıba kolayca düşebilir: Bir grup değerleri toplar, kimsenin açıkça reddetmek istemediği bir ifadeyi hızla bulur ve sonucu uzlaşma diye adlandırır. Sonrasında ise çoğu zaman kararı kimin aldığı, kimin deneyiminin eksik kaldığı ve uygulama kararla çelişirse ne olacağı belirsizdir. Bir ilkenin en hoş görünen biçimi, güç farklarını işlenebilir kılmak yerine örtebilir.

Bu nedenle bu yazı farklı bir çalışma görevi önerir. Grup aynı fikirde olduğunu kanıtlamak zorunda değildir. Sınırlı bir kararı; varsayımlar, karşı argümanlar, etkilenen kişiler, sorumluluklar ve sonraki bir revizyonun koşulları görünür kalacak biçimde ele almalıdır. Böylece karar, karşıt görüşlerin üzerine çekilmiş bir çizgi olmaz. Belgelenmiş bir itiraz ve masaya dönmek için bir yol içeren geçici bir eylem kuralı olur.

Bu yaklaşım özellikle yapay zekânın işi hazırladığı, fakat bütünüyle otomatikleştirmediği yerlerde önemlidir. “Bir insan zaten tekrar kontrol ediyor” cümlesi, bu kontrolün gerçek zaman baskısı altında mümkün olup olmadığını veya hatanın maliyetini kimin taşıdığını yanıtlamaz. Gönüllü bir opt-out da meseleyi kendiliğinden çözmez: Alternatifi seçebilen kişiler onu anlamalı, dezavantaj yaşamadan kullanabilmeli ve seçimlerini gerekçelendirme baskısı altında kalmamalıdır.

Aşağıdaki vaka çalışması bütünüyle kurgusaldır. Gerçek bir kursun ya da iş yeri durumunun anlatımı değildir; atölyenin etkili olduğunu da kanıtlamaz.

Öğrenme çıktıları

Katılımcılar üç oturum sonunda, amaç, kavram açıklaması ve varsayılan neden birbirinden ayrı görünecek biçimde yapay zekâ ile ilgili bir kararı formüle edebilir. F-B içinde, fayda, güç veya hata maliyeti hakkında en az iki rakip hipotez ve bir meta-soru geliştirebilirler. Kanıtlanmış bir ifadeyi varsayımdan, değer yargısından ve açık kanıt boşluğundan ayırabilirler. K’nin temel döngüsünde etkilenen kişileri ve eksik perspektifleri haritalayabilir, bir karşı argümanı adil biçimde yeniden ifade edebilir ve sorumluluk, itiraz ve değerlendirme içeren bir öneri yazabilirler. İnsan Review’un ancak belirli zaman ve uzmanlık koşulları altında gözetim sayıldığını açıklayabilir; yapay zekâ dışı bir alternatifi eşit ciddiyetle inceleyebilirler. Nihai ürünleri bir uzlaşma belgesi değil, revize edilmiş bir ana soru, geçici bir karar ve izlenebilir bir geri dönüş noktasıdır.

Tek vaka: bir yetişkin eğitimi kursunda geri bildirim taslakları

Bir yetişkin eğitimi kursu, katılımcıların yazılı yansımalarına yönelik geri bildirimin ilk taslaklarını yapay zekâ ile üretmeyi değerlendiriyor. Bir eğitmen her taslağı okur ve gözden geçirir; geri bildirim ancak sonra gönderilir. Otomatik Score verilmez, katılım hakkında otomatik karar alınmaz ve sistem değerlendirme yapmaz. Katılımcılar, yansımalarının bu amaçla kullanılmasına itiraz edebilir; bu durumda yapay zekâ taslağı olmadan geri bildirim alırlar.

Öneri ihtiyatlı görünür. Tam da bu yüzden etik atölyesi için uygundur. Soru yalnızca “Bu izinli mi?” ya da “Yapay zekâ geri bildirim için iyi mi?” değildir. Soru şudur: Bu yaklaşım hangi koşullarda katılımcılar ve çalışanlar açısından gerekçelendirilebilir olur; hangi koşullarda yapay zekâ dışı çözüm daha iyi karardır?

Bu sorunun içinde birkaç çatışma vardır. İlk olarak, ilk taslak zaman kazandırabilir fakat tonu veya yorumu önceden biçimlendirebilir. İnsan Review’u dikkatli olabilir ya da rutin onaya dönüşebilir. İkinci olarak katılımcılar sadece veri kaynağı değildir. Yansımaları belirsizlik, eleştiri ya da kişisel öğrenme deneyimleri içerebilir. Üçüncü olarak hızlanmanın faydası ile iş yükü aynı biçimde dağılmayabilir. Eğitmenlerin taslakları kontrol etmesi, hataları tanıması ve her ek soruda sorumluluk üstlenmesi gerekir. Dördüncü olarak opt-out, ancak yapay zekâ dışı geri bildirim eşdeğer, erişilebilir ve damgalanmadan ulaşılabilir olduğunda gerçek bir seçenektir.

Atölye bu vakayı teknoloji hakkında soyut bir oylama olarak ele almaz. Karar durumunu sorar: İşleme ve geri bildirimden kim etkilenir? Bir hatayı kim görebilir, durdurabilir ve düzeltebilir? Amaç, veri akışı ve çıkış hakkında kim karar verir? Sonuçlarını taşımalarına rağmen odada olmayan kişiler kimlerdir? Zaman kazancı, kalite veya yük hakkındaki hangi iddia hâlâ yalnızca varsayımdır?

İki çalışma modeli, iki ayrı görev

Atölye dizisi, işlevleri ayrı iki model kullanır. Hiçbiri etik bir yanıt vermez. İkisi de bir grubun gerekçelerini sınayabilmesi ve değiştirebilmesi için çalışmayı düzenler.

F-v5 soru modeli A → B → D → C sırasını izler. A’da grup kavramları, amaçları ve varsayılan nedenleri açıklar: “daha iyi geri bildirim” ne demektir? Kimin için daha iyi olacaktır? Hangi darboğaz çözülmek istenmektedir? B daha sonra rakip hipotezler ve meta-sorular için alan açar. Grup yalnızca teknik bir varyant aramaz. Örneğin şunları sorar: Asıl sorun, geri bildirim için yeterli korunmuş zamanın olmaması olabilir mi? İnsan geri bildirimi için daha açık bir çerçeve aynı faydayı sağlar mı? “Daha hızlı” ölçütünden kim faydalanır ve yanlış yorumun maliyetini kim taşır? B’de grup, birbiriyle çelişen birden çok makul yorumu birlikte tutabilir.

D revizyon döngüsüdür. Yeni geri bildirim, eksik kanıt ya da gözden kaçan risk çalışma sorusunu ve seçenekleri değiştirir. Revizyon kısa biçimde kaydedilir: tetikleyici, değişen varsayım veya soru, seçilen iterasyon ya da Fallback. Ancak C, o an için en iyi ana soruyu veya uyarlanmış görevi, açık noktaları, ölçütleri ve denetlenebilir bir sonraki adımı bir araya getirir. Devir paketinde ayrıca şeffaf bir süreç izi bulunur: başlangıç sorusu, önemli alternatifler, geri bildirim, değişiklik ve açık boşluklar; bunun yanında somut bir GROW planı vardır: Goal, Reality, Options ve Way Forward. Bu bir planlama yapısıdır, etik mührü değildir. Sıra önemlidir: Karar Brainstorming’den hemen sonra gelmez. C bir eylem sorusunu sabitlemeden önce geri bildirim D üzerinden revizyona döner.

K danışma ve Governance modeli sosyal ve örgütsel tarafı yapılandırır. Dört adımlı çekirdeği şudur: Exploration → Reflection/Analysis → Decision/Recommendation → Feedback/Evaluation. Exploration katılımcıları, verileri, amaçları, iş süreçlerini ve eksik perspektifleri görünür kılar. Reflection/Analysis gerekçeleri, güç ilişkilerini, riskleri ve seçenekleri inceler. Decision/Recommendation sorumlulukları, sınırları ve gerekçeli bir kuralı düzenler. Feedback/Evaluation gerçekte ne olduğunu inceler ve gerektiğinde konuyu soru çalışmasına geri gönderir.

Daha sonraki, açıkça sınırlandırılmış bir vaka için beş adımlı bir senaryo genişletmesi kullanılabilir: Exploration, Reflection/Analysis ve Decision’dan sonra sınırlı bir Implementation veya Pilot adımı gelir; Evaluation diziyi tamamlar. Bu beş adım K modelinin çekirdeği değildir ve başka bir beş aşamalı modelle eş tutulmamalıdır. Atölyede bu genişletme sadece üzerinde anlaşılmış kuralı geri alınabilir bir deneme olarak düşünmeye yarar. Temel gramer dört adımlı döngü olarak kalır.

Modeller birlikte çalışır. F-B rakip hipotezleri ve meta-soruları açık tutar. K-Exploration ile K-Reflection/Analysis bunları, rollerin, seslerin ve sonuçların kaybolmadığı bir danışmaya dönüştürür. Geri bildirim bir varsayımı çürütürse ya da etkilenen bir perspektif kararı değiştirirse grup F-D üzerinden revizyona döner. Ancak sonra F-C içinde güncel görev veya Prompt’u, süreç izini ve GROW sonraki adımını üretir; K döngüsünde de bir öneri formüle eder.

Roller neden tek başına güç sorununu çözmez?

Roller yararlıdır, fakat tarafsız değildir. Söz alma süresini dağıtan bir moderasyon, tek bir kişinin atölyeyi belirlemesini önleyebilir. Aynı anda herkesin itiraz etme konusunda aynı özgürlüğe, riske veya dile sahip olduğu yanlış varsayımını da güçlendirebilir. Bir kursta katılımcılar, değerlendirmeye, sertifikalara erişime veya ilerideki olanaklara bağlı oldukları için onaylarını öğretmenlerden ya da program sorumlularından farklı ifade edebilirler. Teknik süreci yürüten kişi de başkalarının kolayca inceleyemeyeceği bilgiye sahip olabilir.

Değer çoğulculuğu, her iddianın eşit derecede iyi gerekçelendirildiği veya kararların imkânsız olduğu anlamına gelmez. Yardımcı geri bildirime erişim, mahremiyet, özerklik ve adil çalışma koşulları gibi önemli değerlerin, tek bir ortak ölçüte indirgenmeden gerilim içinde bulunabileceği anlamına gelir. Isaiah Berlin bu düşünceyi “The Pursuit of the Ideal” adlı metninde insan amaçları üzerine felsefi bir argüman olarak geliştirir. Bu, alıştırmada keyfî bir seçim anlamına gelmez: Grup gerekçeleri incelemeli, maliyetleri görünür kılmalı ve bir seçeneğin kimin çıkarlarına yük getirdiğini söylemelidir. Ancak her çatışma için tarafsız bir genel Score varmış gibi davranmamalıdır. Bu, yapay zekâ geri bildirimi veya bu atölyenin etkililiği hakkında ampirik bulgu değil, felsefi bir lenstir.

Bu yüzden atölyedeki roller tiyatro etiketleri değildir. Her rol sınırlı bir görev ve bir şeyi itiraz konusu yapma hakkı alır. “Etkilenen perspektifi” rolü tüm katılımcılar adına konuştuğunu iddia etmez. Hangi etkilenen kişilerin bulunmadığını ve hangi soruların onlara geri götürülmesi gerektiğini inceler. “İş sonuçları” rolü yalnızca verimliliği değil; zamanı, nitelikleri, görünmeyen ek işi ve Review’u gerçekten reddedebilme olanağını sorar. “Kanıt ve varsayımlar” rolü kanıtlanmış olanla varsayılanı ayırır. Bir ifadeyi daha iyi bir tahminle değiştiremez; boşluğu işaretler.

Gerçek bir kurumda yönetim veya görevlendirilmiş karar rolü karar verme yetkisini ve hesap verebilirliği korur. Atölye bu sorumluluğu bir sandalye çemberi ile ortadan kaldırmamalıdır. Karar gücüne sahip kişi odada yoksa bu sınır karar formuna yazılır. Odadaysa özel bir kural geçerlidir: İlk analiz aşamasında en son konuşur, hiçbir tutumu beklenen kurs yanıtı olarak sunamaz ve belgelenmiş karşı pozisyonu ele almak zorundadır. Böylece nihai karar oybirliğiyle alınmasa bile itiraz sonuçsuz kalmaz.

Farka bu dikkat felsefi olarak keskinleştirilebilir. Iris Marion Young, demokratik iletişimin görünüşte tarafsız tek bir sesi talep etmek yerine farklı ifade biçimlerini ve toplumsal farkı içermesi gerektiğini savunur. Bu burada bir lenstir; F veya K modelinin doğrulaması ya da bu atölyenin işe yaradığına dair kanıt değildir. Yine de pratik bir soruyu daha açık kılar: Hangi konuşma kuralı, farklı deneyim bilgisini yalnızca “kişisel görüş” diye değersizleştirmeden duyulur kılar?

UNESCO Yapay Zekâ Etiği Tavsiyesi de katılımı, şeffaflığı, sorumluluğu ve insan onurunun korunmasını normatif bir bağlama yerleştirir. Bu tavsiye, ders dizisini hukuken bağlayıcı bir incelemeye dönüştürmez ve yerel veri, rol veya sorumluluk analizinin yerini tutmaz. İkinci bir lens olarak, sistemin sonuçlarını taşıyan kişilerin ancak karar alındıktan sonra bilgilendirilmemesi gerektiğini hatırlatır.

Akış: her biri 90 dakikalık üç oturum

Format 12 ila 24 kişi için tasarlanmıştır. Daha küçük gruplarda roller birleştirilebilir; daha büyük gruplarda iki veya üç paralel grup aynı vaka üzerinde çalışır ve ardından kararlarını karşılaştırır. Bilinçli olarak yalnızca bu tek vaka vardır. Başka örnekler dikkati dağıtır ve her uygulama için aynı kararın bulunması gerektiği izlenimini yaratabilir.

Atölyeden önce moderasyon bir vaka formu, rol kartları, kanıtlar ve varsayımlar için görünür bir pano ile karar ve aktarım sayfası hazırlar. Materyaller gerçek bir yazılımı tanımlamaz ve kişisel yansıma metinleri içermez. Kurgusal vaka açıklaması veri temeli olarak yeterlidir. Grup dış bilgi ekleyecekse kaynağı, tarihi ve kapsamı kanıt sayfasına yazılır.

Oturum 1: Çözümler konuşulmadan önce soruyu açmak

0–10 dakika: Güvenli çerçeve ve amaç. Moderasyon şunu açıklar: Kimse yapay zekâyı destekleyip desteklemediğine göre değerlendirilmeyecektir. Değerlendirilen; gerekçenin niteliği, karşı argümanlarla ilgilenme ve iyi nedenler karşısında başlangıç tutumunu inceleme yeteneğidir. Kişisel deneyimlere ilişkin ifadeler gönüllüdür. Kimse özel öğrenme veya iş durumunu açıklamak zorunda değildir. Katılımın üç yolu vardır: konuşmak, yazılı kart veya moderasyona gizli not. Notlar, istenirse tartışmaya yalnızca anonimleştirilmiş ve özetlenmiş biçimde dahil edilir.

10–25 dakika: Vakayı okumak ve F-A’da kavramları açıklamak. Her kişi vakada belirsiz kalan kavramları işaretler: “ilk taslaklar”, “Review”, “eşdeğer geri bildirim”, “opt-out”, “zaman kazancı”, “gizli yansıma”. Grup bu kavramların kesin anlamına karar vermez. Çalışma tanımlarını ve buna karşılık gelen sınama sorularını yazar. Örneğin insan Review’u, ancak Review süresi, ilgili uzmanlık, müdahale hakkı ve belgelenmiş düzeltme mümkünse tıklamadan daha fazlasıdır.

25–40 dakika: Neden ve yapay zekâ dışı seçenekler. Küçük gruplar, aslında hangi sorunun çözülmek istendiğini araştırır. Darboğaz yansımaların sayısı olabilir; ortak bir geri bildirim çerçevesi eksik olabilir; ücretli hazırlık zamanı bulunmayabilir. Her grup en az bir yapay zekâ dışı seçenek formüle etmek zorundadır. Bu, eğitmenlerin kullandığı daha açık bir geri bildirim çerçevesi, geri bildirimlerin farklı zamanlanması veya ek korunmuş çalışma zamanı olabilir. Yapay zekâ dışı seçenek sembolik bir zorunluluk olarak anılmaz; yapay zekâ seçeneğiyle aynı ölçütlere göre sınanır: kalite, zaman, iş yükü, erişim, hata sonuçları ve geri alınabilirlik.

40–65 dakika: Rakip hipotezler ve meta-sorularla F-B. Gruplar şimdi en az üç rakip hipotezi açar: (1) Yapay zekâ taslakları eğitmenlere bireysel eklemeler için daha fazla zaman verir. (2) Yapay zekâ taslakları Review’u önceden biçimlendiren ve kaliteyi düşürebilen bir şablon yaratır. (3) Asıl sorun örgütseldir; yapay zekâ yalnızca işin görünür olduğu yeri değiştirir. Her hipotez için güç veya dağılım hakkında bir meta-soru oluşturulur: Hedef ölçütünü kim belirler? Zaman kazancı iddiasını kim sınayabilir? Bir geri bildirim öğrenme sürecini yanlış okursa sonucu hangi kişi taşır? Sonuç, mümkün olduğunca çok soru koleksiyonu değildir. Çelişebilen makul yorumlardan oluşan yönetilebilir bir alandır.

65–80 dakika: Kanıt ve varsayımları ayırmak. Panoda iki sütun bulunur: “vakada ya da kaynakta kanıtlanmış” ve “varsayım / hâlâ denenecek.” Moderasyon, ikna edici bir beklentinin ilk sütuna kaymamasına dikkat eder. Kurgusal vakada her taslağın eğitmen tarafından kontrol edileceği ve bir opt-out öngörüldüğü verilidir. Zaman kazancı, kabul, hata oranı, alternatifin eşdeğerliği veya Review’un gerçek derinliği kanıtlanmış değildir. Grup ifadeleri “bilinmiyor” olarak bırakabilir.

80–90 dakika: F-D, kısa revizyon ve devir. Her grup başlangıç sorusunu ve revize edilmiş sorusunu yazar. Olası bir revizyon şudur: “Eğitmenlerce tamamen gözden geçirilen bir yapay zekâ taslağı, hangi belgelenmiş koşullarda, yapay zekâ dışı geri bildirime eşdeğer erişimi veya mesleki sorumluluğu zayıflatmadan geri bildirimi iyileştirir?” Soru geçici kalır. Açık varsayımlar ve eksik perspektifler Oturum 2’ye devredilir.