Yapay zekâ etiği ilk Prompt'tan önce başlar

Bu makalenin editoryal tezi şudur: Yapay zekâ hakkındaki etik kararlar, biri model'i açmadan önce verilebilir. Hangi sorun çözülmeye değer sayılır ve önerilen çözümün sonuçlarını kim üstlenebilir?

Tamamı burada kurgulanmış küçük bir yedek parça işletmesi, teslimat ve şikâyet sorularını daha hızlı işlemek istiyor. Yönetim, gelen iletileri bir dil model'inin okuyup doğrudan yanıt göndermesini öneriyor. Çok iyi yazılmış bir Prompt; yanıtların tonunu, uzunluğunu ve biçimini düzenleyebilir. Ancak gecikmiş teslimatın, şikâyetin ve adres değişikliğinin gerçekten aynı iş türü olup olmadığını henüz açıklığa kavuşturmaz.

Adres değişikliğinde yanlış eşleştirme yanlış teslimata yol açabilir. Şikâyette fazla kendinden emin bir yanıt uyuşmazlığı büyütebilir. Teslimat durumu sorusu belki de bir dil model'ine değil, stok yönetim sisteminden daha güvenilir bir duruma ihtiyaç duyar. Bu nedenle etik soru önce “Yapay zekâyı nasıl Prompt'larız?” değil, “Burada hangi karar, kim tarafından ve hangi bilgilerle hazırlanacak ya da verilecek?” sorusudur.

Bu bakış hareketsiz kalma çağrısı değildir. Küçük ve sınırlı bir denemenin zeminini kurar. NIST AI Risk Management Framework, Version 1.0, bağlamı belirlemek için belgelenmiş amaçları, kullanım koşullarını, olası etkileri ve varsayımları; Governance için de açık rolleri öngörür. NIST bu Framework'ü, tek bir işletme için onay damgası olarak değil, açıkça gönüllü bir yönlendirme olarak niteler (rapor s. 2, 22 ve 25). Burada önerilen karar kartı, bu fikirlerin bizim didaktik uygulamamızdır; resmî bir NIST şablonu değildir.

Kolayca birbirine karışan dört soru

Bir çalışan, müşterinin ikna edici ancak denetlenmemiş bir ret yanıtı almasını yanlış bulur. Bu bir ahlaki yargıdır: onun bakış açısından tehlikede olan bir şey vardır. Etik, burada gerekçeli bir inceleme olarak başlar: Hangi çıkarlar çatışıyor; hızlı hizmeti hangi gerekçe, daha yavaş denetimi hangi gerekçe destekliyor; karşı görüş neyi değiştirirdi? Hukuk başka bir soru sorar: Yetkili hukuk alanında tasarlanan işlem için hangi somut yükümlülükler ve haklar geçerlidir? Governance, kimin karar verebileceği, denetleyebileceği, durdurabileceği ve düzeltebileceğine ilişkin örgütsel yanıttır.

Bu ayrım, tam bir felsefi sınıflandırma değil, çalışma önerisidir. Hukuken izinli bir davranış iyi nedenlerle basiretsiz ya da adaletsiz olabilir. İyi niyetli bir davranış da somut bir hukuk sınırına takılabilir. “İnsan her şeyi denetler” diyen bir işletme talimatı, o kişinin ne zamanı, ne bilgisi ne de müdahale yetkisi varsa etkili gözetim yaratmaz.

Sorunun seçimi, yararları ve zararları dağıtır

Sorun tanımının yalnızca mevcut durumu betimlediği ileri sürülebilir. İşletmede aynı zamanda bir seçimdir. “Yanıt süreleri çok uzun” ifadesini tek sorun yapan kişi muhtemelen dakikaları ölçer. “Yanlış bilgi”yi de ekleyen kişi başka türden bir denetimle ilgilenmelidir. “Erişilemeyen şikâyet yolları”nı ekleyen kişi ise standart süreçte yer bulamayan insanları sorar. Bu açıklamaların hiçbiri değerlerden bağımsız değildir. Her biri hangi vakaların başarı, hangilerinin istenmeyen sapma sayılacağını ima eder.

Bu, nesnel gözlemlerin olmadığı iddiası değildir. Bekleme süresi gözlemlenebilir. Tartışmalı olan, karar için hangi gözlemin belirleyici olması gerektiğidir. Nadir fakat sonuçları ağır yanlış yönlendirmeler artarken ortalama iyileşebilir. Ortalama hesap olarak doğru, tek karar desteği olarak yine de yetersiz olur. Bu yüzden ekip, istenen yararın yanında açıkça belirtilmiş bir zarar sınırına ihtiyaç duyar. Ancak o zaman hedef tanımı, ahlaki soruları tek bir ölçüte gizlemeden denetlenebilir olur.

Burada iki etik inceleme gerilim içindedir. Sonuç odaklı bakış, çözümün genel olarak beklemeyi ve yanlış yolları azaltıp sınırlı kaynaklarla daha çok kişiye ulaşıp ulaşmadığını sorar. Hak ve ödev odaklı bakış, toplam sonuç iyi olsa bile hangi yanıtların denetlenmeden dışarı gönderilemeyeceğini ve bir hataya kimin itiraz edebileceğini sorar. Bir de adil dağılım bakışı vardır: Yeni yükü, istisnalarda zaten kötü hizmet alan insanlar mı taşıyor? Bu mercekler kendiliğinden aynı yanıtı vermez. Makale onları felsefe ekolleri arasında matematiksel oylama için değil, karara yöneltilecek sorular olarak kullanır.

Bu işletme için proje belgesinin başına “sorumlu davranıyoruz” cümlesini koymak yetmez. Ekip, amacı, hedef seçimine birinin itiraz edebileceği biçimde yazmalıdır. Neden başarı ölçütü en hızlı ilk yanıt olsun? Daha yavaş fakat doğru bir işlem yolu, açıklanan amaca daha mı uygun olur? Hangi sonuçlar ölçütlerde yer almaz ama Review'da görünmelidir? Bu itirazlar, Prompt'un tek satırı yazılmadan görevi değiştirebilir.

Bu çerçevenin bilimsel bir paraleli vardır: Selbst ve ortak yazarlar (2019), sosyoteknik sistemlerde adalet üzerine kuramsal çalışmalarında, sosyal bir ölçütü yalnızca model ve onun girdi/çıktılarında sınayıp insanî ve kurumsal parçaları dışarıda bırakma hatasını eleştirir. Bunun yedek parça işletmesine aktarımı bir analojidir: Kurgulanmış bir iletinin doğru sınıflanması, adil ya da yararlı bir müşteri sürecinin kanıtı olmaz. Makale ne ölçülmüş bir etki büyüklüğü ne de bu KOBİ için hazır bir yöntem verir.

Vaka; süreç hakkında ampirik sorular, hata sonuçlarının dağılımı hakkında normatif sorular ve sorumluluk hakkında kurumsal sorular içerir. NIST Framework, yapay zekâ sistemlerini sosyoteknik olarak tanımlar: Riskler ve yararlar teknolojiden ve kullanım bağlamından, kullanımdan ve toplumsal koşullardan doğar (NIST, s. 1). UNESCO'nun yapay zekâ etiği tavsiyesi, yapay zekâ destekli kararlara ilişkin sorumluluğun insanî ya da örgütsel aktörlere atanmasını ister (par. 35 ve 42). Tavsiye uluslararası normatif bir metindir. Tek başına ne somut vakada geçerli yükümlülükleri ne de yöntemimizin etkili olduğuna dair kanıtı sağlar.

“Daha hızlı” yeterli bir hedef değildir

Kurgusal işletmenin başlangıç sorusu şudur: “Yapay zekânın tüm müşteri sorularını hemen yanıtlamasını nasıl sağlarız?” Soru zaten bir ön karar içerir: yanıt otomatik olarak dışarı gidecektir. “Hemen” de açık görünür ama farklı büyüklükleri gizler. İlk alındı teyidi mi, doğru birime ulaşma süresi mi, maddi çözüm mü, yoksa ciddiye alınma hissi mi kastedilir?

Burada mevcut soru model'inin [Fragenerweiterung v5, özgün PDF s. 1–3] küçük ve açıkça sınırlı bir uygulamasını kullanıyoruz. Sırası A → B → D → C'dir: önce açıklığa kavuşturmak, sonra rekabet eden yorumlar oluşturmak, belirsizlik ve hataları ele almak, en son revize edilmiş bir soru yazmak. Model'in tam akışı bu dizinin sonraki bir makalesinde gelir. Burada tek bir izlenebilir değişiklik yeterlidir.

A – Açıklığa kavuşturma. Ekip üç hedefi ayırır: daha hızlı yönlendirme, daha az yanlış bilgi ve standart dışı talepleri olan müşteriler için iyi erişilebilirlik. Şu anda hangi işin gerçekten zaman aldığını sorar. Tekrarlanan “neden?” sorusu, eksik sipariş numaraları ve belirsiz sorumlulukların süreci yavaşlattığına dair sınanabilir hipotezi ortaya çıkarır. Soru tekniği nedeni kanıtlamaz; işletmenin süreçlerini gözlemleyip değerlendirmesi gerekir.

B – Alternatifler. Üç açıklama açık kalır: Esas eksik iyi bir durum erişimi olabilir. Formlar kötü olabilir. Kritik olmayan iletilerin ön sınıflandırılması gerçekten yardımcı olabilir. Dördüncü seçenek olarak yapay zekâ olmayan daha iyi bir giriş formu vardır. Bu karşılaştırma kuralı, vaka için bizim eklememizdir; açıkça adlandırılmış bir F adımı değildir. Karar artık etkileyici bir metin örneğine değil, birbirleriyle yarışan ve sınanabilir açıklamalara dayanır.

D – Hata ve geri soru. İletilerin ne sıklıkla yanlış yönlendirildiğine dair henüz güvenilir gözlem yoktur. Veri akışları ve şikâyetin ayrı ele alınıp alınmayacağı da açıklığa kavuşmamıştır. Ekip, en iyi çözüm için sözde bir “güven değeri” vermek yerine boşluğu adlandırabilir. Bir Prompt'tan çıkan böyle bir değer, kalibrasyon ve veri temeli olmadan olasılık değildir.

C – Revize edilmiş soru. “Kurgulanmış iletilerle sınırlı bir deneme, yapay zekânın yalnızca kritik olmayan talepleri iç denetim için, iletiyi kendisi göndermeden, iyileştirilmiş bir formdan daha iyi ön sınıflandırıp sınıflandıramayacağını gösterebilir mi?” Bu soru daha dardır. Alternatif, sorumluluk, gözlemlenebilir sonuç ve sınır belirler. Sonunda model bunu kısa bir GROW eylem planıyla birleştirir: hedef = daha güvenilir iç yönlendirme; gerçeklik = yanlış yollar ve veri durumu hâlâ bilinmiyor; seçenekler = form ya da sınırlı yapay zekâ denemesi; sonraki adım = uzman ekip karşılaştırma vakalarını belirler, yönetim durdurma yetkisini atar ve değerlendirmeyi belgelendirir. Bu soru, gerçek müşteri verileriyle denemenin izinli ya da anlamlı olduğuna henüz karar vermez.

NIST Framework, sorumlu aktörlerin yapay zekânın bir amaç için uygun ya da gerekli olup olmadığını incelemesi gerektiğini açıkça yazar (NIST, s. 13). Yapay zekâ olmayan karşılaştırmamız bundan çıkan editoryal bir sonuçtur; bu işletmede formun şimdiden daha iyi olduğunun kanıtı değildir.

Yeni sorunun gerçekten değiştirdiği şey

Başlangıç sorusu tüm iletiler için bir sistem ve dışarıya yönelik bir eylem ister. Revize soru önce yalnızca yapay olarak üretilen vakalarda iç ön sınıflandırmaya izin verir. Fark operasyoneldir: gönderim projesi öğrenme projesine dönüşür; “tüm talepler” önceden tanımlanmış kritik olmayan vaka sınıflarına iner; “hızlı” doğru yönlendirme, işleme süresi ve belgelenmiş istisnaların bileşimi olur. Karşılaştırma ölçütü revize edilmiş giriş formudur. Uzman ekip, başarının ölçütünü testten sonra belirleyemez.

Revizyon yakın bir yanlış çıkarımı da engeller. Dil model'i on uydurma örnekte ikna edici yanıtlar üretiyorsa ne gerçek taleplerin dağılımını ne de yanlış yönlendirmelerin sonuçlarını göstermiş olur. Tersine, başarısız kısa test de akla gelebilecek her yapay zekâ yönteminin uygunsuz olduğunun kanıtı değildir. Küçük deneme, dar biçimde tanımlanmış bir soruya ışık tutar. Daha sonra başka veriler, roller ve müdahale yetkileri ayrıca incelenmelidir. Soru, model F'nin doğru çözümü garanti etmesi yüzünden değil, yanlışlanabilirliği ve sınırları daha açık olduğu için daha iyidir.

Soru model'ini derste kullananlar ek bir karşı deneme yapabilir: Bir grubun yarısı “yönetim, hedef bekleme süresi”, diğer yarısı “müşteri hizmetleri, hedef doğru istisna işlemi” rolünü alır. İki grup da aynı başlangıç sorusunu A, B ve D'de işler. Yeni sorularını ancak C'de karşılaştırırlar. Pedagojik değerlendirme tek tip bir cümle aramaz; her grubun önce hangi varsayımı gördüğünü, hangisini atladığını ve karar için hangi ek malzemeye ihtiyaç duyduğunu kaydeder. Böylece soru genişletme, güzel ifade üretme tekniği değil gerekçeli itiraz yöntemi olarak deneyimlenir.

Yalnız yönetim karar verirse kim eksik kalır?

Bakış açısı değişimi, yanlış kararın etkisini kimin yaşadığı sorusuyla başlar. Bir müşteri, iletisi yanlış sınıflandığı için daha uzun bekleyebilir. Bir çalışan, otomatik taslakları zaman baskısı altında düzeltmek zorunda kalabilir. Olağandışı talebi olan kişi öngörülen kategorilerde kendine yer bulamayabilir. Hızlı süreç yeni şikâyetler doğurursa maliyeti yönetim taşır.

Konsültasyon model'i, bunun için başka bir çalışma çerçevesi sunar [özgün PDF s. 7–8; ayrıntılı vaka senaryoları s. 20–33]. Yöntemsel temel döngüsü dört adımdır: Exploration, Reflection and Analysis, Decision-making/Action Recommendations ve Feedback/Evaluation. Daha sonraki vaka akışlarında önerilerin geliştirilmesini ayrı bir Implementation/Pilot aşaması ve son değerlendirme izler. Bu makale yalnızca ilk hareketi kullanır. Özgün metinde Exploration, özellikle inceleme ve veri toplamadır. Didaktik etkilenenler kartımız şunu ekler: Kim etkileniyor, sorun hangi konumdan tanımlanıyor ve kimin itirazı başlangıç sorusunu değiştirir? K'yi izleyen tam Governance ve Pilot çalışması bu dizinin sonraki makalelerine aittir.

Bakış açıları tek bir anketle değiştirilemez. İşletme ayrıca kimin itirazını güvenle ifade edebileceğini sormalıdır. Yönetim hızı önceleyebilir; müşteri hizmetleri yanlış sınıflanmış vakalardan doğan ek işi görür; müşterilerin hata bildirebileceği bir yola ihtiyacı vardır. Sınırlı bir Pilot bu farkları görünür kılabilir, uzlaşmayı garanti etmez. UNESCO tavsiyesi, etik etki değerlendirmelerine ilişkin ifadelerini büyük ölçüde devletlere ve kamusal kuruluşlara yöneltir; çoğulcu ve kapsayıcı bakış açılarını adlandırır (par. 50–53). Bu kurgusal işletmeye belirli bir görüş alma süreci yazmaz; burada tasvir edilen yol bizim önerimizdir.

Rahatsız edici bir karşı soru da önemlidir: Bir kuruluş, teknik ve örgütsel tasarımı neredeyse hiç etkileyememiş olsa da sorumluluğu ekrandaki kişiye yükleyebilir mi? Araştırmacı Madeleine Clare Elish, özgün makalesi “Moral Crumple Zones” ile karmaşık otomatik sistemlerde bu riski anlatır. Argümanı, bizim KOBİ örneğimiz için ölçülmüş hata oranı vermez. Bu vakada yapay zekâ çıktısının altına salt imza atmanın sorumluluğu adil dağıtmaya yetip yetmeyeceği sorusunu destekler.

Katılım, plana müdahaledir

Konsültasyonda dört rolü sayıp aynı Pilot'a hiç değiştirmeden devam etmek kolay olur. Bu biçimi karşılar ama anlamı kaçırır. Müşteri hizmetleri, şikâyetlerin dilde basit durum sorularına benzediğini ama bağlayıcı bir taahhüt isteyebildiğini söylesin. O zaman test sınırı değişmelidir: Şikâyet şüphesi ayrı manuel sınıfa gider; ön sınıflandırma bunu otomatik yanıt için rutin vaka sayamaz. Etkilenen bir kişi yeni giriş formunu kendi bilgileriyle neredeyse kullanamadığını bildirse, yapay zekâ olmayan alternatifin kendisi yeniden tasarlanmalıdır. İki itiraz da ilk öneriyi devirebilir. Belgelenmiş değişiklik olmadan “katılım” yalnızca katılımcı listesidir.

Küçük işletmede konsültasyon kısa olabilir: işlemden bir kişi, mesleki açıdan sorumlu bir kişi ve bilinçli olarak aranmış bir istisna vakası, Exploration'ın başlangıcı için yeterlidir; tüm etkilenenlerin temsilî dinlenmesi için değil. Tutanak, hangi itirazın hangi değişikliğe yol açtığını ve hangisinin açık kaldığını göstermelidir. İtirazı güvenle iletme ya da kararı revize etme imkânı yoksa katılım bir boşluk olarak kaydedilir. Yönetim farklı öneriyi gerekçeyle reddedebilir; anlaşmazlığı tutanaktan silemez.

Muhtemel itirazın erişilebilir bir muhatabı da olmalıdır. UNESCO tavsiyesi, güvenlik, haklar veya özgürlükler için olası sonuçları olan kararlarda şeffaflığı, bunları etkili biçimde sorgulama, denetleme ve gerektiğinde düzeltme imkânıyla bağlar (par. 37–38). OECD yapay zekâ tavsiyesi, olumsuz etkilenenlere bir çıktıya itiraz etmeleri için bilgi verilmesini ve bağlama uygun geçersiz kılma, onarma veya devreden çıkarma mekanizmalarını yönlendirme olarak anar (§§ 1.3–1.4). Bu makale için buradan kendi tasarım sorumuz çıkar: Yanlış yönlendirilen kişi kime başvurabilir ve sebebi gerçekten kim düzeltebilir? Bu tavsiyelerin hiçbiri kurgusal işletme için otomatik uygulanır şikâyet hakkı kurmaz; böyle bir hak somut hukuk alanı için ayrıca incelenmelidir.

Burada üç model arasındaki sınır görünür olur. F, soruyu değiştirir. K bilgili etkilenenler kartı bakış açılarını inceler ve bununla deneme sınırını değiştirebilir; örgütsel Governance bunu izler. Ayrı danışmanlık model'i R, somut üretken veri akışında uzman inceleme yolunu yapılandırır. Üç model'in hiçbirinden tek başına onay çıkmaz. Devir özellikle öğreticidir: F'den doğrudan gerçek iletilerle teste sıçrayan kişi, yeni sorunun görünür kıldığı bakış açılarını ve uzmanlık sorularını atlar.

Ciddi bir karşı sav: Fazla açıklığa kavuşturmanın da maliyeti vardır

Küçük ekip her iç işi kamusal etki değerlendirmesi gibi ele alamaz. Her test uzun bir kuruldan geçerse yararlı iyileştirmeler bekler. Kaynakları sınırlı işletmede hızlı hizmetin kendisi etik bakımdan önemli bir değer olabilir: daha az bekleme, daha az yinelenen iş, zor vakalara daha çok zaman.

Bu karşı sav geçerlidir. Orantılı bir akışı haklı kılar: önce dar bir soru, mevcut süreçle kısa karşılaştırma, dış etki olmadan açıkça sınırlanmış test ve beklenmedik zararda durdurma sinyali. Güzel bir demo çıktısının işletmeyi, etkilenenleri veya sorumlulukları zaten anladığı varsayımını haklı kılmaz. NIST Framework, risk yönetimini bağlam ve risk toleransına bağlar (başta MAP 1 ve GOVERN 1). Buradan şu sonucu çıkarıyoruz: Şirketin büyüklüğü tek başına bu bağlam incelemesinin yerini tutmaz.

Orantılılık yalnız hız değil, sınır ister

Ayrıntılı inceleme her zaman en iyi ilk adım değildir. Örnekte önce etkilenen vaka sınıflarını ve durdurma yetkisini kaydeden kısa bir açıklık görüşmesi yeterlidir. Sonra ekip kurgusal iletiler oluşturup iki akışı karşılaştırabilir. Bu orantı yalnızca gerçek müşteri muhatap alınmadığı ve gerçek ileti işlenmediği için geçerlidir. Üretken verilere veya dış iletişime geçiş yeni bir karardır. Teknik ön sınıflandırma alıştırmada başarılı olsa bile bu böyledir.

Adil inceleme iki taraftaki emeği görür: Soruyu kurmak ve istisnaları belgelemek ne kadar zaman alır? Yanlış yönlendirme ne kadar ek iş doğurur? Yönetim, ayrıntılı karar düzeninin küçük iç testin maliyetini aşabileceğini haklı olarak söyleyebilir. Çalışan da ilk yanıttaki tasarrufun ek düzeltme işiyle satın alındığını aynı haklılıkla ileri sürebilir. İkisi de incelenecek olasılıklardır, burada toplanmış olgular değildir. Basit bir protokol formu bile iki emek türünü görünür kılabilir.

Pratikte üç karar eşiği ayrılabilir. Eşik 1: Sorun tanımı, yapay vakalarla öğrenmek için yeterince açık mı? Eşik 2: Gerçek Pilot için amaçlar, roller, veri akışları, etkilenenlere yönelik yollar ve karşılaştırma ölçütü belirlendi mi; eksik olgular ve gerekli uzman incelemeleri R Aşama 1 görevi olarak belgelendi mi? Eşik 3: Gerçek gözlemler sınırlı dış etkiyi veya daha geniş işletimi haklı kılıyor mu? İlk “evet”, sonraki iki “evet”in yerine geçmez. Bu eşikleri proje tutanağında ayrı izleyen kişi, demo başarısının nasıl fark edilmeden üretim onayına çevrildiğini daha kolay görür.

Değerler duvarı yerine karar kartı

Kurgusal işletme için ilk görüşme tek sayfada belgelenebilir:

Bu, yürütülmüş bir Pilot değildir. Kart, ilk öğrenme denemesini üretken karardan ayırır. Gerçek veriler, hizmet sağlayıcı veya gerçek müşteri iletişimi ciddi biçimde düşünülür düşünülmez, ayrı 5 Aşamalı Danışmanlık Modeli'nde ilk aşama başlar: olgunun hazırlanması/anamnezi [özgün PDF s. 1–3, 20]. Ekip burada ancak roller, veri akışları, sözleşmeler, hukuk alanı ve zamanı toplar; eksikler inceleme görevi olarak belgelenir. Ancak sonra analiz, çözüm geliştirme, uygulama/belgeleme ve değerlendirme/sonraki çalışma gelebilir. Model burada genel hukuk görüşü vermez; somut uzman değerlendirmesi için uygun uzman kişiler katılmalıdır.

Karttan denetlenebilir mini denemeye

Doldurulabilir kart, kararları sonradan güzelleştirmeye karşı koruduğunda işe yarar. Öğretim alıştırmasında ekip testten önce üç sınıfta on iki bütünüyle kurgulanmış ileti tasarlayabilir: dört açık durum sorusu, dört eksik bilgi içeren talep ve makul şikâyet veya istisna ipucu taşıyan dört vaka. Sayılar yalnız alıştırma tasarımını anlatır, gerçek vaka dağılımını değil. Katılımcılar her ileti için sorumlu bir insanın hangi uzmanlık sınıfını ve işlemi bekleyeceğini önceden belirler. Hedef işlemdeki anlaşmazlık, sistem lehine sonradan çözülmez; açık uyuşmazlık olarak tutulur.

Sonra iki ekip aynı vaka setini alır. A ekibi, iyileştirilmiş giriş formu ve açık sorumluluk kurallarıyla işler. B ekibi, önerileri başlangıçta gönderilmeyen ve her kullanımdan önce denetlenen yalnızca iç yapay zekâ ön sınıflandırması alır. Her ileti için önerilen sınıf, insan düzeltmesi, zaman harcaması ve eskalasyon gerekçesi belgelenir. Aynı vakalardan doğan açık öğrenme etkisini görünür kılmak için sıra ekipler arasında değişebilir. Ortak değerlendirme görüşmesi doğru yönlendirmeleri ve gözden kaçmış istisna vakalarını inceler; salt başarı oranı durdurma sinyali için fazla kaba olur.

Ekip, ilk turdan önce hangi hataların denemeyi keseceğini belirler. Metni karar veya taahhüt gerektirdiği hâlde şikâyeti basit durum sorusu saymak, alıştırma tasarımında ciddi sınır vakasıdır. Yanlışlıkla gönderim veya gerçek veri seti testi hemen durdurur. Tek bir alıştırma hatası ise her yapay zekâ biçimine karşı otomatik kanıt olmaz; önce neden incelemesini başlatır: Sınıf mı belirsizdi, yönerge mi yanıltıcıydı, vaka mı uygunsuzdu, sistem mi gerçekten güvenilmezdi? Bu açıklamaların her biri farklı revizyon gerektirir.

Deney düzeni gündelik hayat hakkında az şey kanıtlar. On iki kurgusal ileti gerçek müşteri nüfusunu temsil etmez ve işlemi yapan insanlar alıştırmayı bilir. Tam da bu sınırlama yanlış onaydan korur. Öğrenme kazancı, sonraki inceleme kararını kesin biçimde formüle etmektir: Hangi ek vakalar gerekir, istisnalar nasıl kaydedilir, gerçek verileri kim getirebilir ve bu adımdan önce hangi uzman incelemesi açıktır? Forma göre açık üstünlük çıkmazsa yapay zekâ olmayan çözüm ciddi seçenek olarak kalır.

Görünür revizyon içeren ders bloğu

Bir ders için 90 dakikalık birim şöyle ilerleyebilir: Öğrenenler önce beş dakika boyunca kendiliğinden Prompt fikirlerini yazar ve bunda verilmiş kullanım kararını işaretler. Sonra ikili gruplar F-A/B/D'yi yarışan hipotez ve açık yanlışlama olasılığıyla işler. İkinci grup K bilgili etkilenenler kartı için gözden kaçmış bir bakış açısını üstlenir ve test sınırını değiştirmeye çalışır. Ancak ardından ilk grup F-C/GROW'u revize soru ve sonraki adım olarak yazar. Genel tartışmada en zarif ifade değil, kanıtlanabilir biçimde değişmiş karar öne çıkar. Sonunda gruplar kartı doldurur ve kuşkucu bir KOBİ ekibine nesnel biçimde açıklayabilecekleri bir cümle kurar.

İnceleme noktası olarak kasıtlı biçimde rahatsız edici vaka kullanılır: Ön sınıflandırma açık durum sorularını hızlandırır fakat alışılmadık biçimde yazılmış şikâyet vakasını yanlış yönlendirir. Bir grup önceden belirlenmiş durdurma kuralını uygulamak; diğer grup daha dar yeni deneme için en güçlü adil gerekçeyi oluşturmak zorundadır. İkisi de yapay vakalardan hangi ifadenin çıkarılabileceğini ve hangisinin çıkarılamayacağını belirtir. İyi bir teslim “şimdilik yapay zekâ yok” sonucuna varabilir. Veriler, sorumluluk, karşılaştırma ve revizyon imkânı tanımlanmışsa yeni ve açıkça sınırlanmış öğrenme denemesi de önerebilir.

Sonunda gerçekten neye karar verildi?

Üç ifade türü, üç inceleme türü

Küçük deneme, yapay zekâ projelerinde kolayca karışan ifadeleri ayırır. Ampirik soru, belirlenmiş vaka setinde bir seçeneğin daha sık doğru yönlendirip yönlendirmediği ve ne tür ek iş doğurduğudur. Bunun için tanımlı vakalar, gözlemler ve karşılaştırma kuralları gerekir. Normatif soru, açık vakalardaki kazancın nadir talepleri olan insanlara yönelik olası dezavantajı haklı kılıp kılamayacağıdır. Bunun için gerekçeler, etkilenenlerin bakış açıları ve belirtilmiş sınır gerekir; ölçüm tek başına değer çatışmasını çözmez. Kurumsal soru, testi kimin onayladığı, kimin itiraz edebileceği, hata olduğunda kimin işlem yapacağı ve sorumlu kişinin gerçekten erişim, zaman ve yetkiye sahip olup olmadığıdır. Bunun için roller ve denetlenebilir müdahale yolları gerekir.

Bu ayrım iki simetrik kısa devreyi engeller. Küçük zaman kazancı ölçen kişi henüz etik gerekçeyi kanıtlamış olmaz. Adalet gibi bir değeri ikna edici biçimde savunan kişi de hatanın sıklığını bu yüzden bilmez. Hedeflerde uzlaşma bile işletmede birinin düzeltme için gerekli hakları alacağını garanti etmez. Dikkatli ekip üç soruyu yan yana tutar ve ancak gerekçeli kararda birleştirir.

Bu yaklaşım sonraki Agentik çalışma için de önemlidir. Bir Agent vaka sınıfı önerebilir, kartı doldurabilir veya eksik bilgiyi isteyebilir. Ancak eksik Baseline'ı uydurmamalı, açık değer çatışmasını “çözülmüş” saymamalı ve rol alanından gerçek onay çıkarmamalıdır. Sonraki bir Workflow için izinli çıktı şöyle olabilir: “Olgu eksik; şu gözlem ve şu uzman onayı eksik; sonraki insan inceleme adımı budur.” Sözde bitmiş çıktı test sınırlarını bulanıklaştıracaksa bu tür ihtiyat yararlı sonuçtur.

Yapay zekâya karşı kararın da belgesi gerekir. Yeni form ve açık sorumluluklar öğrenme denemesinde yeterliyse yönetim dil model'i yolunu gerekçeyle durdurabilir. İki seçenek de zayıflık gösterirse sıradaki eylem başka soru olabilir: İstisnalar neden ancak bu kadar geç görünür oluyor? Başlangıçtaki Prompt isteği en azından bir örgüt sorunu ortaya çıkarmıştır. Etik sürecin sonucu “yapay zekâ evet/hayır” zorunlu alanı değil, sırada neyin sorumlu biçimde incelenebileceğinin daha sağlam tarifidir.

İlk turdan sonra kurgusal ekip yapay zekâyı kullanıma almadı. Daha dar bir inceleme konusu yarattı: yapay olarak üretilmiş materyalle iç ön sınıflandırma, yapay zekâ olmayan alternatifle karşılaştırılır; dış iletişim ve gerçek müşteri verileri şimdilik dışarıda kalır. Böylece hangi gözlemin sonraki kararı destekleyip çürütebileceği daha açıktır.

Bu makalenin tezi şudur: Etik, ilk Prompt'tan önce başlar; çünkü daha sorun tanımı, neyin başarı sayıldığını, kimin emeğinin görünür olduğunu ve hangi hatanın kabul edilebilir göründüğünü belirler. İyi Prompt, özenle seçilmiş görevi destekleyebilir. Görevin kendisi ise gerekçelere, karşı savlara, etkilenenlerin bakış açılarına ve varsayım yanlış çıkarsa geri dönüş yoluna ihtiyaç duyar.

Çalışmaya devam etmek için

Doldurulmuş ve boş karar kartı, vakayı KOBİ ve ders çalışması için derinleştirir. Bu dizinin sonraki bir makalesi, yapay zekâ destekli ön çalışmadaki gerçek sorumluluğu; bir diğeri, soru model'ini bütünüyle; bir diğeri, Governance dahil konsültasyon model'ini; bir diğeri ise sınırlı Pilot'u ele alır. Bu derinleştirmeler sonraki makaleler olarak planlanmıştır.

Kaynaklar ve geçerlilik sınırları

NIST (2023), Artificial Intelligence Risk Management Framework (AI RMF 1.0), özellikle s. 1–2, 13 ve 21–25. Gönüllü Framework; karar kartı özgün didaktik türetmedir.

UNESCO (2021), Recommendation on the Ethics of Artificial Intelligence, özellikle par. 35, 42 ve 50–53. Uluslararası tavsiye; vakaya özgü hukuk incelemesi değildir.

Madeleine Clare Elish (2019), “Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction”, Engaging Science, Technology, and Society 5, DOI: 10.17351/ests2019.260. Kavramsal ve vaka analitik eleştiri; bu öğretim örneğinin etkili olduğuna dair kanıt değildir.

Andrew D. Selbst et al. (2019), “Fairness and Abstraction in Sociotechnical Systems”, FAT ’19, DOI: 10.1145/3287560.3287598, özellikle bölüm 2.1. Fazla dar sistem sınırına yönelik kavramsal eleştiri; vaka dünyası bizim KOBİ'miz değildir.

UNESCO (2021), par. 37–38 ve OECD (2019, 2024'te değiştirildi), Recommendation of the Council on Artificial Intelligence, §§ 1.3–1.4. İtiraz ve düzeltmeye ilişkin normatif yönlendirme; genel işletme hukuku görüşü değildir.

Yazarın sağladığı üç Almanca yöntem PDF'i: Fragenerweiterung v5 (A/B/D/C, s. 1–3); Konsultationsmodell (yöntemsel dört adım, s. 7–8; senaryolar, s. 20–33); 5-Phasen-Beratungsmodell (s. 1–3). Model biçimini kanıtlarlar; ampirik etkililiği veya hukuk durumunu değil.