Odadaki En Dostça Ses

Sıcak bir yapay zekâ arayüzünün vaat ettikleri ve bir kuruluşun gerçekte üstlenebilecekleri

Dijital bir asistan dostça bir selamla başlayabilir, birinci tekil şahısla yanıt verebilir ve bir hata için özür dileyebilir. Bunlar bir arayüzün görünür özellikleridir. Sistemin anladığını, önemsediğini, karar vermeye yetkili olduğunu ya da bir taahhüdü yerine getirebileceğini henüz göstermezler. Tasarım sorusu tam bu boşlukta başlar: Arayüz hangi rolü ima eder, sistemin fiilî işlevi nedir ve insanlar bir yanıtı nasıl denetleyebilir, soruyu sorumlu bir insana nasıl devredebilir ya da etkileşimi nasıl bitirebilir?

Sorumlu bir ekip dostça tavrı yasaklamak veya kullanıcıları uyarılarla bunaltmak zorunda değildir. Ancak tasarım sinyallerini kanıtlanabilir ürün özelliklerinden ayırmalıdır. Uygun ölçüt mümkün olduğunca az ya da mümkün olduğunca çok güven değildir; bilinçli ve uygun biçimde sınırlanmış kullanımdır: İnsanlar neyle konuştuklarını, bu sistemin ne yapabildiğini, sonuçları önemli kararlar için kimin sorumlu kalacağını ve bir şey uygun olmadığında hangi yolların açık olduğunu anlayabilmelidir.

1. Bir arayüz sinyal gönderir; kuruluş vaatlerin sorumluluğunu taşır

Tamamen kurgusal küçük bir bisiklet kiralama işletmesi düşünelim. Web sitesindeki metin tabanlı bir asistanın açılış saatlerini, teslim alma ve iade yerlerini açıklaması ve rezervasyon hazırlamasına yardımcı olması planlanmaktadır. Ancak asistan mevcut bir rezervasyonu değiştiremez, ödeme başlatamaz ve bağlayıcı bir taahhütte bulunamaz. Ekip kişisel bir avatarı, “Merhaba, size yardımcı olmaktan memnun olurum” gibi bir karşılamayı ve sıcak, ilgili bir tonu değerlendiriyor.

Bir ziyaretçi bisikleti daha geç teslim edip edemeyeceğini sorar. Asistan şöyle yanıt verir: “Sorun değil, bununla ilgilenirim.” Bir sonraki cümlede iade saatini değiştiremediği anlaşılır. Ziyaretçi yanıtı nazik bir konuşma biçimi olarak anlamış olabilir. Değişikliğin zaten başlatıldığına dair bir işaret olarak anlamış olabilir. Yalnızca açılış saatlerini arıyor da olabilir. Uygun bir araştırma olmadan bu durumda hangi yorumun gerçekten ortaya çıktığını bilmiyoruz.

Yine de üç düzeyi ayırırsak incelemeye başlayabiliriz:

Bu ayrım pratik açıdan önemlidir. Bir cümle, bir durumu gerçekten üstlenmeden ilgili görünebilir. Bir avatar, bir insan diyaloğu okumadan insani yakınlık ima edebilir. Bir özür, bir sorunu çözmeden nazik olabilir. Bunlar sistem hakkında teşhisler ya da geliştiricilerinin niyeti hakkında iddialar değildir. Görünür tasarım, olası yorum ve kurumsal sorumluluk arasındaki farklardır.

“Birisi yapay zekâya güveniyor mu?” sorusu da güvenin neye ilişkin olduğunu söylemiyorsa fazla geneldir. Bir açılış saatinin doğruluğu mu? Gerçek bir rezervasyon değişikliği mi? Bağlayıcı bir taahhüt mü? Yoksa bir sorun olduğunda bir insana ulaşılıp ulaşılamadığı mı? İşletme açısından bu sorular birbirinin yerine geçmez. Bir arayüz hoş görünebilir ve yine de kendi sorumluluğu hakkında yanlış bir beklenti uyandırabilir. Tersine, nesnel bir arayüz anlaşılması zor veya gereksiz biçimde itici olabilir.

Aşağıdaki kavramlar bu makale için yapılmış çalışma ayrımıdır; eksiksiz ya da tek biçimli bir psikolojik tanım değildir. Bir ürün ekibi en az dört kavramı ayırmalıdır:

Sempati karşılaşmanın veya sunumun değerlendirilmesini tanımlar.

Güven, belirsizlik altında başka bir mercie dayanma isteğini ifade eder; hangi eylem ve hangi riskin kastedildiği belirtilmelidir.

Reliance veya kullanım, örneğin birinin bir yanıtı benimsemesi veya sonraki bir adımı izlemesi gibi gözlemlenebilir davranıştır.

Güvenilirlik, performansın, sınırların ve sorumluluğun reliance’ı gerekçelendirip gerekçelendirmediğine ilişkin gerekçeli sorudur.

Olumlu bir değerlendirme doğru performansın kanıtı değildir. Kullanım, arayüzün anlaşılır olduğunun kanıtı değildir. İnsan gibi görünen bir sunum, sistemin rolünün uygun tasarlandığına dair güvence değildir.

2. Araştırma ne gösterir ve ne göstermez

Dostça bir cümleden genel bir etki çıkarmak için bilimsel bir serbest çek yoktur. Burada ilgili özgün çalışmalar farklı sinyalleri, görevleri ve ölçütleri inceler. Birlikte yararlı inceleme ipuçları sunarlar; ancak bir bisiklet kiralama işletmesi, bir chatbot veya tüm kullanıcılar için evrensel bir tasarım formülü sunmazlar.

Kurgusal bir çiçek siparişi için metin tabanlı bir mesajlaşma ajanını inceleyen deneysel bir çalışmada, gayriresmî dil, insan adı ve diyalojik karşılama ve vedalaşma biçimleri bir bütün olarak daha antropomorfik algıyla ilişkilendirilmiştir. Nihai analiz 175 katılımcıyı kapsıyordu. Çalışma bir profil resmini incelemedi. Ayrıca sosyal mevcudiyet üzerinde genel anlamlı bir ana etki ve şirket memnuniyeti veya şirkete yönelik tutum üzerinde anlamlı doğrudan ya da toplam etki bulmadı. Bu nedenle hafif, kurgusal bir görevde belirli bir sinyal demetine ilişkin sonuç, ne bir avatarın etkisini ne de müşteri hizmetlerinde genel bir güven etkisini kanıtlar. [1]

Otomasyon araştırmasındaki üç deney farklı ve aynı ölçüde önemli bir gerilim bildirir. Katılımcılar, güvenilirliği kademeli olarak azalan bir bilgisayardan, avatardan veya insan olarak sunulan bir merciden tavsiye aldılar. Bu koşullar altında antropomorfik sunum, ölçülen güvenin daha yüksek dayanıklılığıyla ilişkilendirildi. Sonuç, insanların her zaman daha güçlü güvendiği, sistemin daha güvenilir olduğu veya insanî bir sunumun sorumlu olacağı anlamına gelmez. Daha ziyade, algılanan güvenilirlik ile gerçekten test edilmiş performansın neden ayrı ele alınması gerektiğini gösterir. Çalışmanın görevi ve sistemi, küçük bir işletmenin güncel bir rezervasyon asistanı değildi. [2]

Karşıdaki tarafın insan değil chatbot olduğunun açıklanması da basit bir etki tablosu oluşturmaz. Bir enerji sağlayıcının müşteri hizmetlerinde gerçekleştirilen iki senaryo tabanlı deney, diğer etkenlerin yanında bir talebin kritik mi rutin mi olduğunu ve bir hizmet akışının başarılı mı yoksa başarısız mı bittiğini değiştirdi. Ölçülen güven etkileri duruma göre farklılaştı. Bir çalışmada kritik bir talepte, açıklama yapılan koşulda daha düşük bir güven değeri görüldü; rutin taleplerde buna karşılık gelen bir etki yoktu. İkinci çalışmada başarısız akıştaki yön, başarılı akıştakinden farklıydı. Bunlar senaryolardan gelen bağlama bağlı bulgulardır; bir kimliği gizlemek için gerekçe değildir. Tek bir açıklamanın fiilî rolü herkes için anlaşılır kıldığını da kanıtlamazlar. [3]

Diyalog sistemlerinde insan-makine devrine ilişkin bir çalışma başka bir katkı sağlar: Handoff, tanımlı tetikleyicileri ve test durumları olan somut bir işlev olarak modellenebilir. İncelenen verilerde, açıkça bir kişi istemek, yetersiz bir yanıt, olumsuz duygu durumu veya tekrarlanan ifadeler devri gerektirebilecek kategoriler arasındaydı. Çalışma belirli veri kümeleri için görevleri ve model performansını inceler. Belirli bir düğmenin kolay bulunabildiğini veya her devrin deneyimi iyileştirdiğini kanıtlamaz. Ancak “İnsan desteği var” şeklindeki belirsiz ifadeyi test edilebilir bir ürün sorusuna çevirmeye yardımcı olur: Devir ne zaman, kime, hangi bilgilerle yapılır ve kimse uygun değilse ne olur? [4]

Üretken yapay zekâ için NIST profili, uygunsuz antropomorfikleştirme, automation bias, aşırı reliance ve duygusal bağlanmayı insan-yapay zekâ yapılandırmasının riskleri olarak sınıflandırır. Kullanım bağlamının, beklentilerin, sınırlamaların, risklerin ve insan gözetiminin belgelenmesini önerir. Bu, gönüllü bir risk yönetimi kılavuzudur; ampirik bir etki büyüklüğü, AB hukuk normu ya da belirli bir avatar tasarımının zararlı olacağı iddiası değildir. Bisiklet kiralama işletmesi için bu, etkileşimi zaten belirlenmiş bir risk değerlendirmesi olarak değil, sosyoteknik bir karar olarak belgeleme nedenidir. [6]

Bu bulgulardan ihtiyatlı bir ara değerlendirme çıkar:

1. Tasarım sinyalleri belirli çalışmalarda bir sisteme ilişkin algıyı değiştirebilir; etkileri sinyal demetine, göreve ve ölçüme bağlıdır. 2. Güven ve reliance ne eş anlamlıdır ne de fiilî doğruluğun veya kurumsal sorumluluğun ölçüsüdür. 3. Açıklama farklı tepkilere eşlik edebilir. Böyle bir tepki, açıklamanın etik, kurumsal veya hukuki incelemesinin yerini tutmaz. 4. Devir ve çıkış somut ürün işlevleri olarak tasarlanabilir ve incelenebilir. Hangi somut düzenlemenin uygun olduğu, uygun bir bağlamda araştırılıncaya kadar bir tasarım kararı olarak kalır.

Araştırma bu nedenle “Arayüz ne kadar dostça olmalı?” sorusunu yanıtlamaz. Daha kesin bir soruyu zorunlu kılar: Somut bir sinyal somut bir durumda hangi beklentiyi ima edebilir, bunlardan hangisi işlev için gerekli olur ve kuruluş yanlış varsayımları nasıl fark edilir ve düzeltilebilir kılabilir?

3. Etik gerilim: soğukluk olmadan açıklık, yanlış vaat olmadan yakınlık

İnsan gibi görünen her dili aldatma saymak fazla basit olurdu. Nazik bir selamlaşma etkileşimi erişilebilir ve daha az göz korkutucu yapabilir. Kısa ve anlaşılır bir açıklama, teknik olarak doğru ancak okunamaz bir betimlemeden daha yararlı olabilir. Farklı dilsel veya dijital ön deneyimleri olan insanlar farklı erişim yollarına ihtiyaç duyabilir. Makale bundan genel bir etki iddia edemez; ancak anlaşılabilirliğin kendisinin önem taşıdığını normatif bir tasarım sorusu olarak kaydedebilir.

Karşı görüş ciddiye alınmalıdır: Bir kuruluş her cümleyi uyarı metniyle çevirirse kullanımı zahmetli kılar, dikkati ikincil konulara dağıtır ve tam da önemli bilgileri gizleyebilir. Personel kaynakları sınırlı bir işletme için her zaman kullanılabilir insan devri gerçekçi olmayabilir. Nötr ifadeli bir asistan, sıcak bir asistandan otomatik olarak daha anlaşılır değildir. Aşırı açık bir arayüz otomatik olarak adil bir arayüz değildir.

Ancak karşı argüman kendi sınırını belirlemez. Kıt kaynaklardan, bir arayüzün işletmenin yerine getirebileceğinden fazlasını vaat etmesi sonucu çıkmaz. Sıcak bir tondan otomatik olarak yanlış rol varsayımı çıkmaz. Açıklanmış bir rolden herkesin bunu fark edeceği otomatik olarak çıkmaz. Bu nedenle sürdürülebilir norm, yakınlığı veya uyarıları en üst düzeye çıkarmak değil, tasarımı, yeteneği ve sorumluluğu uyumlu kılmaktır.

Bu norm felsefi olarak doğruluk ve özerklik sorusu şeklinde tanımlanabilir. Bir üründe doğruluk, her tek tek metin satırının kelimesi kelimesine doğru olmasıyla tükenmez. Sıralama, yerleştirme ve eksiltme de beklentileri biçimlendirebilir. Özerklik de her belirsizliğin uzun bir sorumluluk metnine aktarılmasını gerektirmez. Bir eylem için belirleyici bilgilerin bulunabilir olmasını gerektirir: Kim veya ne yanıtlıyor? Sistem ne içindir? Ne yapamaz? Bir kararı kim değiştirebilir? Birisi süreci nasıl bitirebilir veya yükseltebilir?

Bisiklet kiralama işletmesi anlamlı bir performans vaadi oluşturabilir: “Bu dijital asistan teslim alma ve iade bilgilerini açıklar ve rezervasyon hazırlamaya yardımcı olur. Mevcut bir rezervasyonu değiştirmez ve bağlayıcı taahhütlerde bulunamaz. Değişiklikler için işletmenin iletişim yolunu kullanın.” Bu ifadenin her yerde tekrarlanması, başlangıçta gösterilmesi veya belirli sorularda yeniden gösterilmesi gerekip gerekmediği, akış ve yürürlükteki hukuk açısından incelenmelidir. Önemli olan, ileri sürülen işlevin sistemin ve işletmenin gerçek performansına karşılık gelmesidir.

Bu soru sorumluluğa ilişkindir. Tek bir diyalog cümlesi ürün kararlarının sonucudur: Hangi görevler açıldı? Hangi sınırlar test edildi? Bir devrin uygun olup olmadığına kim karar verir? Bir değişikliği kim denetler? İçeriği kim güncelleyebilir ve şikâyetleri işleyebilir? Etkileşim sistem tarafından yürütülür, ancak kuruluş sisteme verdiği rolden, izin verdiği ifadelerden ve yanlış yönlendirmeye nasıl yanıt verdiğinden sorumludur.

Bu nedenle yararlı bir tasarım hedefi kalibre edilmiş reliance’tır: Kullanıcılar bir işlevi uygun olduğu yerde kullanabilmeli ve soru sınırlarının dışına çıktığında durabilmeli ya da devredebilmelidir. Bu, belirli bir düzenin bunu zaten garanti edebileceği iddiası değil, normatif bir ürün gereksinimidir. Ekibin ve kullanıcıların dostluk konusunda aynı görüşü paylaşması gerekmez. Ancak işlev, sınırlar, sorumluluk ve düzeltme olanakları konusunda karanlıkta bırakılmamalıdırlar.

4. Soru Modeli başlangıç sorusunu değiştirir

Bu kategoride Soru Modeli F, prompt sihri veya bir doğruluk makinesi değildir. Başlangıç sorusunu incelemek, birden fazla açıklamayı açık tutmak, belirsizliği gizlememek ve ancak ondan sonra gözden geçirilmiş bir yönlendirici soruyu kaydetmek için bir yöntemdir. Sırası A → B → D → C’dir. [7] Bu örnekte yöntem çalışma hedefini gerçekten değiştirir.

Aceleci başlangıç sorusu şudur: “Ziyaretçilerin asistana güvenmesi için onu mümkün olduğunca nasıl sempatik yaparız?” Bunun içinde en az üç incelenmemiş varsayım vardır: sempatinin ilgili hedef olduğu, daha fazla güvenin ilke olarak daha iyi olacağı ve tonun veya avatarın olgusal olarak uygun güvenilirliği sağlayabileceği.

A – Kavramları, hedefi ve nedeni açıklığa kavuşturmak

Sokratik açıklama önce “sempatik”, “güvenmek” ve “yardım etmek” kavramlarının bu somut üründe ne anlama geldiğini sorar. Bir ziyaretçi asistanın açılış saatlerini doğru söyleyeceğine güvenebilir, ancak rezervasyon değişikliği yapacağına güvenmeyebilir. İşletmenin de daha sempatik bir arayüze değil, daha güvenilir bilgilere ve teslim alma yerleri konusunda daha az karışıklığa ihtiyacı olabilir.

Burada 5-Why tek bir gerçek nedenin kanıtı için değil, neden aramak için kullanılır. Asistan neden güvenilir görünmelidir? Belki yinelenen sorular personeli meşgul ettiği için. Sorular neden yinelenir? Belki iade yerleri farklı sayfalarda tutarsız biçimde anlatıldığı için. O halde ilk iyileştirme kişisel bir avatar değil, açık bir bilgi sayfası olabilir. SCAMPER daha sonra çeşitler açar: mevcut bilgileri daha anlaşılır biçimde düzenlemek, görevi sınırlamak, insan kaynaklı bir bilgi eklemek veya asistanı şimdilik hiç kullanmamak. Soru teknikleri alternatif üretmeye yardımcı olur; etkilerini kanıtlamaz.

B – Bir dilek anlatısı yerine birden çok hipotez

Bağlam analizi birbiriyle rekabet eden birden çok açıklama üretir:

H1: Açık, dostça bir ton, işlev anlaşılır kaldığı sürece kullanımı daha davetkâr kılabilir.

H2: Kişisel bir avatar ve “Bununla ilgilenirim” gibi cümleler, bu akışta sistemin gerçekte sahip olduğundan daha geniş bir sorumluluk ima edebilir.

H3: Bu tür sinyallerin anlamı, bir kişinin yalnızca teslim alma yerini mi aradığına yoksa önceden ödenmiş bir rezervasyonu mu değiştirmek istediğine bağlı olabilir.

H4: Sorun web sitesinin yapısından kaynaklanıyor olabilir; bir yapay zekâ arayüzü nedeni ortadan kaldırmaz.

Meta-soru şudur: Kimin çabası azalmalı ve bir yanıt amaçlanandan daha bağlayıcı anlaşılırsa çabayı veya riski kim taşır? Bu soru, bakışı bir konuşmanın ikna gücünden sonuçlarının dağılımına kaydırır.

D – Belirsizliği işaretlemek ve soruyu gözden geçirmek

Kurgusal işletme için kullanıcı testleri yoktur. Avatarın ilgili görevlerde rol varsayımını değiştirip değiştirmediği, başlangıç açıklamasının fark edilip edilmediği, iletişim yolunun küçük ekranlarda bulunup bulunamadığı ve o anda kimse yanıt veremediğinde devrin nasıl işlediği açıktır. Bu boşluklar ne sezgiyle ne de uydurulmuş bir yüzdeyle kapatılabilir.

Model burada herhangi bir hipotezi kazanan seçmeyi gerektirmez. Belgelenmiş bir takip sorusu veya geri dönüş seçeneği gerektirir. İşletme önce statik sayfaların daha anlaşılır olup olmadığını inceleyebilir ve kurgusal test görevleri olan sınırlı bir prototip kullanabilir. Bir varsayım belirsiz kalırsa açık kalır. Belgeler, hangi gözlemin onu daha sonra değiştirebileceğini kaydeder.

C – Daha iyi bir soruyu ve eylem planını kaydetmek

Gözden geçirme daha dar bir çalışma sorusu üretir:

Sınırlı bir dijital bisiklet kiralama asistanının gerçek rolü ve sınırları fark edilebilir olsun, desteklenmeyen veya sonuçları önemli taleplerde insan devri mümkün olsun ve etkileşim döngüye girmeden bitirilebilsin diye hangi sinyallere ve işlevlere ihtiyacı vardır?

Bir GROW eylem planı sonraki adımı düzenleyebilir: Goal – işlevin, sınırların, iletişimin ve bitişin görünür olduğu test edilebilir bir prototip; Reality – hangi yolların ve sorumlulukların zaten bulunduğu; Options – yapay zekâ olmadan daha açık bir web sitesi, nötr bir asistan, açık rol açıklığıyla sıcak bir ton veya sınırlı bir pilot; Will – sorumlu bir rol üç prototip çeşidi oluşturur, varsayımları belgeler ve tanımlı bir testten sonra bunlardan birinin sürdürülüp sürdürülmeyeceğine karar verir. Plan etik soruyu otomatik olarak yanıtlamaz. Yalnızca sonraki kararı test edilebilir kılar.

Görünür değişim belirleyicidir: Ekip artık “Güveni nasıl kazanırız?” yerine, hangi bilginin, sorumluluğun ve çıkış işlevinin gerçek rolü anlaşılır kıldığını sorar. Bir etkiyi en iyileme, koşulların, hakların ve sınırların incelenmesine dönüşür.

5. Konsültasyon Modeli perspektifleri bir yönetişim kararına dönüştürür

Konsültasyon Modeli K, iki taslak üzerinde yapılan oylamadan daha geniştir. Öğrenme hedefini, farklı perspektifleri, düşünmeyi, kararı, uygulamayı ve değerlendirmeyi birleştirir. Yöntemsel temel döngüsünün dört adımı vardır: Keşif → Düşünme/Analiz → Karar verme/Öneri → Geri bildirim/Değerlendirme. [8] Ayrıntılı vaka senaryolarında uygulama ayrı bir pilot adımı olarak görünür; bu da beş adımlı bir vaka işlenişi oluşturur: keşif, düşünme, karar, uygulama/pilot ve sonuç değerlendirmesi/optimizasyon. Bu beş adım K Modelinin dört adımlı temel döngüsü değil, genişletilmiş senaryo biçimidir. Ayrıca ayrı Danışmanlık Modeli R’nin beş aşaması değildir.

Bisiklet kiralama işletmesinde keşif gerçek görevleri ve rolleri saptamakla başlar: Açılış saatlerini kim arar? Rezervasyon değişikliklerini kim yanıtlar? İşletmede kim sorumludur? Hangi kişilerin sohbet için bir alternatife ihtiyacı vardır? Her perspektif kişisel profillere ihtiyaç duymaz. Alıştırma kurgusal görevlerle ve gönüllü, veri tutumlu geri bildirimle çalışabilir.

Düşünme ve analizde değerler gerilim içine girer. Hızlı kendi kendine hizmet rahat olabilir; açık bir sınır, asistanın yapılmamış bir değişikliği ima etmesini önleyebilir. Tekrarlanan açıklama şeffaflığı destekleyebilir, ancak sayfayı aşırı doldurabilir. Her zaman ulaşılabilir bir insan yararlı olurdu, ama personel kaynağı gerektirebilir. Model, bu gerilimlerin kurgusal bir puana veya sözde tarafsız bir uzlaşıya çözülmemesini gerektirir.

Karar somut, atfedilebilir bir kuralı değiştirmelidir. Kurgusal işletmenin tasarımı için şöyle olabilir: “Karşılama, asistanı dijital bir yardımcı araç olarak ve desteklediği görevlerle birlikte adlandırır. Bir değişiklik talebinde, rezervasyonu değiştiremediğini hemen gösterir ve gerçekte mevcut iletişim yolunu sunar. Bitirme işlevi görünür kalır.” Bu, alıştırma vakası için editoryal bir ürün kararıdır; ampirik olarak belirlenmiş en iyi çözüm değildir.

Pilot aşamasında “güven” veya “etik kalite” tek bir beğeni değeriyle ölçülmez. İşletme bunun yerine önceden gözlemlenebilir inceleme soruları belirler:

Test katılımcıları desteklenen görevleri doğru adlandırabiliyor mu? Arayüzün dijital olduğunu ve bağlayıcı rezervasyon değişiklikleri yapmadığını fark ediyorlar mı? Gerçek iletişim ve bitirme yolunu dolambaçsız bulabiliyorlar mı? Asistanın gerçekleşmemiş bir devri ima ettiği bir hata durumu var mı? Hangi kullanıcı grubu veya erişim durumu test düzeninde eksik?

Geri bildirim/değerlendirme daha sonra bir tasarım kuralının değiştirilmesi gerekip gerekmediğini inceler. Buna nitel geri bildirim ve basit görev gözlemleri dahildir; gerçek konuşmaların genel gözetimi dahil değildir. Her gerçek veri toplama, açık bir amaç, uygun hukuk ve veri koruma incelemesi ve anlaşılır bilgi gerektirir. Yeni bir yanlış yorum yönetişim kararını yeniden açar: rol bir kez etiketlenip sonsuza kadar tamamlanmış olmaz.

Konsültasyon Modeli burada “paydaşlar”dan söz ederek değil, tercih edilen tasarımı değiştirebildiği için işler. Test katılımcıları bir ifadeyi tekrar tekrar rezervasyon onayı olarak anlıyorsa, ifade terk edilir. Kalıcı bir iletişim olanağı kaynak eksikliği nedeniyle sunulmuyorsa ekip varmış gibi davranamaz; gerçekte ulaşılabilir bir alternatif tanımlamalı veya işlev kapsamını azaltmalıdır. Farklı perspektifler, önceden belirlenmiş çözümün çevresindeki süs değil, kararın parçasıdır.

Model, öğretim için uygulama ile kuramın 70/30 bölünmesini bir tasarım seçeneği olarak önerir. Bu sayı doğrulanmış bir doz değildir ve bu makalede öğrenme etkinliği olarak sunulmaz. Aşağıdaki önerilen 45 dakikalık alıştırma, bundan bağımsız olarak ders hedefine ve gruba uyarlanabilir.

6. Danışmanlık Modeli R somut hukuk sorularını uzmanlara devreder

R, sözleşmesel, hukuki ve düzenleyici sorular için bağımsız, beş aşamalı uzman inceleme yoludur. “Chatbotumuz hukuka uygun mu?” sorusuna kendiliğinden verilen bir yapay zekâ yanıtıyla başlamaz. Beş aşaması şunlardır: Hazırlık/Anamnez → Analiz/Sorun Tanımı → Danışmanlık/Çözüm → Uygulama/Belgeleme → Değerlendirme/İzleme. [9] Model yapılandırılmış bir görev ve kanıt izi oluşturur. Ne bir ders makalesini ne de doldurulmuş bir formu hukuk danışmanlığına dönüştürür.

Kurgusal asistan için hukuki veya uyum uzmanı incelemesi şu bilgileri gerektirebilir:

1. Hazırlık/Anamnez: teknoloji, somut işlev, ilgili kuruluşlar ve roller, sözleşmeler, belgeler, veri akışları, iletişim kanalı, hukuk alanı ve referans tarihini toplamak.

2. Analiz/Sorun Tanımı: belirtilen vakadaki boşlukları, riskleri, fırsatları ve öncelikleri saptamak; örneğin bunun bir yapay zekâ sistemiyle doğrudan etkileşim, tüketici iletişimi, bir ifadenin sözleşmesel etkisi, veri koruma veya erişilebilirlik olup olmadığını açıklığa kavuşturmak.

3. Danışmanlık/Çözüm: nitelikli bir uzman mesleki işbirliği içinde olası çözümler geliştirir, güncel birincil normu inceler ve koşulları ile açık noktaları belirtir. Makale bunu peşinen kararlaştırmaz.

4. Uygulama/Belgeleme: sorumlu kişiler incelenen çözümü uygular, sürümü, sorumluluğu ve kanıtı belgeler ve değişikliği etkilenen rollere iletir. Anlaşılır biçimde yazılmış bir arayüzün bile arkasında gerçek bir süreç gerekir.

5. Değerlendirme/İzleme: sonucu ve açık noktaları izlemek; işlev, kuruluş, sağlayıcı, hukuk alanı veya esas norm değiştiğinde uyarlamak ve yeniden incelemek. Önceki bir inceleme zamansız bir onay değildir.

25 Eylül 2026 itibarıyla Avrupa Komisyonu kılavuzları AI Act’in 50. maddesini 2 Ağustos 2026’dan itibaren uygulanabilir olarak belirtir. Madde 50(1), gerçek kişilerle doğrudan etkileşim için tasarlanmış yapay zekâ sistemlerinin sağlayıcılarını kapsar: koşullar ve bağlam açısından açık olmadığı sürece, kişilerin yapay zekâyla etkileşim içinde oldukları hakkında bilgilendirilmeleri için sistemi tasarlamalıdırlar. Belirli bir kuruluşun, işlevin ve arayüzün buna girip girmediği ve nasıl girdiği uzmanlık sorusudur. Bisiklet kiralama vakası burada hukuken sınıflandırılmaz; sinyal/rol haritası ne hukuk incelemesinin ne de uyum kanıtının yerini tutar. [5]

R→K devri uzmanlara yönlendirme kadar önemlidir. İnceleme somut bir koşul veya açık soru geri verirse yönetişim kararı uyarlanmalıdır. Belki arayüzün daha açık başlangıç bilgisine ihtiyacı vardır; belki bir performans vaadi kaldırılmalıdır; belki kullanım vakası başka biçimde sınırlandırılmalıdır. Bu nedenle R, K vaka işlenişinin beşinci aşaması olarak çalışmaz. İki modelin görevleri ve girdileri farklıdır.

7. Sinyal, açıklama ve çıkış haritası

Makalenin çalışma artefaktı, somut bir etkileşim üzerinde doldurulan bir haritadır. Alanları, gözlemlenebilir bir cümlenin sessizce kullanıcılar, sistem veya şirket hakkında olgusal bir iddia olarak yeniden yorumlanmasını önler.

Harita, aynı ürün işlevinin üç sürümüne uygulanabilir:

Varyant A – yapay zekâ olmadan: Açık açılış saatleri, yerler, SSS ve iletişim olanağı olan yapılandırılmış bir bilgi sayfası. Diyalog arayüzü eklenmeden önce yinelenen sorunun nedenini ele alabilir.

Varyant B – nesnel asistan: Kısa rol tanımı, sınırlı görev listesi, açık yanıtlar ve kalıcı biçimde bulunabilen iletişim ve bitirme yolu.

Varyant C – sıcak asistan: İlgili ton mümkün kalır, fakat insanileştirici bir ses rol tanımının ve sınırların yerini almaz. Rezervasyon değişikliğinin yapıldığını ima etmez.

Hiçbir varyant yalnızca bu açıklamaya dayanarak en iyi sayılmaz. Ekip her biri için hangi varsayımı gerektirdiğini, çalışanlar için hangi yükü yarattığını, hangi erişimleri açtığını veya zorlaştırdığını ve hangi somut gözlemin değişikliğe yol açacağını belgeler. Daha basit bilgi sayfası görevi güvenilir biçimde yerine getiriyorsa, diyalogsal yapay zekânın prestij veya modernleşme nedenleriyle kullanılmasına gerek yoktur.

8. Dersler ve KOBİ’ler için 45 dakikalık alıştırma

Amaç: Katılımcılar gözlemlenebilir sinyali, olası yorumu ve fiilî ürün taahhüdünü ayırır. Gerekçeli bir gözden geçirme yapar ve bundan açıklama, devir ve çıkış için test edilebilir bir kural türetirler. Değerlendirilen, önceden belirlenmiş bir çözüme katılmak değil, gerekçenin niteliğidir.

Materyal: Aynı işleve ve farklı arayüzlere sahip iki kurgusal kart. Kart 1 avatar, birinci tekil şahıs ve sıcak ton kullanır; Kart 2 nesnel sunum kullanır. Her ikisi de aynı yeteneklere ve sınırlara sahiptir. Üçüncü seçenek olarak yapay zekâ içermeyen bir bilgi sayfası vardır. Hiçbir kart gerçek kullanım verisi veya yeniden kurulmuş konuşma geçmişi içermez.

Akış:

1. Dakika 0–5 – Başlangıç sorusu: “Hangi kart daha güvenilir görünüyor?” Grup kendiliğinden yanıtları kaydeder, ancak sempatinin, reliance’ın ve güvenilirliğin farklı şeyler olduğunu işaretler.

2. Dakika 5–15 – F-A: Kavramları ve varsayımları açıklığa kavuşturmak. Her grup görünür unsurları kelimesi kelimesine kaydeder ve onları varsayılan rolden ayırır. 5-Why, arayüzün hangi iş veya bilgi sorununu çözmesi gerektiğini inceler. SCAMPER veya basit bir seçenek turu yapay zekâsız bir alternatif üretir.

3. Dakika 15–22 – F-B: Olası yorumlar veya engeller hakkında en az üç rekabet eden hipotez oluşturmak. Bir meta-soru kimin yarar elde ettiğini ve yanlış anlamanın sonuçlarını kimin taşıyacağını belirtmelidir.

4. Dakika 22–27 – F-D: Grup, kanıt eksikliği nedeniyle hangi hipotezin açık kaldığını işaretler. Yüzde değerleri uyduramaz. Varsayımı hangi kısa, veri tutumlu gözlemin inceleyebileceğini formüle eder.

5. Dakika 27–37 – K: Keşif ve düşünme etkilenen rolleri ve en güçlü itirazı saptar. Grup, performans vaadini değiştirmek veya görünür bir çıkış sağlamak gibi somut bir ürün kuralı seçer. Bir test koşulu ve gözden geçirme tetikleyicisi belirtir.

6. Dakika 37–42 – R devri: Bir hukuk sorusu açıksa grup işlevi, kuruluşu, kanalı, hukuk alanını, referans tarihini ve gereken belgeleri içeren bir uzman inceleme görevi yazar. Grup hukuk sorusunu kendisi kararlaştırmaz.

7. Dakika 42–45 – F-C: Yeni, dar çerçeveli bir soru ve sonraki adım kaydedilir. GROW planı hedefi, mevcut durumu, seçenekleri ve sorumlu eylemi adlandırır.

Teslim ölçütü: (a) gözlemlenen sinyal, (b) açıkça hipotez olarak belirtilmiş yorum, (c) fiilî işlev sınırı, (d) seçilmiş yönetişim kuralı, (e) gerçek devir/çıkış yolu, (f) açık uzmanlık sorusu ve (g) gözden geçirme koşulu içeren doldurulmuş kart seti. Kanıtı, değerleri, etkilenenleri ve sınırları açıklarlarsa gerekçeli fakat farklı iki karar eşit derecede iyi olabilir.

Bir KOBİ atölyesinde görev 45 dakikaya kısaltılabilir veya daha uzun bir prototip oturumuna yerleştirilebilir. Grup, kişisel deneyimleri veya özel müşteri görüşmelerini anlatmaya zorlanmamalıdır. Test görevleri tamamen kurgusal olabilir. Gerçek geri bildirim toplanırsa bunun ayrı bir amacı, uygun bilgisi, veri tutumluluğu ve uygun bir hukuk incelemesi olmalıdır.

9. Ürün ekipleri için kısa bir kural

Küçük bir ekip, diyalogsal bir asistanı kullanıma açmadan önce beş soruyu yazılı olarak yanıtlayabilir:

1. Ne görünür? Empatik, anlayışlı veya güvenilir gibi kavramları sistem özelliği olarak sunmadan somut sinyalleri tam olarak tanımlamak.

2. Gerçekte ne mümkündür? Görevleri, sınırları ve kullanıcılar için ilgili işlev kapsamını kanıtlamak.

3. Bir kişi rol hakkında ne anlayabilir? Olası yorumları hipotez olarak işaretlemek ve karşı örneklerle incelemek.

4. Bir sınıra gelindiğinde ne olur? Devir, statik bilgiye dönüş ve çıkış yalnızca dostça ifadeler değil, gerçek süreçler olarak var olmalıdır.

5. Kuralı kim değiştirir? Sorumluluğu, kanıtı, gözden geçirme tetikleyicisini ve gerekli uzman incelemesini adlandırmak.

Bu sorular bir öğrenme ve yönetişim aracıdır, sertifika değildir. Küçük bir ürün ekibi için tek sayfaya sığabilirler; kullanımın önemli sonuçlara, özel verilere veya hukuki yükümlülüklere temas ettiği durumda derinlemesine incelemenin yerini tutmazlar. Yararlılıkları, yanıtların incelenip gerektiğinde değiştirilmesine bağlıdır.

Sonuç: Dostluk doğrulanabilir bir role ihtiyaç duyar

Dostça bir yapay zekâ arayüzü ne otomatik olarak ilgili ne de otomatik olarak yanıltıcıdır. Rolünü insanların farklı yorumlayabileceği tasarlanmış bir karşılaşmadır. Dar biçimde tanımlanmış görevlerden gelen bilimsel bulgular, antropomorfik sinyallerin, reliance’ın ve açıklamanın tek basit bir kuralda birleşmediğini gösterir. Sınırları, tasarım kararından sonra eklenen dipnotlar değil, sonucun parçasıdır.

Soru Modeli F, aceleci etki arayışını parçalar ve gözden geçirmeye açık daha dar bir soru geliştirir. Konsültasyon Modeli K kuruluşu perspektifleri ve karşıt görüşleri pilotta incelenebilecek somut bir yönetişim kuralına dönüştürmeye zorlar. Danışmanlık Modeli R, yalnızca kesin olarak sınırlandırılmış hukuk ve sözleşme sorularını sorumlu bir uzman incelemesine devreder ve bunun koşullarını ürün kararına geri taşır. Bu modellerin hiçbiri kendi başına “doğru” arayüzü vermez.

Kurgusal işletme için bunun anlamı şudur: Sıcak ton, bilgi ile rezervasyon değişikliği arasındaki sınırı bulanıklaştırmıyorsa kalabilir. Avatar ne ilke olarak kaldırılmalı ne de zararsız kabul edilmelidir. Açıklama, somut ürün ve hukuk bağlamında incelenmelidir. Bir insana yalnızca reklam cümlesinde değil, işleyen bir yoldan ulaşılabilmelidir. Çıkış da ancak bulunabilir ve kullanılabilir olduğunda seçenek olur.

Bu nedenle merkezdeki soru, yapay zekânın hoş ses çıkarıp çıkarmadığı değildir. Şudur: Kuruluş, arayüzünün ima ettiği rolü kanıtlayabilir mi ve insanlar farklı bir rol anladığında harekete geçebilir mi?

Kaynaklar

1. Araujo, T. (2018). “Living up to the chatbot hype: The influence of anthropomorphic design cues and communicative agency framing on conversational agent and company perceptions.” Computers in Human Behavior, 85, 183–189. https://doi.org/10.1016/j.chb.2018.03.051.

2. de Visser, E. J., Monfort, S. S., McKendrick, R., Smith, M. A. B., McKnight, P. E., Krueger, F., & Parasuraman, R. (2016). “Almost human: Anthropomorphism increases trust resilience in cognitive agents.” Journal of Experimental Psychology: Applied, 22(3), 331–349. https://doi.org/10.1037/xap0000092.

3. Mozafari, N., Weiger, W. H., & Hammerschmidt, M. (2020). “The Chatbot Disclosure Dilemma: Desirable and Undesirable Effects of Disclosing the Non-Human Identity of Chatbots.” Proceedings of ICIS 2020, Paper 1415. https://aisel.aisnet.org/icis2020/hci_artintel/hci_artintel/6/.

4. Liu, J., Gao, Z., Kang, Y., Jiang, Z., He, G., Sun, C., Liu, X., & Lu, W. (2021). “Time to Transfer: Predicting and Evaluating Machine-Human Chatting Handoff.” Proceedings of the AAAI Conference on Artificial Intelligence, 35(7), 5841–5849. https://doi.org/10.1609/aaai.v35i7.16731.

5. European Parliament and Council. Regulation (EU) 2024/1689, Article 50(1), consolidated text dated 27 July 2026. EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/2026-07-27/eng. European Commission, “Guidelines on transparency obligations for providers and deployers of certain AI systems,” last updated 6 August 2026: https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-transparency-obligations. Accessed 25 September 2026.

6. National Institute of Standards and Technology (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. https://doi.org/10.6028/NIST.AI.600-1.

7. SAKIZLI.AI. Soru Modeli v5 (Almanca yöntem sürümü), ss. 1–3. Model sırası A → B → D → C; yöntemsel betimleme, etkililik kanıtı değildir.

8. SAKIZLI.AI. Konsültasyon Modeli (Almanca yöntem sürümü), temel döngü ss. 7–8; ayrıntılı vaka senaryoları ss. 20–33. Dört parçalı temel yöntem ile ayrı beş parçalı vaka işlenişi ayırt edilir.

9. SAKIZLI.AI. Beş Aşamalı Danışmanlık Modeli (Almanca yöntem sürümü), genel bakış ss. 1–3; ayrıntı ss. 4–16. Yöntemsel uzman inceleme yolu, hukuk danışmanlığı değildir.

Vakaya ilişkin not: Bisiklet kiralama işletmesi, web sitesi, diyaloglar, görevler ve ürün kuralları tamamen kurgusaldır. Gözlemlenmiş bir kullanıcı etkisi, gerçek ürün özelliği veya hukuki uyum iddia etmezler. Model açıklamaları yöntemsel çalışma biçimlerini açıklar; bilimsel etkililiklerini kanıtlamazlar.