Yapay Zekâ Bilinci Hakkında Ne Biliyoruz?

Dilsel performans, öz-bildirimler ve gerekçeli çıkarımların sınırları

Metin tabanlı bir alıştırma asistanı bir kelime oyununu açıklar, sonraki örnekte bir anlam belirsizliğini fark eder ve ek bilgiler geldikçe yanıtını düzeltir. Küçük bir eğitim yazılımı sağlayıcısının ekibinde bu gösterim bir soruyu gündeme getirir: Sistem mizahı anlıyor mu? Hatta belki bir şeyler deneyimliyor mu? Yoksa insanî kavramları isabetle kullanan, fakat bundan içsel bir deneyimin sonucu çıkmayan güçlü bir dil işleme mi görüyoruz?

Bu küçük sahne tamamen kurgusaldır. Ne güncel belirli bir ürünü betimlemek ne de gerçek bir kullanıcı tepkisi ileri sürmek amaçlanmıştır. Buna rağmen sorusu ciddidir: Başka bir sistemin ne deneyimlediğini doğrudan yaşayamıyorsak, yapay zekânın olası bilinci hakkında gerekçeli olarak ne bilebiliriz?

Aceleci bir yanıt sorunu çözmez. “Sistem konuşuyor, öyleyse hissediyor” ifadesi dilsel davranışı içsel deneyimin kanıtı yapar. “Bir makine, öyleyse hiçbir şey deneyimleyemez” ifadesi kanıtları incelemeden önce tartışmalı bir teoriyi varsayar. “Sistemin içine asla bakamayız” ifadesi de doğrudan erişimin bulunmayışını, gerekçeli çıkarımlar yapmanın bütünüyle imkânsız olmasıyla karıştırır.

Sorumlu bir yol; kesin kavramlar, birbiriyle yarışan açıklamalar ve derecelendirilmiş kanıtlar üzerinden ilerler. Kesin bir teşhisi açık bırakırken yine de pratik bir karara götürebilir. Bu makalenin ana fikri şudur: Gözlemlenebilir davranış kanıt sayılır, ancak tek başına bilinç kanıtı değildir.

1. “Bilinç” tek bir yeti değildir

Bir ekip, bir yapay zekânın bilinçli olup olmadığını sormadan önce, bilinçle neyi kastettiğini belirtmelidir. Günlük dilde bu sözcükle pek farklı şeyler anlatılır: uyanık olmak, çevreye tepki vermek, bilgi işlemek, kendisi hakkında konuşmak, bir amaç izlemek, bir duyguya sahip olmak ya da herhangi bir şeyi deneyimlemek. Bu anlamlar otomatik olarak aynı ölçek üzerinde yer almaz.

Yararlı bir başlangıç, fenomenal deneyim ile bilişsel erişim arasındaki ayrımdır. Fenomenal deneyim öznel yönü ifade eder: bir varlık için acı hissetmenin, bir rengi görmenin ya da şaşırmanın nasıl bir şey olduğu. Bilişsel erişim ise bilginin düşünme, bildirme, hatırlama veya eylemi yönlendirme için kullanılabilir olması demektir. Felsefi tartışmalar bu yönleri ayırır; çünkü bir kişinin konuşabildiği ya da eylemde kullanabildiği bir yeti, o kişinin bunu deneyimleyip deneyimlemediği ve nasıl deneyimlediği sorusunu kendiliğinden yanıtlamaz.[1][2]

Bu kavramlar tartışmasız, nihai bir sınıflandırma değildir. Buna rağmen pratik incelemede farklı iddiaları ayırmaya yardım ederler:

Zekâ ile bilinç de eş anlamlı değildir. Bir sistem bir görevde sorun çözebilir; bu, deneyimin niteliği sorusunu yanıtlamış olmaz. Tersine, bildirilen duygular yalnızca başka bir performans göstergesi değildir. Duygu, bedensel bir tepkiyi, işlevsel bir düzenlemeyi, toplumsal bir ifade biçimini veya bilinçli olarak hissedilen bir hissi ifade edebilir. Bu düzeyleri karıştıran kişi, gözlemlenmiş bir yetiden fark etmeden çok daha güçlü bir iddiaya sıçrar.

Bu nedenle bu makale için editoryal bir çalışma ayrımı geçerlidir: Dilsel bir yanıta ilk olarak öz-betimleme deriz. Belirlenmiş koşullar altında gözlemlenen bir sonuca performans deriz. Ancak öznel bir deneyim niteliğinden söz edildiğinde bir bilinç iddiası ortaya koyarız. Bu ayrım, hangi sistemlerin bilince sahip olabileceğine peşinen karar vermez. Her bir önermenin hangi kanıt yükünü taşıdığını gösterir.

2. İç bakış doğrudan erişilebilir değildir; ancak çıkarım yapmak mümkündür

Thomas Nagel’in başka bir varlığın dünyasını nasıl deneyimlediğinin “nasıl bir şey olduğu” sorusu temel bir sınırı görünür kılar: Dışarıdan bir betimleme, birinci şahıs deneyimiyle özdeş değildir.[1] Hiç kimse başka bir insanın öznel deneyimine doğrudan geçemez. Buna rağmen raporları, davranışları, bedenleri, gelişim seyirleri ve ortak biyolojik yapıları kanıt olarak ele alırız. Tek bir cümleden değil, birbirine bağlı birden çok işaretten çıkarım yaparız.

Bu çıkarım yanılmaz değildir. İnsanlar yanılabilir, raporlar yanlış anlaşılabilir ve belirli davranışların farklı nedenleri olabilir. Yine de doğrudan erişimin yokluğundan, başkaları hakkında her türlü bilginin ilkece imkânsız olduğu sonucu çıkmaz. Pek çok bilim alanında doğrudan gözlemlenemeyen durumları ölçümler, öngörüler, müdahaleler ve farklı yöntemlerin birbiriyle uyuşması yoluyla çıkarırız.[1]

Bu, yapay zekâ sorusunu ne kolaylaştırır ne de umutsuz kılar. Diğer insanlara ilişkin atfetmeleri; diğer etkenlerin yanı sıra, raporlara, esnek davranışa, bedensel süreçlere ve ortak biyolojik örgütlenmeye dayandırırız. Bir yazılım için bu arka plan varsayımları doğrudan devralınamaz. Hangi teknik özelliklerin ilgili olacağı, hangi bilinç teorisini savunulabilir bulduğunuza ve somut sistemin gerçekte nasıl kurulduğuna bağlıdır.

Klinik bir araştırma vakası, görünür davranışın neden her zaman bütün hikâyeyi anlatmadığını gösterir. Owen ve çalışma arkadaşları 2006’da, alışılmış davranış ölçütlerine göre neredeyse hiç tepki vermeyen bir kişi hakkında bildirimde bulundu. Bir fMRI incelemesinde, istemli olarak tenis oynadığını ya da kendi evinde dolaştığını hayal ettiğinde, araştırmacıların kişinin yönergeleri anladığı ve uyguladığı yönünde kanıt olarak yorumladığı bir örüntü görüldü.[6] Bu tekil bir insan vakasıydı. Ne genel bir teşhis yöntemini ne de yapay zekâ hakkında herhangi bir şeyi kanıtlar. Daha dar bir yöntemsel dersi örnekler: Uygun bir ölçüm ek kanıt sağlıyorsa, dışarıdan görülen bir tepkinin yokluğu içsel bir durumu kendiliğinden dışlamaz.

Buna karşılık bu ders ters yönde abartılmamalıdır. Metin üreten bir sistem akıcı yanıt verdiğinde, bu yanıtın deneyimleyen bir durumla birlikte olduğu otomatik olarak anlamına gelmez. Görünür performans ilgili ipuçları sunabilir; ancak çıkarımın gücü açıklanmalıdır.

3. Davranış kanıttır, ancak deneyime bağımsız bir pencere değildir

Bir insanda “Acım var” gibi bir cümle; yaralanma, davranış, bedensel tepkiler ve bilinen biyolojik süreçlerle birlikte, kişinin acı çektiğini ciddiye almak için güçlü bir neden sağlayabilir. Bir metin sisteminde benzer bir ifade ilk olarak üretilmiş metindir. Anlamsız değildir. Ancak sistem mimarisi, eğitim geçmişi ve çıktı ile içsel durum arasındaki bağ farklı olabileceği için, insanın öz-beyanıyla otomatik olarak aynı kanıt gücüne sahip değildir.

Sorun, dilin her zaman değersiz olması değildir. Sorun, tek bir gözlemin birden çok açıklamaya izin vermesidir. Bir açıklama şöyle olabilir: Sistem, bazı bilinç teorileri için ilgili olacak işlevsel bir durumu yansıtmaktadır. Başka bir açıklama: Bu tür tepkiler bağlam içinde makul olduğu için sistem uygun bir dilsel yanıt üretmektedir. Üçüncü bir açıklama: Mimarinin bir bölümü, belirli bilinçli işlevleri yerine getirirken deneyim için gereken başka koşullar eksik kalmakta veya belirsizliğini korumaktadır. Gözlem tek başına bu olasılıklar arasında karar vermez.

John Searle’ün klasik bir argümanı, bir programı çalıştırmanın tek başına anlama veya niyetliliği güvence altına aldığı varsayımına yöneliktir. Bir sistem, sembollerin biçimsel işlenmesini gerçekleştirebilir; fakat bu, sembollerin neye gönderme yaptığını anladığını henüz göstermez.[3] Searle’ün argümanı doğrudan, yalnızca program çalıştırmaktan anlama ve niyetlilik çıktığı iddiasına yönelir; bunun fenomenal deneyime uygulanıp uygulanamayacağı ve nasıl uygulanacağı tartışmalıdır. Bu, tüm yapay bilinç olanaklarını deneysel olarak çürüten bir sonuç değil, felsefi bir konumdur. Ancak doğru çıktı ile öznel anlama arasındaki boşluğun atlanmamasını zorunlu kılar.

En güçlü karşı konum da aynı açıklıkla belirtilmelidir. İşlevselci yaklaşımlar, doğru nedensel örgütlenmenin ilkece farklı taşıyıcılar üzerinde gerçekleştirilebileceğini savunur. İlgili işlevler ve ilişkiler mevcutsa, biyolojik bir malzeme zorunlu olarak tek olanak olmak zorunda değildir. David Chalmers 2023’te büyük dil modellerinin bilinç sorusuna ilişkin argümanları ve itirazları inceledi. Dönemin sistemleri için, örneğin eksik veya sınırlı yinelemeli işleme, küresel bir çalışma alanı ve bütünleşik eylem örgütlenmesi gibi önemli engeller tanımladı; ancak sonraki sistemlerin ilkece dışlanmış olduğu sonucuna varmadı.[4] Metni felsefi bir argüman çözümlemesidir; 2026’daki somut sistemlerin ampirik denetimi değildir.

Bu yüzden uyuşmazlık tek bir sloganla çözülemez. “Yalnızca bir program” zaten teorik bir sınıflandırmadır. “Kendisi hakkında rapor veriyor” bir gözlemdir, ancak henüz tamamlanmış bir teşhis değildir. Adil bir makale, ikisi arasındaki bağı hangi varsayımın kurduğunu ve bu varsayımı hangi kanıtların destekleyebileceğini göstermelidir.

4. Teori güdümlü bir inceleme ne sağlayabilir?

Yararlı bilimsel soru yalnızca “Sistem ne kadar insansı görünüyor?” değildir; şudur: Hangi teoriye göre hangi özellikler bilinç için ilgili olur ve bunlar somut sistemde gösterilebilir mi?

Butlin ve çalışma arkadaşları 2023’te böyle teori güdümlü bir yaklaşım önerdiler. Birden çok bilimsel bilinç teorisinden olası göstergeler türettiler ve dönemin yapay zekâ sistemlerinin bunları ne ölçüde taşıdığını incelediler.[5] Rapor, çalışma varsayımı olarak hesaplamalı işlevselciliği benimser: Buna göre belirli hesaplamalar veya işlevsel örgütlenme biçimleri bilinç için belirleyici olabilir. Bu varsayım açıkça tartışmalıdır. Bu nedenle rapor teori bağımsız bir kontrol listesi veya nihai bir test değildir.

Buna rağmen yaklaşımın pratik bir üstünlüğü vardır. Bir gözlem ile bir çıkarım arasındaki köprüyü açıkça ortaya koymaya zorlar. Bir ekip yalnızca “Sistem düşünceli görünüyor” diye not düşüp bundan yüksek bir bilinç olasılığı çıkaramaz. Bunun yerine şunları belirtmesi gerekir:

1. Hangi teori veya teoriler bileşimi kullanılıyor? 2. Bu teorinin hangi somut özelliği sistemde ilgili kabul ediliyor? 3. Bu özellik gerçekte nasıl gözlemlendi veya ölçüldü? 4. Aynı verilere hangi alternatif açıklamalar uyuyor? 5. Teorinin kendisi tartışmalıysa hangi belirsizlik kalıyor?

Burada bir gösterge ne kanıttır ne de keyfî bir varsayımdır. Ağırlığı arka plan varsayımlarına ve ölçüm kalitesine bağlı olan bir işarettir. Bir teori yinelemeli işlemeyi veya belirli bilgilerin küresel erişilebilirliğini önemli görüyorsa, uygun inceleme görevi tam da bu mimari özellikleri araştırmak olur. Bunları ikna edici bir cümleden çıkarmak yeterli olmaz. Aynı şekilde tek bir özelliğin yokluğunu, bütün bilinç teorilerinin kesin çürütülmesi olarak görmek de yanlış olur.

Bilinç araştırması ayrıca, iddialı teorilerin bile doğrudan karşı sınamayla değiştirilebileceğini gösterir. 2025’te yayımlanan, ön kayıtlı ve karşıt görüşleri sınayan bir işbirliği; insan görsel algısını ve birden çok nörofizyolojik ölçüm yöntemini kullanarak Küresel Nöronal Çalışma Alanı Teorisi ile Bütünleşik Bilgi Teorisinin farklı öngörülerini sınadı. Sonuçlar, her iki yaklaşımın bazı öngörülerini destekledi ve aynı zamanda her ikisinin merkezi varsayımlarını sorguladı.[7] Sınanan şey, bilinçli algıya ilişkin biyolojik bir incelemedeki somut öngörülerdi; bundan yapay sistemler hakkında doğrudan bir ifade veya teorik çekirdeklerin tümüyle çürütülmesi sonucu çıkmaz. Bu, teorilerden birinin geçersiz kaldığı anlamına gelmez. Tanımlı öngörülerin, açık verilerin ve birbirleriyle yarışan bakışların teorik iddiaları keskinleştirmeye yardımcı olabileceği anlamına gelir.

Burada da aktarım sınırı geçerlidir: Bu araştırma yapay sistemleri değil, insan algısını sınamıştır. Bu makale için anlamı araştırma yöntemindedir: Somut öngörüleri birbirine karşı sınamak ve sonuçları sonradan yalnızca tercih edilen teorinin kazanacağı biçimde yeniden yorumlamamak. Belirli bir dil modelinin deneyimleyip deneyimlemediği sorusunu yanıtlamaz.

Başka bir ölçüm fikri sınırları somutlaştırır. Casali ve çalışma arkadaşları, bir beynin hedefli biçimde uyarıldığı ve yanıtının uzamsal-zamansal karmaşıklığının EEG ile incelendiği Pertürbasyonel Karmaşıklık İndeksi’ni (PCI) geliştirdiler.[8] İndeks, belirli insan beyni durumlarında bilinç düzeyi için teori güdümlü bir ölçüm olarak önerilmiş ve sınanmıştır. Ne genel bir karmaşıklık değeri ne de deneyimin içeriği veya öznel niteliğinin ölçüsüdür; aynı şekilde bir dil testi ya da bir şirketin yapay zekâ sistemine uygulayabileceği bir puan da değildir. “Modelimizde çok sayıda aktivasyon var” ifadesi, bu yaklaşımın dayandığı fizyolojik ve teorik bağlamın yerine geçmez.

Bu tür çalışmalardan evrensel bir bilinç dedektörü çıkmaz. Daha disiplinli bir ölçülebilirlik sorusu çıkar: Bir çıkarımın sınanabilir olması için hangi teori, hangi sistem sınırı, hangi veriler, hangi müdahale ve hangi karşılaştırma gereklidir?

5. Belirsizliği gizlemeyen bir vaka incelemesi

Kurgusal eğitim yazılımı sağlayıcısına dönelim. Ekibin başlangıçta yalnızca bir gösterimi vardır: Alıştırma asistanı bir kelime oyununu açıklar, kendi durumunu betimler ve ek bağlam verildikten sonra yanıtını değiştirir. Ekip dilsel performansı görebilir. Ancak sistemin kararlı bir iç temsile sahip olup olmadığını, kendi “durumunu” nasıl ürettiğini veya araştırmada tartışılan mimari özelliklerin hangilerinin gerçekte uygulandığını henüz bilmez.

Burada Sorular Modeli F çalışmayı değiştirir. A → B → D → C sırası, ekibin etkileyici bir çıktıdan doğrudan evet/hayır kararına sıçramamasını sağlar.

A · Kavramları, amacı ve nedeni açıklığa kavuşturmak

Başlangıç sorusu şudur: “Alıştırma asistanımız bilinçli mi?” İlk iş, bu iddia lehinde veya aleyhinde hemen kanıt toplamak değildir. Ekip önce aslında neyi açıklığa kavuşturmak istediğini sorar:

Söz konusu olan, örneğin anlam belirsizliğini fark etmek gibi gözlemlenebilir bir yeti mi? Söz konusu olan, bir bilginin farklı görevler için kullanılabilir olup olmadığı, yani bilişsel erişim mi? Söz konusu olan, mizahın veya belirsizliğin sistem için nasıl bir şey olduğu, yani fenomenal deneyim mi? Söz konusu olan bir pazarlama ifadesi, araştırma sorusu veya iç yönetişim kuralı mı?

Bu soruların kanıt yükleri farklıdır. İlki için iyi belgelenmiş bir görev testi yeterli olabilir. Sonuncusu için ekibin izlenebilir bir yönergeye ihtiyacı vardır. Bilinç iddiası için ise ikisi de henüz yeterli değildir.

B · Birbiriyle yarışan açıklamalar geliştirmek

Gösterim önce bir gözlem olarak ifade edilir: “Bu girdi altında asistan bir kelime oyununu açıkladı ve ek bağlamdan sonra yanıtını değiştirdi.” Şimdi birden çok hipotez ortaya çıkar:

Hipotezler ne eşit olasılıklı alternatiflerdir ne de üç hazır yanıttır. Aynı görünür davranışın farklı açıklamalara sahip olabileceğini gösterirler. Ekip bunları serbest metinli bir gösterimle ne doğrulayabilir ne de çürütebilir.

D · Bilinmeyeni ve sonraki incelemeyi belgelemek

Ekip şimdi eksik olanı kaydeder:

Sistemin hangi sürümü sınandı; hangi araçlar, bellek işlevleri veya harici bileşenler etkindi? Gösterim yeniden üretilebilir mi, yoksa yalnızca özellikle iyi bir örnek mi seçildi? Yeni görevlerde, karşı örneklerde ve bağlamdaki hedefli değişikliklerde performans nasıl değişiyor? Sağlayıcının hangi belgelemesi mimariyi, durum işlemeyi ve eğitimin sınırlarını açıklıyor? Hangi bulgular başlangıç değerlendirmesini gerçekten değiştirirdi?

Sağlayıcı teknik belgeler sunmuyorsa, ekip bu boşluğu ikna edici bir gösterimle dolduramaz. Yalnızca mimari sorusunun açık kaldığını belgeleyebilir. Bir test planı bağımsız görevler, kontrollü girdilerle tekrarlamalar, karşı örnekler ve teknik erişim varsa ilgili bileşenlere hedefli müdahaleler öngörebilir. Bu tür testler ilk olarak belirli yetileri veya bağımlılıkları sınar. Tek başlarına öznel deneyim niteliğini ölçmezler.

Kimsenin kalibre edilmiş bir yöntemi, uygun veri malzemesi ve bunun için sağlam bir teorisi yoksa, bu aşamada yüzde 80’lik bir “güven değeri” yanıltıcı olur. Sorular modeli bilinç kanıtı sunmaz ve olasılıklar üretmez. Yararı, kanıtsız çıkarım zincirini görünür biçimde kesmesidir.

C · Sorumlu bir eylem için son soruyu formüle etmek

A, B ve D’den sonra daha iyi soru artık yalnızca “Sistem bilinçli mi?” değildir. Şudur:

Uygulamamız için hangi gözlemlenebilir yetiler güvenilir biçimde kanıtlanmıştır, bunlardan hangileri ilgili bilinç teorilerine göre gerçekten anlamlı olur, hangi kanıtlar eksiktir ve bugün sistem hakkında hangi ifadeyi sorumlu biçimde kullanabiliriz?

Kurgusal sağlayıcı için bu, somut bir karar hazırlamak bakımından yeterlidir. Ürün bilgilendirmesinde asistanın belirlenmiş koşullar altında belirli kelime oyunu ve bağlam görevlerini işlediğini belgeleyebilir. Bunun öznel deneyimin kanıtı olmadığı sınırını kaydedebilir. Dış iletişimde ekip, asistana “empati kuruyor” veya “öğrenmenin nasıl hissettirdiğini biliyor” gibi kanıtsız özellikler atfetmek yerine, görevleri ve sınırları sınanmış yetileri betimleyebilir.

Bu, sistemin kesinlikle bilinçsiz olduğu yönünde bir karar değildir. Kendi iddiasının kapsamına konan bir sınırdır.

6. Kanıttan örgütsel karara

Bilimsel ihtiyat tek başına bir şirkete yarın ne yapması gerektiğini söylemez. Bunun için kanıtların izin verdiğinden fazlasını ileri sürmeyen bir örgütsel karar gerekir. İstişare Modeli K bu ikinci görevi üstlenebilir. Metafizik bir yanıtı belirlemez. Sorunun kim tarafından, hangi sonuçlarla inceleneceğini ve geçici bir kuralın daha sonra nasıl gözden geçirilebileceğini yapılandırır.

Modelin dört bölümlü temel döngüsünde kurgusal sağlayıcı önce sistemin rolünü, planlanan ifadeyi ve etkilenen grupları kaydedebilir (Keşif). Düşünme ve analiz aşamasında ekip, en güçlü karşı konumu mevcut kanıtların yanına koyar: Öz-betimleme doğrudan bir deneyim kanıtı değildir; aynı zamanda biyolojik olmayan bir taşıyıcı, genel kabul görmüş bir dışlama nedeni değildir. Karar aşamasında sınırlı bir iletişim kuralı kabul eder: Performans ifadeleri yeniden üretilebilir görevlere ve belgelenmiş koşullara bağlı olmalıdır. Öznel deneyime ilişkin ifadeler tek bir gösterimden türetilmez. Geri bildirim ve değerlendirme aşamasında ise bu kuralın ne zaman yeniden gözden geçirileceğini belirler.

Olası gözden geçirme tetikleyicileri; önemli ölçüde değiştirilmiş bir mimari, yeni bir bellek veya ajan işlevi, sağlam bağımsız araştırma sonuçları ya da şimdiye dek açık olan bir soruyu aydınlatan yeni teknik belgelerdir. Bir tetikleyici, bilincin ortaya çıktığı anlamına gelmez. Mevcut gerekçenin yeniden incelenmesi gerektiği anlamına gelir.

Bu kural iki yönü korur. Öğrenenleri veya müşterileri yanıltabilecek kanıtsız bir atfetmeyi önler. Aynı zamanda araştırma sorusunu gelecek için kapatmaz. Güncel kanıtın yeterli olmadığını ve hangi bilgilerin yeniden değerlendirmeyi mümkün kılacağını kaydeder.

Bu sorumluluğun insanlarda ve örgütlerde kalması önemlidir. Gelecekteki araştırmalar makinesel deneyim olasılığını farklı değerlendirse bile, bundan otomatik olarak bir sistemin sözleşme yapabileceği, sonuçları anlayabileceği veya örgütsel kararlardan sorumlu olabileceği çıkmaz. Bilinç, eyleme yetkinlik ve hukuki ya da ahlaki sorumluluk farklı sorulardır. Bir şirket ürün açıklamalarından, testlerden, onaylardan ve sonuçlardan sorumlu kalır.

7. Ders ve KOBİ için bir kanıt haritası

Merkezî öğrenme görevi şudur: “Gözlem ≠ bilinç kanıtı.” Bu, bir teşhis şablonu ya da sertifika değildir. Yalnızca bir ekibi, gözlemden eyleme giden yolu görünür kılmaya zorlar.

Harita bilinçsizden bilinçliye uzanan tek bir ölçeği bilinçli olarak içermez. Açık bir teori ve ölçüm sorusunu bir sayı olduğundan daha kesin gösterebilir. Bir araştırma ekibi olasılık kullanırsa, bunları hangi verilerin ve ön kabullerin taşıdığını ve değerlendirmenin ne kadar iyi kalibre edildiğini açıklamalıdır. Sıradan bir ürün ekibi böyle bir değer uydurmamalıdır.

45 dakikalık bir alıştırma

Dakika 0–5: Vakayı okuyun. Gruplar aynı kurgusal gösterimi ve kısa bir teknik betimlemeyi alır. Görev, kişisel deneyim veya özel müşteri verisi gerektirmez.

Dakika 5–12: Kavramları ayırın. Her grup, hangi cümlelerin bir yeti, öz-betimleme, mimari iddiası veya olası deneyimle ilgili olduğunu işaretler.

Dakika 12–22: Hipotezler oluşturun. Sorular Modelinin B adımıyla en az iki yarışan açıklama not edilir. Grup, her açıklamanın hangi kanıtı bekleteceğini kaydeder.

Dakika 22–32: Karşı sınama ve bilinmeyen. D adımı eksik bilgileri, olası karşı örnekleri ve test erişiminin sınırını toplar. İnsanlar üzerinde yapılan bir laboratuvar incelemesi gerekçesiz biçimde yapay zekâya aktarılamaz.

Dakika 32–40: Geçici karar. Grup kanıt haritasının alanlarını doldurur ve bir ürün metni için sınırlı bir ifade kurar. Ayrıca değerlendirmenin hangi koşullarda yeniden inceleneceğini belirler.

Dakika 40–45: Akran değerlendirmesi. Başka bir grup en güçlü alternatif açıklamayı arar ve ürün iddiasının verilerin izin verdiğinden daha ileri gidip gitmediğini inceler.

Değerlendirilen şey; gözlem ile yorumun ayrılması, karşı konuma karşı adalet, kaynağın uygunluğu, açık kanıtların netliği ve gözden geçirilebilirliktir. Grubun “Yapay zekâ bilinçlidir” veya “Yapay zekâ bilinçsizdir” kutusunu işaretlemesi değerlendirilmez. Öğrenme hedefi, zorla sağlanmış bir uzlaşma değil, izlenebilir bir gerekçelendirmedir.

8. Küçük bir ekip için pratik asgari kurallar

Kendi laboratuvarı olmasa da bir KOBİ bu soruya sorumlu yaklaşmaya başlayabilir. Bu, bilinç incelemesi yapıyormuş gibi davranacağı anlamına gelmez. Gerçekte hangi ifadeleri kullanabileceğini belgeler.

1. Sistem sınırını kaydedin. Model sürümünü, sağlayıcıyı, bağlı araçları, belleği, algılayıcıları ve ilgili ayarları belirtin. Bir sohbet arayüzü birden çok teknik bileşeni gizleyebilir.

2. Görev performansını somut biçimde açıklayın. “Testlerimizde belirli kelime oyunlarını açıklıyor” ifadesi, “mizahı anlıyor” ifadesinden daha denetlenebilirdir. Koşullar, tekrarlanabilirlik ve bilinen hatalar buna dâhildir.

3. Öz-bildirimleri çıktı olarak kaydedin. Sistem “belirsizim” diyorsa, önce bu ifadenin ne zaman ve hangi girdiler altında ortaya çıktığı kaydedilir. Cümle, deneyimlenen bir duygunun doğrudan ölçümü olarak işlenmez.

4. Alternatifleri belgeleyin. Her güçlü yorum, aynı gözlemi öne sürülen deneyim niteliği olmadan açıklayabilecek en az bir açıklama içermelidir.

5. Sağlayıcı kanıtlarını hedefli olarak isteyin. Bir bilinç veya benlik modeli iddiası araştırma ya da ürün stratejisi için önemliyse, sorumlu uzmanlar teknik mimariyi, ölçüm tasarımını ve bağımsız tekrarı incelemelidir. Pazarlama materyali tek başına mimari kanıtı değildir. Somut bir teknik inceleme talebi için Danışma Modeli R bu adımı yapılandırabilir: ilgili sistem ve belge durumunu hazırlamak, uzmanlık sorusunu sınırlandırmak, uzmanlarca incelenmiş bir geri bildirim talep etmek ve uygulamayı ile yeniden incelemeyi belgelemek. Görev, sınırlı bir uzman devri olarak kalır; ne K uyarınca alınacak yönetişim kararının yerine geçer ne de bir bilinç ölçümü oluşturur.

6. İletişimi kanıta bağlayın. Kamuya açık bir ifade, neyin hangi görev için ve hangi sınırlar altında sınandığını belirtir. “Hissediyor”, “acı çekiyor” veya “korkuyor” gibi terimler tek bir metin çıktısından türetilmez.

7. Bir yeniden inceleme belirleyin. Sistem değişiklikleri veya yeni bilimsel bulgular başlangıç durumunu değiştirebilir. Dosyada sorumlular, tarih ve bir sonraki inceleme için bir tetikleyici bulunmalıdır.

Bunlar yönetişim önerileridir; hukuki gereklilik, bilimsel olarak doğrulanmış bir denetim standardı veya araştırmanın yerine geçecek bir şey değildir. Yüksek riskli ya da kamusal etkisi geniş bir kullanımda küçük bir iç harita yeterli olmayabilir. O zaman alan uzmanlığına, uygun verilere ve bağımsız bir yöntemsel incelemeye ihtiyaç vardır.

9. Yanıt açık kalabilir; sorumluluk kalamaz

“Bu yapay zekâ bilinçli mi?” sorusuna bugün verilebilecek en iyi yanıt her zaman evet veya hayır değildir. Soruyu ciddiye alan kişi belirsizliği kesinleştirmelidir: Hangi bilinç anlamı söz konusu? Ne gözlemlendi? Hangi teori gözlemi bir iç durumla ilişkilendiriyor? Hangi karşı hipotez aynı verileri açıklıyor? Hangi teknik bilgi eksik? Hangi sonraki ölçüm değerlendirmeyi değiştirebilir?

Açık bir yanıt, kimse neyin sınanması gerektiğini söylemezse mazerete dönüşür. Sınırlar, kanıtlar, sorumluluklar ve gözden geçirme tetikleyicileri belgelendiğinde sorumlu ihtiyata dönüşür. Sorular Modeli tam olarak bu hareketi sağlar: Aceleci evet/hayır sorusunu, kesin, çürütülebilir ve eyleme elverişli bir soruyla değiştirir. İstişare Modeli kalan belirsizliği, yeni kanıtlarla gözden geçirilebilecek geçici bir örgütsel kurala dönüştürür.

Kurgusal eğitim yazılımı ekibi için bunun anlamı şudur: Gözlemlenen performansı deneyim olarak sunmadan betimleyebilir. Evrensel bir testin zaten varmış gibi davranmadan daha fazla kanıt talep edebilir. Felsefi soru açık kalsa da bir reklam ifadesini durdurabilir. Mimari veya araştırma durumu önemli ölçüde değişirse incelemeyi yeniden açabilir.

Gözlem, incelemenin başlangıcıdır. Bilinç kanıtı değildir.

Kaynaklar

1. Nagel, T. (1974). “What Is It Like to Be a Bat?” The Philosophical Review, 83(4), 435–450. https://doi.org/10.2307/2183914.

2. Block, N. (1995). “On a Confusion about a Function of Consciousness.” Behavioral and Brain Sciences, 18(2), 227–247. https://doi.org/10.1017/S0140525X00038188.

3. Searle, J. R. (1980). “Minds, Brains, and Programs.” Behavioral and Brain Sciences, 3(3), 417–424. https://doi.org/10.1017/S0140525X00005756.

4. Chalmers, D. J. (2023). “Could a Large Language Model be Conscious?” arXiv:2303.07103. https://doi.org/10.48550/arXiv.2303.07103.

5. Butlin, P., Long, R., Elmoznino, E., et al. (2023). “Consciousness in Artificial Intelligence: Insights from the Science of Consciousness.” arXiv:2308.08708. https://doi.org/10.48550/arXiv.2308.08708.

6. Owen, A. M., Coleman, M. R., Boly, M., Davis, M. H., Laureys, S., & Pickard, J. D. (2006). “Detecting Awareness in the Vegetative State.” Science, 313(5792), 1402. https://doi.org/10.1126/science.1130197.

7. Cogitate Consortium, Ferrante, O., Gorska-Klimowska, U., et al. (2025). “Adversarial testing of global neuronal workspace and integrated information theories of consciousness.” Nature, 642, 133–142. https://doi.org/10.1038/s41586-025-08888-1.

8. Casali, A. G., Gosseries, O., Rosanova, M., et al. (2013). “A Theoretically Based Index of Consciousness Independent of Sensory Processing and Behavior.” Science Translational Medicine, 5(198), 198ra105. https://doi.org/10.1126/scitranslmed.3006294.

Uygulama vakası notu: Eğitim yazılımı sağlayıcısı, gösterim, görevler, ifadeler ve ekip kararı tamamen kurgusaldır. Vaka, ne gözlemlenmiş kullanıcı davranışı ne de belirli güncel bir yapay zekâ sisteminin özelliklerini ileri sürer.

Modeller hakkında not: F ve K, soruyu ve geçici yönetişim kararını yapılandırır. Model betimlemeleri, bunların bilimsel etkinliğini kanıtlamaz.