Güvenilir yapay zekâ veri kökeni gerektirir

Yapay zekâ akıcı, ayrıntılı ve yine de kullanılamaz bir yanıt üretebilir. Dayanağı bilinmiyorsa hata düzeltilemez, karar savunulamaz. Belgeler, veritabanları, arama indeksleri, API'ler ve araç çağrıları birleştiğinde sorun büyür.

Köken bilgisi yoksa iddianın onaylı politikadan, eski taslaktan, otomatik özetten veya güvensiz araç sonucundan geldiği anlaşılamaz. Kaynakça yararlıdır; fakat tek başına tam köken kaydı değildir.

Köken, atıf, veri hattı ve denetim kaydı

Dört yakın kavram farklı iş görür. Atıf, iddiayı destekleyen kanıta yöneltir. Veri hattı, verinin sistem ve dönüşümlerden akışını açıklar. Köken, nesnenin kaynağını ve üretim geçmişini; aktör ve işlemlerle birlikte kaydeder. Denetim kaydı olayları sonradan incelemek için saklar.

Savunulabilir sistem bunları bağlar. Yanıt kanıtı gösterir. Veri hattı veri kümesi veya indeksin nasıl üretildiğini açıklar. Köken; kaynak, dönüşüm ve sorumluluğu birleştirir. Kayıt, sürecin ne zaman ve hangi yetkiyle çalıştığını belirtir.

Basit model: varlık, faaliyet ve aktör

W3C PROV üç temel bileşen kullanır:

1 · Varlık: Belge, veri kümesi, bölüm, model çıktısı, rapor veya belirli durumdaki somut çıktı.

2 · Faaliyet: Çıkarma, temizleme, çeviri, özetleme, indeksleme, onay veya model çıkarımı.

3 · Aktör: Faaliyete katılan kişi, kuruluş, yazılım bileşeni veya sorumlu rol.

İlişkiler geçmişi taşır: çıktı faaliyetle üretildi; faaliyet girdiyi kullandı; yeni sürüm öncekinden türetildi; aktör çalışmayla ilişkilendirildi veya sorumluydu.

Birçok proje bunu küçük yapıyla uygulayabilir. Her nesne kalıcı kimlik, kaynak, zaman, sürüm, durum ve sorumlu rol alır. Her dönüşüm girdi, yöntem, parametre, araç sürümü ve çıktıyı bağlar. Onay dosya adına gizlenmek yerine ayrı olay olur.

entity_id: policy-summary-v3
derived_from: policy-source-v7
activity: summarization
tool_version: summarizer-2.4
created_at: 2026-07-16T10:42:00Z
status: approved
approved_by_role: policy_owner
supersedes: policy-summary-v2

Özgün kaynak değişmeden korunur

Köken zincirinin sabit başlangıcı olmalıdır. Özgün belge, olay veya ölçüm değişmeden tutulur. Temizleme, dönüştürme ve zenginleştirme yeni sürümlü nesne üretir. Sonraki inceleme hatanın kaynakta mı, işleme sırasında mı oluştuğunu ayırabilir.

İçerik özetleri bayt değişimini bulmaya yardım eder; doğruluk sertifikası değildir. Kaynağın doğru, hukuka uygun veya iddia edilen kişi tarafından üretildiğini kanıtlamaz. Güvenilir kimlik, imza, izin ve alan onayı ayrı kontrollerdir.

Sürümleme mesleki anlam ister

„Final", „final_yeni" ve „gerçekten_final" durum modeli değildir. Sürüm numarası sırayı gösterir, geçerliliği değil. Ne değiştiği, neden, ne zaman yürürlüğe girdiği ve hangi sürümün yerini aldığı kaydedilmelidir.

Yararlı yaşam döngüsü taslak, incelemede, onaylı, yerine geçmiş, geri çekilmiş ve arşivlenmiş durumlarını ayırır. Geri getirim bu meta veriyi filtreleyebilmelidir. Semantik benzerlik geçerli olan yerine en yakın eski metni bulabilir.

Yerine geçme ilişkisi etki analizini sağlar. Kaynak geri çekildiğinde ona bağlı bölümler, özetler, indeksler ve yanıtlar belirlenebilir. Köken yalnızca geçmiş inceleme değil, hedefli düzeltme aracıdır.

Zincir yapay zekâ çalıştırmasında devam eder

Özgün belgeyi bilmek yeterli değildir. Yanıta giden gözlenebilir yol yeniden üretilebilir olmalıdır: istek ve onaylı istem, getirilen belge ve bölümler, aktif filtre ve izinler, bilgi tabanı ve indeks sürümü, model ve araç sürümleri, insan müdahalesi.

Bu, her iç model etkinliğini veya gizli düşünce zincirini saklamak demek değildir. İşletimsel izlenebilirlik; girdi, yapılandırma, kanıt, araç sonucu, karar, çıktı ve onayı kapsar. Gereksiz hassas içeriği kaydetmeden hatayı teşhis etmelidir.

Arama yapan, kod çalıştıran, dosya değiştiren veya dış eylem başlatan ajanlarda bu daha önemlidir. Her araç çağrısı kimlik, yetki, girdi, sonuç, durum ve üst görev bağlantısı taşımalıdır. Sonradan hangi adımın değişikliğe yol açtığı görülebilmelidir.

Köken verisi de korunmalıdır

Kayıtlar kişisel veri, gizli belge bölümü, erişim anahtarı veya iç karar ayrıntısı içerebilir. Eksiksizlik sınırsız toplamayı haklı çıkarmaz. Köken verisi minimizasyon, amaç sınırlaması, rol temelli erişim, saklama süresi ve değiştirilmeye dayanıklı depolama ister.

Gizli anahtarlar açık günlükte tutulmaz. Mümkünse referans, kalıcı kimlik ve gizlenmiş parametre kaydedilir. Köken kayıtlarına erişim de kayda alınır. Fark edilmeden değiştirilebilen tam zincir değerini kaybeder.

Köken bilgisi neyi kanıtlamaz

Eksiksiz zincir yanlış bilginin geçmişini de doğru biçimde belgeleyebilir. Köken; nesnenin nereden geldiğini, nasıl değiştiğini ve kimlerin katıldığını açıklar. İddianın doğru olduğunu, toplama yönteminin uygunluğunu veya verinin mevcut amaçla hukuka uygun kullanılabildiğini kendiliğinden göstermez.

Bu nedenle kaynak eleştirisi, veri kalitesi değerlendirmesi, hukuki dayanak ve alan doğrulaması ayrı kontrollerdir. İnsan onayı da yanılmaz doğruluk sertifikası değildir; belirli zamanda alınan sorumlu kararı kaydeder. Güçlü sistem, meta veriden kanıtın desteklediğinden fazla güven üretmek yerine bu sınırları görünür tutar.

Köken farklı ayrıntı düzeylerinde tutulabilir. Düşük riskli iç özet için belge ve model sürümü yeterli olabilir. Ağır sonuçlu otomatik kararda özellik düzeyinde veri hattı, uygulanan kurallar, araç çağrıları ve onaylar gerekebilir. Ayrıntı düzeyi risk ve gerekli yeniden kurma kapasitesine bağlıdır.

Köken modeli sınanır

Şema tek başına izlenebilirlik sağlamaz. Testler her türevin kaynağa ulaştığını, dönüşümün araç ve parametre sürümünü taşıdığını ve onaylı nesnenin sorumlu rolü belirttiğini doğrular. Olumsuz testler eksik kaynak, kırık bağlantı, geri çekilmiş sürüm ve yetkisiz erişimi canlandırır.

Bir yapay zekâ yanıtı için geriye test şu yolu izlemelidir: çıktı → çalıştırma → getirilen bölümler → indeks sürümü → çıkarılan belge → değişmemiş özgün kaynak. İleri test ise kaynak geri çekildiğinde hangi bağımlı nesne ve yanıtların etkilendiğini sorar.

Köken dekoratif kaynak bloğu değildir. Soru, yeniden üretim, geri çekme, güncelleme ve denetim altyapısıdır. En önemlisi, dilsel güveni olgusal geçerlilikle karıştırmayı önler.

Çalışma kâğıdı: Köken zincirini yeniden oluştur

Yayımlanmış bir sayı, iddia veya yapay zekâ yanıtı seç ve tam yolunu belgele.

1. Kaynak nesneyi belirle. Kalıcı kimlik, köken, üretici, zaman, koruma sınıfı ve değişmemiş özgünü kaydet.

2. Dönüşümleri modelle. Girdi, yöntem, parametre ya da araç sürümü ve çıktı içeren en az iki faaliyet yaz.

3. Sürüm ve durumu açıkla. Geçerli sürüm, onay, geçerlilik dönemi ve yerine geçtiği sürümü belirle.

4. Yanıt çalıştırmasını yeniden kur. Bölüm, filtre, indeks, model ve araç sürümü ile insan müdahalesini kaydet.

5. İkinci sürümü oluştur. Bir iddiayı gerekçeyle değiştir; türetme ve yerine geçme ilişkisini yaz.

6. Etkiyi incele. Kaynak geri çekilirse hangi sonraki çıktının incelenmesi veya engellenmesi gerektiğini belirle.

İndirilecek tüm materyaller — konu özeti ve çalışma kâğıdı:

Kapsam: Köken bilgisi oluşturma ve işleme geçmişini belgeler; doğruluğu, hukuka uygunluğu veya mesleki yeterliliği kendiliğinden kanıtlamaz. Özet değer, bayt bütünlüğünü destekleyebilir fakat tek başına yazarlık veya olgusal geçerlilik göstermez. Somut kayıt yükümlülükleri rol, sistem sınıfı ve bağlama bağlıdır.