AI hazırlayabilir – kararı insan vermelidir

Agentic system data toplayabilir, alternative karşılaştırabilir, text ve code hazırlayabilir, policy test edebilir ve action önerebilir. Bu productivity riskli bir karışıklık yaratır: preparation polished görünürse approval yalnızca son click gibi algılanır. Böylece insan formal olarak, system ise pratikte karar verir.

Meaningful control preparation, decision ve execution ayrımıyla başlar. AI evidence structure eder ve proposal gerekçelendirir. Defined consequential case'de authorised human karar verir. Sadece exact proposal'a bound approval execution'ı açar.

Universal legal claim değil, risk-based principle

Her AI use individual human decision gerektirmez. Spelling correction, reversible test veya low-risk classification automate edilebilir. Employment, credit, healthcare, service access, publication, payment, deletion ve wide system change için impact ve protection need yükselir.

EU AI Act high-risk AI system'de effective human oversight'ı mümkün kılan measure ister. GDPR Article 22, legal veya similarly significant effect üreten belirli solely automated decision'lara yöneliktir. İkisinin scope'u „insan her zaman karar vermeli" cümlesinden daha dardır. Sound governance bu control logic'i context-specific risk model'e uygular, fakat hukuku genelleştirmez.

Human decision threshold; people veya asset impact, reversibility, scale, data sensitivity ve uncertainty üzerinden belirlenir. Regulatory duty, external visibility ve cumulative harm ek nedenlerdir.

Preparation ile decision arasında hard boundary

AI case file tamamlayabilir, missing evidence işaretleyebilir, alternative hesaplayabilir ve recommendation draft edebilir. Criteria'yı gizlice değiştiremez, approval üretemez veya execution right'ı kendine veremez. Preparation bir decision proposal yaratır; authorisation yaratmaz.

Boundary technical olarak modellenir. Her proposal ID, version, expiry ve action scope hash'i taşır. Recipient, amount, record, target system, content veya condition değişirse eski approval geçersiz olur. Executor yalnızca birinin geçmişte onay verdiğini değil, bu kişinin bu unchanged action için yetkili olduğunu doğrular.

Meaningful oversight için altı koşul

Workflow'da insan bulunması tek başına human-in-the-loop değildir:

1 · Competence: domain, system limit ve failure mode bilgisi.

2 · Information: source, deviation, uncertainty, alternative ve expected impact görünürlüğü.

3 · Time: gerçek review için yeterli süre.

4 · Authority: reject, restrict, return veya escalate hakkı.

5 · Independence: yalnız approval volume ödüllendirmeyen incentive.

6 · Timeliness: external effect'ten önce ve onu durdurabilecek karar.

Bu koşullar yoksa oversight dekorasyona dönüşür. Saatte yüz case inceleyen, domain bilgisi ve rejection authority'si olmayan reviewer log'da adı bulunsa da effective decision maker değildir.

Evidence decision-ready olmalıdır

Reviewer uncontrolled raw-data dump değil, compact ve verifiable decision packet ister. Packet proposed step, affected object veya person, purpose, input version, source, deviation, uncertainty, alternative, policy result, side effect, rollback ve expiry içerir.

Diff son approved state'e göre değişikliği gösterir. Large set için representative case, outlier ve threshold case görünür olur. Proposal system'in neyi bilmediğini de söyler. Calibration, reference population ve decision context olmadan confidence score explanation değildir.

Interface recommendation'ı neutral truth gibi sunmamalıdır. Reject, edit ve escalate en az approve kadar usable olmalıdır. Source recommendation'dan önce veya yanında görünür. Aksi durumda design automation bias'ı büyütür.

Traffic-light logic threshold'u explicit yapar

Traffic light judgement'ın yerine geçmez, fakat improvised ownership'i önler:

Green: low impact, reversible, familiar data, policy-compliant ve tight limit içinde. Automatic execution veya sampled review uygun olabilir.

Amber: novel source, threshold proximity, conflicting evidence, unusual scale veya elevated uncertainty. Process qualified review için pause eder.

Red: prohibited action, missing mandatory evidence, sensitive veya irreversible effect, conflict of interest ya da exceeded limit. Deny veya escalate edilir; red daha büyük bir approval button değildir.

Rule versioned policy içinde test edilir. Model kendi rengini serbestçe seçerse oversight'ı dolaylı kontrol eder. Classification ve permission check deterministic logic veya independent control component gerektirir.

Approval impact'e bound olmalıdır

Chat içinde „iyi görünüyor" durable authorisation değildir. Approval decision maker, role, time, proposal ID, hash, scope, condition ve expiry kaydeder. Irreversible, financial veya highly sensitive action dual authorisation isteyebilir.

Confirmation bir kez veya explicitly defined batch için çalışır. Reusable general mandate olamaz. Gate execution öncesinde identity, permission, immutability, expiry ve policy doğrular. Action ayrıca execution ID ve outcome evidence üretir.

Input review sonrasında material değişirse yeni decision gerekir. Idempotency key external system'de duplicate payment, message veya deletion'ı önler.

Separation of duties blind spot'u azaltır

Critical workflow'da proposal, domain review ve technical execution aynı identity'de birleşmemelidir. AI hazırlar, qualified human karar verir ve narrow-privilege executor yalnız approved action'ı uygular. Very high impact iki independent approval gerektirebilir.

Small team ikinci role'ü sample, threshold veya escalation ile ekleyebilir. Esas kural: hiçbir actor proposal, policy exception ve audit evidence'ı kontrolsüz biçimde birlikte yaratmamalıdır.

Escalation ayrı bir process'tir

Amber ve red case queue içinde kaybolmamalıdır. System domain ve technical route, delegate, response target ve safe waiting state tanımlar. Decision open iken impact blocked kalır. Timeout default approval değildir.

Escalation packet previous review path ve exact unresolved question içerir. Higher authority first-level review'ın neden yetersiz olduğunu görür. Conditional decision reduced scope, additional validation veya shorter time window gibi machine-readable constraint döndürür.

Automation bias ölçülmelidir

İnsanlar fluent recommendation'ı özellikle pressure altında hızlı kabul eder. Independent fact check, hidden quality case, varied presentation, high-impact rationale ve reviewer calibration countermeasure sağlar.

Metric yalnız throughput değildir: override rate, reviewer agreement, returned case, duration by risk, later-discovered misapproval, false escalation ve affected group outcome ölçülür. Near-zero rejection excellent quality veya rubber stamping gösterebilir. Test case ve outcome data ayrımı sağlar.

Affected person için challenge route gerekir

Decision insanı significantly etkiliyorsa internal approval son nokta değildir. Context'e göre understandable information, accessible contact, inaccurate data correction ve genuine reconsideration gerekir. Second look aynı model response'un tekrarı olmamalıdır.

Decision log proposal, source, accountable person, condition, execution ve later correction'ı bağlar. Provenance hangi data ve policy version ile karar verildiğini gösterir. Log sensitive data içerebileceği için access protected olur.

Oversight mekanizması da test edilir

Rollout öncesinde missing evidence, contradictory data, manipulated recommendation, expired approval, changed scope, unavailable reviewer ve duplicate execution scenario'ları denenir. Gate safely stop etmeli, correctly escalate etmeli ve confirmed state'ten resume edebilmelidir.

Exercise reviewer'ın limitleri bilip proposal'a gerçekten challenge ettiğini doğrular. Incident analysis yalnız model'i değil interface, workload, incentive, policy ve permission architecture'ı inceler.

Accountable decision protocol'ü

1 · CLASSIFY: impact, reversibility ve protection need belirle.

2 · PREPARE: execution right olmadan proposal ve evidence üret.

3 · EXPLAIN: diff, source, uncertainty, alternative ve limit göster.

4 · CHALLENGE: contradiction, counter-check ve policy test sağla.

5 · DECIDE: authorised person approve, restrict, reject veya escalate etsin.

6 · BIND: identity, version, scope, condition ve expiry bağla.

7 · EXECUTE: yalnız bound action'ı minimum privilege ile uygula.

8 · TRACE: outcome, side effect ve provenance'ı durable referansla.

9 · REVIEW: quality, override ve real outcome değerlendir.

Bu design hem bottleneck'i hem theatre'ı önler. AI demanding preparation yapar. İnsan consequence, right ve accountability gereken noktada decision power'ı korur.

Alıştırma: Human Decision Gate tasarla

1. Bir agentic workflow seç ve possible impact'lerini yaz.

2. Preparation, decision ve execution role'lerini ayır.

3. Measurable green, amber ve red threshold tanımla.

4. Diff, source, uncertainty ve rollback içeren evidence packet tasarla.

5. ID, hash, scope ve expiry içeren bound approval yaz.

6. Escalation, delegate, response target ve safe waiting state haritala.

7. Rubber stamping, stale approval ve duplicate execution için üç test belirle.

Yansıtma: İnsan bugün nerede yeterli bilgi veya rejection power olmadan confirmation veriyor? Gelecekte hangi impact execution öncesinde mutlaka durdurulabilmeli?

İndirilecek tüm materyaller — konu özeti ve çalışma kâğıdı:

Kapsam: Human approval her AI use için hukuken zorunlu değildir ve tek başına yeterli değildir. Oversight context, impact, applicable law ve risk class'a bağlıdır. Editoryal ve teknik inceleme: 17 Temmuz 2026.