AI hazırlayabilir – kararı insan vermelidir

Agentic system data toplayabilir, alternative karşılaştırabilir, text ve code hazırlayabilir, policy test edebilir ve action önerebilir. Bu productivity riskli bir karışıklık yaratır: preparation polished görünürse approval yalnızca son click gibi algılanır. Böylece insan formal olarak, system ise pratikte karar verir.

Meaningful control preparation, decision ve execution ayrımıyla başlar. AI evidence structure eder ve proposal gerekçelendirir. Defined consequential case'de authorised human karar verir. Sadece exact proposal'a bound approval execution'ı açar.

Universal legal claim değil, risk-based principle

Her AI use individual human decision gerektirmez. Spelling correction, reversible test veya low-risk classification automate edilebilir. Employment, credit, healthcare, service access, publication, payment, deletion ve wide system change için impact ve protection need yükselir.

EU AI Act high-risk AI system'de effective human oversight'ı mümkün kılan measure ister. GDPR Article 22, legal veya similarly significant effect üreten belirli solely automated decision'lara yöneliktir. İkisinin scope'u „insan her zaman karar vermeli" cümlesinden daha dardır. Sound governance bu control logic'i context-specific risk model'e uygular, fakat hukuku genelleştirmez.

Human decision threshold; people veya asset impact, reversibility, scale, data sensitivity ve uncertainty üzerinden belirlenir. Regulatory duty, external visibility ve cumulative harm ek nedenlerdir.

Preparation ile decision arasında hard boundary

AI case file tamamlayabilir, missing evidence işaretleyebilir, alternative hesaplayabilir ve recommendation draft edebilir. Criteria'yı gizlice değiştiremez, approval üretemez veya execution right'ı kendine veremez. Preparation bir decision proposal yaratır; authorisation yaratmaz.

Boundary technical olarak modellenir. Her proposal ID, version, expiry ve action scope hash'i taşır. Recipient, amount, record, target system, content veya condition değişirse eski approval geçersiz olur. Executor yalnızca birinin geçmişte onay verdiğini değil, bu kişinin bu unchanged action için yetkili olduğunu doğrular.

Meaningful oversight için altı koşul

Workflow'da insan bulunması tek başına human-in-the-loop değildir:

1 · Competence: domain, system limit ve failure mode bilgisi.

2 · Information: source, deviation, uncertainty, alternative ve expected impact görünürlüğü.

3 · Time: gerçek review için yeterli süre.

4 · Authority: reject, restrict, return veya escalate hakkı.

5 · Independence: yalnız approval volume ödüllendirmeyen incentive.

6 · Timeliness: external effect'ten önce ve onu durdurabilecek karar.

Bu koşullar yoksa oversight dekorasyona dönüşür. Saatte yüz case inceleyen, domain bilgisi ve rejection authority'si olmayan reviewer log'da adı bulunsa da effective decision maker değildir.

Evidence decision-ready olmalıdır

Reviewer uncontrolled raw-data dump değil, compact ve verifiable decision packet ister. Packet proposed step, affected object veya person, purpose, input version, source, deviation, uncertainty, alternative, policy result, side effect, rollback ve expiry içerir.

Diff son approved state'e göre değişikliği gösterir. Large set için representative case, outlier ve threshold case görünür olur. Proposal system'in neyi bilmediğini de söyler. Calibration, reference population ve decision context olmadan confidence score explanation değildir.

Interface recommendation'ı neutral truth gibi sunmamalıdır. Reject, edit ve escalate en az approve kadar usable olmalıdır. Source recommendation'dan önce veya yanında görünür. Aksi durumda design automation bias'ı büyütür.

Traffic-light logic threshold'u explicit yapar

Traffic light judgement'ın yerine geçmez, fakat improvised ownership'i önler:

Green: low impact, reversible, familiar data, policy-compliant ve tight limit içinde. Automatic execution veya sampled review uygun olabilir.

Amber: novel source, threshold proximity, conflicting evidence, unusual scale veya elevated uncertainty. Process qualified review için pause eder.

Red: prohibited action, missing mandatory evidence, sensitive veya irreversible effect, conflict of interest ya da exceeded limit. Deny veya escalate edilir; red daha büyük bir approval button değildir.

Rule versioned policy içinde test edilir. Model kendi rengini serbestçe seçerse oversight'ı dolaylı kontrol eder. Classification ve permission check deterministic logic veya independent control component gerektirir.

Approval impact'e bound olmalıdır

Chat içinde „iyi görünüyor" durable authorisation değildir. Approval decision maker, role, time, proposal ID, hash, scope, condition ve expiry kaydeder. Irreversible, financial veya highly sensitive action dual authorisation isteyebilir.

Confirmation bir kez veya explicitly defined batch için çalışır. Reusable general mandate olamaz. Gate execution öncesinde identity, permission, immutability, expiry ve policy doğrular. Action ayrıca execution ID ve outcome evidence üretir.

Input review sonrasında material değişirse yeni decision gerekir. Idempotency key external system'de duplicate payment, message veya deletion'ı önler.

Separation of duties blind spot'u azaltır

Critical workflow'da proposal, domain review ve technical execution aynı identity'de birleşmemelidir. AI hazırlar, qualified human karar verir ve narrow-privilege executor yalnız approved action'ı uygular. Very high impact iki independent approval gerektirebilir.