THEMENÜBERSICHT · SICHERE AGENTEN
Autonomie wird nicht durch mehr Dürfen vertrauenswürdig, sondern durch ein klares Nein.
Rechte, Sandboxes, Reviews und Stoppsignale machen aus einem beeindruckenden Agenten einen, dem man Verantwortung anvertrauen kann.
// VIER BAUSTEINE
Grenze zuerst, Fähigkeit danach
Ein Agent wirkt beeindruckend, wenn er handelt statt nur zu antworten. Gerade deshalb beginnt gute Gestaltung nicht mit der längsten Aufgabenliste, sondern mit einer Grenze: Was darf dieses System in dieser Situation tun, welche Wirkung darf es auslösen – und wann muss es anhalten?
Die Sicherheitskarte
Sie verbindet Aufgabe, erlaubte Rechte, Verbote, Arbeitsraum, Reviewpunkt und Stoppsignal. So wird aus einem allgemeinen Sicherheitswunsch eine testbare Arbeitsweise.
Beschreibe die erlaubte Wirkung, wähle das kleinste Recht, begrenze den Arbeitsraum und formuliere einen Reviewpunkt mit zwei Stoppsignalen.