Güvenli Agent'lar: yetkiler, sandboxlar, incelemeler ve hayır diyebilme sanatı

Bir Agent yalnızca cevap vermek yerine harekete geçtiğinde etkileyici görünür: dosyaları düzenler, bilgiyi hazırlar, adımları başlatır ya da süreci sürdürür. Tam da bu nedenle iyi tasarım en uzun görev listesiyle başlamaz. Sınırla başlar. Bu sistem bu durumda ne yapabilir, hangi etkiyi oluşturabilir ve ne zaman durmalıdır?

Asistan ile Agent arasındaki fark zekâda değil, etkidedir. Asistan önerir; Agent değiştirir. Bir sistem dünyayı değiştirebildiği anda sınır sorusu en önemli tasarım sorusuna dönüşür — her ek yetenekten daha önemlidir.

Yetkiler ayrıntı değildir

Agent'ın her becerisi aynı zamanda bir şeyi değiştirme olasılığıdır. Okumak, yazmak, göndermek, silmek ve çalıştırmak yalnızca teknik fiiller değildir. Farklı sonuçları vardır. Bu sonuçlar ayrılmazsa kullanışlı otomasyon gereğinden fazla alan kazanır ve fark ancak hata etkisini gösterdikten sonra görünür olur.

En küçük faydalı yetkiyle başla. Malzemeyi düzenleyecek Agent aynı zamanda yayınlama yetkisine ihtiyaç duymaz. Taslak hazırlayan Agent bağlayıcı karar verme onayına ihtiyaç duymaz. Yetkiler, her şeyi tek seferde yapma isteğiyle değil, gözlemlenen güvenilirlik ve açık gereklilikle büyür.

Okuyan ve değiştiren yetkileri ayırmak faydalıdır. Veri elverdiği sürece okumak nadiren tehlikelidir. Değiştirmek ve göndermek korunan alanı terk eder. İki türü ayrı vermek, Agent'a çok bağlam verirken çok etki vermemeyi sağlar.

Sınırlar hataları küçük tutar

Sandbox her şeyden önce düşünme biçimidir: çalışma sınırlı bir alanda denenir. Girdiler, ara sonuçlar ve kurallar burada görünür olur; her deneme hemen gerçek sonuç doğurmaz. Soru sadece şudur: Agent bu görevi yapabilir mi? Aynı zamanda şudur: Hatanın yönetilebilir kalacağı yerde yapabilir mi?

En küçük güvenli ortam çoğu zaman şaşırtıcı derecede basittir. Özgün malzeme yerine örnek malzeme, yayın yerine taslak, kalıcı değişiklik yerine kopya. Bu ayrım ikinci şans yaratır. İş akışına erişim vermeden önce ondan öğrenmeyi sağlar.

Sandbox bir kafes değil, bir alıştırma alanıdır. Amacı Agent'ı küçük tutmak değil, güvenilirliğin görünür olabileceği bir yer vermektir. Bir iş akışı sınırlı alanda tekrar tekrar iyi çalıştığında, ona daha fazla erişim vermek gerekçeli olur.

İnceleme güvensizlik değil, çalışma adımıdır

İnsanlar her tıklamayı tekrar etmek zorunda değildir. Fakat bağlamın, sorumluluğun ve sonucun kesiştiği yerlerde karar vermelidirler. İyi inceleme noktası somuttur: Bu bilgi kullanılmalı mı? Bu değişiklik anlamlı mı? Bu sonuç dışarı çıkabilir mi?

İnceleme, uzun sürecin sonunda yalnız „evet" ya da „hayır" istediğinde zayıflar. Küçük devirler daha iyidir: Agent yaptığını özetler, dayanağını adlandırır, açık belirsizlikleri gösterir ve sonraki adımı önerir. İnsan böylece yorgunluktan değil, okunabilir durumdan karar verir.

En iyi inceleme noktası etkiden sonra değil, önce durur. Ancak bir e-posta gönderildikten veya bir dosya silindikten sonra devreye giren kontrol, kontrol değil, bir zarar bildirimidir. İncelemeyi kararın hâlâ geri alınabilir olduğu yere koy.

Hayır kaliteye aittir

Güvenli sistem yalnız hata verdiğinde durmamalıdır. Bir şey belirsiz olduğunda da beklemelidir. Eksik bilgi, çelişkili talimat, beklenmeyen veri veya anlaşılmış çerçevenin dışındaki etki soru sormak için iyi nedenlerdir. Bu zayıflık değildir. Kesin bir yeterlilik biçimidir.