Güvenli Agent'lar: yetkiler, sandboxlar, incelemeler ve hayır diyebilme sanatı

Bir Agent yalnızca cevap vermek yerine harekete geçtiğinde etkileyici görünür: dosyaları düzenler, bilgiyi hazırlar, adımları başlatır ya da süreci sürdürür. Tam da bu nedenle iyi tasarım en uzun görev listesiyle başlamaz. Sınırla başlar. Bu sistem bu durumda ne yapabilir, hangi etkiyi oluşturabilir ve ne zaman durmalıdır?

Asistan ile Agent arasındaki fark zekâda değil, etkidedir. Asistan önerir; Agent değiştirir. Bir sistem dünyayı değiştirebildiği anda sınır sorusu en önemli tasarım sorusuna dönüşür — her ek yetenekten daha önemlidir.

Yetkiler ayrıntı değildir

Agent'ın her becerisi aynı zamanda bir şeyi değiştirme olasılığıdır. Okumak, yazmak, göndermek, silmek ve çalıştırmak yalnızca teknik fiiller değildir. Farklı sonuçları vardır. Bu sonuçlar ayrılmazsa kullanışlı otomasyon gereğinden fazla alan kazanır ve fark ancak hata etkisini gösterdikten sonra görünür olur.

En küçük faydalı yetkiyle başla. Malzemeyi düzenleyecek Agent aynı zamanda yayınlama yetkisine ihtiyaç duymaz. Taslak hazırlayan Agent bağlayıcı karar verme onayına ihtiyaç duymaz. Yetkiler, her şeyi tek seferde yapma isteğiyle değil, gözlemlenen güvenilirlik ve açık gereklilikle büyür.

Okuyan ve değiştiren yetkileri ayırmak faydalıdır. Veri elverdiği sürece okumak nadiren tehlikelidir. Değiştirmek ve göndermek korunan alanı terk eder. İki türü ayrı vermek, Agent'a çok bağlam verirken çok etki vermemeyi sağlar.

Sınırlar hataları küçük tutar

Sandbox her şeyden önce düşünme biçimidir: çalışma sınırlı bir alanda denenir. Girdiler, ara sonuçlar ve kurallar burada görünür olur; her deneme hemen gerçek sonuç doğurmaz. Soru sadece şudur: Agent bu görevi yapabilir mi? Aynı zamanda şudur: Hatanın yönetilebilir kalacağı yerde yapabilir mi?

En küçük güvenli ortam çoğu zaman şaşırtıcı derecede basittir. Özgün malzeme yerine örnek malzeme, yayın yerine taslak, kalıcı değişiklik yerine kopya. Bu ayrım ikinci şans yaratır. İş akışına erişim vermeden önce ondan öğrenmeyi sağlar.

Sandbox bir kafes değil, bir alıştırma alanıdır. Amacı Agent'ı küçük tutmak değil, güvenilirliğin görünür olabileceği bir yer vermektir. Bir iş akışı sınırlı alanda tekrar tekrar iyi çalıştığında, ona daha fazla erişim vermek gerekçeli olur.

İnceleme güvensizlik değil, çalışma adımıdır

İnsanlar her tıklamayı tekrar etmek zorunda değildir. Fakat bağlamın, sorumluluğun ve sonucun kesiştiği yerlerde karar vermelidirler. İyi inceleme noktası somuttur: Bu bilgi kullanılmalı mı? Bu değişiklik anlamlı mı? Bu sonuç dışarı çıkabilir mi?

İnceleme, uzun sürecin sonunda yalnız „evet" ya da „hayır" istediğinde zayıflar. Küçük devirler daha iyidir: Agent yaptığını özetler, dayanağını adlandırır, açık belirsizlikleri gösterir ve sonraki adımı önerir. İnsan böylece yorgunluktan değil, okunabilir durumdan karar verir.

En iyi inceleme noktası etkiden sonra değil, önce durur. Ancak bir e-posta gönderildikten veya bir dosya silindikten sonra devreye giren kontrol, kontrol değil, bir zarar bildirimidir. İncelemeyi kararın hâlâ geri alınabilir olduğu yere koy.

Hayır kaliteye aittir

Güvenli sistem yalnız hata verdiğinde durmamalıdır. Bir şey belirsiz olduğunda da beklemelidir. Eksik bilgi, çelişkili talimat, beklenmeyen veri veya anlaşılmış çerçevenin dışındaki etki soru sormak için iyi nedenlerdir. Bu zayıflık değildir. Kesin bir yeterlilik biçimidir.

Bu durma sinyallerini ilk çalıştırmadan önce yaz. „Hedef kitle eksikse sor." „Geri alınamayan değişiklik yapma." „İncelenmeden dış açıklama yapma." Bu tür kurallar genel güvenlik arzusunu test edilebilir çalışma biçimine dönüştürür.

Güvenli özerklik iyi işbirliğidir

Güvenli özerklik korku ya da sırf kontrol için kontrol meselesi değildir. İyi işbirliği biçimidir. Yetkiler küçük başladığında, sonuçlar sınırlı kaldığında ve hayır tasarıma dahil edildiğinde, Agent insanlar sorumluluğunu kapalı bir sisteme devretmeden faydalı hareket edebilir.

Soru böylece „Agent ne kadar yapabilir?"den „Ona neyde güvenebiliriz?"e kayar. Bir sistemin asıl olgunluğu budur: yetenek listesinin uzunluğu değil, sınırlarının güvenilirliği.

Bir Agent için güvenlik kartı

Tek bir kart sınırları bir arada tutar. Görevi, izin verilen yetkileri, yasakları, çalışma alanını, inceleme noktasını ve durma sinyalini yarım sayfada toplar — iş akışını kurmadan önce doldur.

# GÜVENLİK KARTI

**Görev**
Agent … yapabilir.

**İzin verilen yetkiler**
… okuyabilir ve … hazırlayabilir.

**İzin verilmeyenler**
… yapamaz.

**Çalışma alanı**
Yalnızca … ile çalışır.

**İnceleme noktası**
… öncesinde … gösterir.

**Durma sinyali**
… olduğunda durur ve sorar.

Güvenli Agent sorumluluğun etrafından dolaşan bir kısayol değildir. Sorumluluğun açık bir biçimidir. Yetkiler, çalışma alanı, inceleme ve hayır görünür olduğunda özerklik, kimse etkinin kontrolünü kaybetmeden faydalı olabilir.

Çalışma kâğıdı: Güvenlik kartı yaz

Somut bir Agent görevi seç. Önce iş akışını kurma. Önce hangi etkinin izinli olduğunu ve insanın hangi noktada karar vermesi gerektiğini belirle.

Etkiyi açıkla. Şunu tamamla: „Bu adımdan sonra … değişebilir." Değişikliği olabildiğince somut adlandır.

En küçük yetkiyi seç. Agent'ın ne okuyabileceğini, hazırlayabileceğini veya çalıştırabileceğini yaz. İlk sürüm için gereksiz her yetkiyi çıkar.

Çalışma alanını sınırla. İlk testin hangi malzemeyle çalışacağını belirle. Hatanın geri alınabileceği veya görünür kılınabileceği ortam seç.

İnceleme ve durmayı yaz. Bir inceleme noktası ve iki durma sinyali yaz. Başka bir kişinin Agent'ın ne zaman devam edemeyeceğini anlayıp anlayamadığını kontrol et.

İndirilecek tüm materyaller — konu özeti ve çalışma kâğıdı: