Bir yapay zekâ sistemi yürütülebilir bir kural kitabına ihtiyaç duyar

Birçok yapay zekâ projesi uzun bir prompt ile başlar. Rolü, tonu, hedefi, istisnaları ve bazen istenen çalışma biçimini anlatır. Sistem yalnızca metin taslağı ürettiği sürece bu şaşırtıcı ölçüde iyi çalışabilir. Dosya değiştirmeye, araç kullanmaya veya birçok adımı otonom bağlamaya başladığında dilsel niyet artık yeterli değildir. Sistem, işi yalnız anlatmayan; sınırlandıran ve doğrulanabilir kılan bir kural kitabına ihtiyaç duyar.

Akıcı dil governance değildir

Dil modeli kuralları ikna edici biçimde tekrar edebilir ve yine de yanlış anda atlayabilir. Bunun nedeni mutlaka itaatsizlik değildir. Talimatlar çoğu zaman fazla genel, çelişkili veya somut eylemden kopuktur. „Güvenli çalış" ajan bağımlılık kurabilir mi sorusunu yanıtlamaz. „Kritik adımda sor" ifadesi ne kritik kavramını ne de onay biçimini tanımlar.

Governance operasyonel ayrımlarla başlar. Okumak yazmaktan farklıdır. Önizleme göndermekten farklıdır. Yerel test deployment değildir. Geri alınabilir dosya değişikliği veri silmek değildir. Bu durumlar kural kitabında adlandırılmalıdır.

Kurallar görünür bir hiyerarşi ister

Hangi belgenin hangi soruyu yönettiği açık olduğunda sistem daha güvenilir çalışır. Kalıcı proje kuralları kısa ve bulunabilir talimat dosyalarında olmalıdır. Değişen hedef, kapsam ve veri bölgesi proje briefine aittir. Kabul ölçütleri bitmiş sonucun nasıl gözlemleneceğini söyler. Karar kaydı hangi alternatifin bağlayıcı olduğunu tutar. Handoff mevcut durumu aktarır.

Bu ayrım eski ürün fikrinin her zaman yüklenen kural dosyasında yaşamaya devam etmesini engeller. Tek bir ticket'ın kalıcı güvenlik sınırını sessizce geçersiz kılmasını da önler. Kural kitabı tek dev belge değil, farklı belge türleri arasındaki düzenli ilişkidir.

Kural eyleme bağlanmalıdır

„Onaysız dış eylem yok" ancak sistem dış eylemleri tanıyabiliyorsa yürütülebilir olur. Gönderim, yayın, deployment, maliyet, silme, erişim genişletme ve production credential kullanımı buna dahildir. Etkiden önce önizleme durumu oluşmalıdır.

İyi önizleme hedefi, eylemi, payload'u, beklenen sonucu ve geri dönüşü yazar. Onaylayan kişi yalnızca bir şey olacağını değil, tam olarak ne olacağını görür. Karar bu kez izin ver, reddet veya düzelt olabilir. Gelecekteki bütün olaylara genel izin ayrı bir policy değişikliğidir.

Skills yürütülebilir bilgidir

Skill yeniden kullanılabilir prompttan fazlasıdır. Tetikleyiciyi, girdileri, izinli araçları, iş adımlarını, çıktı sözleşmesini ve duruş sinyallerini bağlar. Bilgiyi eyleme dönüştürür. Bu nedenle skill aynı kod gibi disiplin ister.

Dağınık misyon değil, sınırlı yetenek sağlamalıdır. „Adı verilmiş üç belgeden kaynak temelli özet oluştur" ifadesi „bilgi ajanım ol" ifadesinden daha iyi sınanır. Dar skill pozitif, negatif ve onarılabilir vakalarla değerlendirilebilir. Geniş skill etkileyici görünebilir; fakat hatanın nerede oluştuğunu bulmak zordur.