Bir yapay zekâ sistemi yürütülebilir bir kural kitabına ihtiyaç duyar

Birçok yapay zekâ projesi uzun bir prompt ile başlar. Rolü, tonu, hedefi, istisnaları ve bazen istenen çalışma biçimini anlatır. Sistem yalnızca metin taslağı ürettiği sürece bu şaşırtıcı ölçüde iyi çalışabilir. Dosya değiştirmeye, araç kullanmaya veya birçok adımı otonom bağlamaya başladığında dilsel niyet artık yeterli değildir. Sistem, işi yalnız anlatmayan; sınırlandıran ve doğrulanabilir kılan bir kural kitabına ihtiyaç duyar.

Akıcı dil governance değildir

Dil modeli kuralları ikna edici biçimde tekrar edebilir ve yine de yanlış anda atlayabilir. Bunun nedeni mutlaka itaatsizlik değildir. Talimatlar çoğu zaman fazla genel, çelişkili veya somut eylemden kopuktur. „Güvenli çalış" ajan bağımlılık kurabilir mi sorusunu yanıtlamaz. „Kritik adımda sor" ifadesi ne kritik kavramını ne de onay biçimini tanımlar.

Governance operasyonel ayrımlarla başlar. Okumak yazmaktan farklıdır. Önizleme göndermekten farklıdır. Yerel test deployment değildir. Geri alınabilir dosya değişikliği veri silmek değildir. Bu durumlar kural kitabında adlandırılmalıdır.

Kurallar görünür bir hiyerarşi ister

Hangi belgenin hangi soruyu yönettiği açık olduğunda sistem daha güvenilir çalışır. Kalıcı proje kuralları kısa ve bulunabilir talimat dosyalarında olmalıdır. Değişen hedef, kapsam ve veri bölgesi proje briefine aittir. Kabul ölçütleri bitmiş sonucun nasıl gözlemleneceğini söyler. Karar kaydı hangi alternatifin bağlayıcı olduğunu tutar. Handoff mevcut durumu aktarır.

Bu ayrım eski ürün fikrinin her zaman yüklenen kural dosyasında yaşamaya devam etmesini engeller. Tek bir ticket'ın kalıcı güvenlik sınırını sessizce geçersiz kılmasını da önler. Kural kitabı tek dev belge değil, farklı belge türleri arasındaki düzenli ilişkidir.

Kural eyleme bağlanmalıdır

„Onaysız dış eylem yok" ancak sistem dış eylemleri tanıyabiliyorsa yürütülebilir olur. Gönderim, yayın, deployment, maliyet, silme, erişim genişletme ve production credential kullanımı buna dahildir. Etkiden önce önizleme durumu oluşmalıdır.

İyi önizleme hedefi, eylemi, payload'u, beklenen sonucu ve geri dönüşü yazar. Onaylayan kişi yalnızca bir şey olacağını değil, tam olarak ne olacağını görür. Karar bu kez izin ver, reddet veya düzelt olabilir. Gelecekteki bütün olaylara genel izin ayrı bir policy değişikliğidir.

Skills yürütülebilir bilgidir

Skill yeniden kullanılabilir prompttan fazlasıdır. Tetikleyiciyi, girdileri, izinli araçları, iş adımlarını, çıktı sözleşmesini ve duruş sinyallerini bağlar. Bilgiyi eyleme dönüştürür. Bu nedenle skill aynı kod gibi disiplin ister.

Dağınık misyon değil, sınırlı yetenek sağlamalıdır. „Adı verilmiş üç belgeden kaynak temelli özet oluştur" ifadesi „bilgi ajanım ol" ifadesinden daha iyi sınanır. Dar skill pozitif, negatif ve onarılabilir vakalarla değerlendirilebilir. Geniş skill etkileyici görünebilir; fakat hatanın nerede oluştuğunu bulmak zordur.

Örnek ve karşı örnek kurala biçim verir

Soyut kural ancak vakada kesinleşir. „Onaysız yayınlama" için pozitif vaka gerekir: Ajan önizleme hazırlar ve bekler. Negatif vaka, yayına hazır dosyayı otomatik olarak canlıya almadığını gösterir. Onarılabilir vaka, hedef veya alıcı belirsiz olduğunda ne yaptığını gösterir.

Karşı örnekler özellikle önemlidir; çünkü yüzeyde birbirine benzeyebilir. Yerel önizlemeye izin verilebilirken aynı içeriği açık CMS'e koymak onay ister. Çalışma klasöründeki dosya değiştirilebilirken production veritabanına dokunulmamalıdır. Kurallar gücünü benzer vakalar arasındaki sınırdan alır.

Sürümleme kuralları sorumlu kılar

Kurallar davranışı değiştirir. Bu nedenle kural değişiklikleri kod değişiklikleri gibi ele alınmalıdır. Kuralın neden değiştiği, hangi olay veya test vakasının bunu tetiklediği, hangi sistemlerin devraldığı ve nasıl geri alınacağı görünür kalmalıdır.

Kural değişikliğinden sonra yalnızca yeni istenen vakanın çalışması yetmez. Mevcut pozitif ve negatif vakalar yeniden yürütülmelidir. Yeni güvenlik kuralı zararsız işi gereksiz yere durdurabilir. Daha rahat bir ifade ise önceki sınırı fark edilmeden zayıflatabilir.

Kural kitabı test ister

Kural kitabının kalitesi ne kadar kapsamlı duyulduğuyla değil, tekrarlanabilir durumlarda nasıl davrandığıyla görünür. En az üç vaka gerekir. Pozitif vaka izinli işi sınar. Negatif vaka yasak etkinin durdurulup durdurulmadığını sınar. Onarılabilir vaka eksik kaynak, belirsiz kapsam veya test hatasının fark edilmesini ve doğru sonraki adımın üretilmesini sınar.

Kabul başarı oranı, kanıt bütünlüğü, sınır ihlali, gereksiz escalation ve handoff kalitesi ölçülebilir. Tek ölçü yetmez. Onayları atlayarak hızlanan sistem daha verimli değil, daha az yönetilebilirdir.

Yürütülebilir kural kitabı

# MİSYON
Hangi sınırlı sonuç üretilecek?

# KAYNAKLAR VE DOĞRULUK
Hangi belgeler bağlayıcı, hangileri tamamlayıcı?

# İZİNLİ ARAÇLAR
Bu durumda hangi yetenek gerekli?

# SINIRLAR
Ne hazırlanabilir fakat tetiklenemez?

# DURUŞ SİNYALLERİ
Sistem ne zaman sormalı, devretmeli veya durmalı?

# DOĞRULAMA
Hangi test ve kabul ölçütü sonucu destekler?

# HANDOFF
Hangi değişiklik, kanıt, varsayım ve kalan belirsizlik aktarılır?

İyi kural kitabı sistemi küçültmez. Yeteneğini adreslenebilir kılar. Hangi eylemin hangi koşulda izinli olduğunu gösterir. Böylece akıcı yardım, incelenebilir, geliştirilebilir ve sorumluluğu üstlenilebilir iş sürecine dönüşür.

İndirilecek tüm materyaller — konu özeti ve çalışma kâğıdı: