Yapay Zekâ Gerçekliğine Karşı Tamponlar — Kesintileri, Limitleri, Bağımlılıkları ve Teknik Belirsizliği Planlamak

Yapay zekâ projeleri iyimser zaman planlarını teşvik eder. Bir model saniyeler içinde yanıt verir. Bir ajan, geçmişte birkaç manuel adım gerektiren bir işi kısa sürede tamamlayabilir. Bir prototip sanki bir gecede ortaya çıkar. Bu nedenle tüm projenin de aynı hızda ilerlemesi gerektiği düşüncesi kolayca oluşur.

Tam da burada tehlikeli bir planlama hatası başlar. Tek bir yapay zekâ etkileşiminin hızı, güvenilir bir projenin hızı değildir.

Bir fikir ile güvenilir sonuç arasında hâlâ bağımlılıklar vardır: hizmetler erişilebilir olmalı, hesaplar çalışmalı, dosyalar hedeflenen bağlama sığmalı, arayüzler ulaşılabilir kalmalı, modeller gereken davranışı göstermeli, insanlar karar verebilmeli ve dış modüller zamanında hazır olmalıdır. Yalnızca ideal koşullarda çalışan bir proje daha hızlı değildir; daha kırılgandır.

Bu nedenle profesyonel yapay zekâ proje planlaması, kapsam ve görev planının yanında ikinci bir katmana ihtiyaç duyar: dayanıklılık planlaması. Bu katman yalnızca neyin ne zaman yapılacağını değil, planlanan yol geçici olarak işlemediğinde ne olacağını da tanımlar.

İdeal akış yalnızca bir hipotezdir

Klasik bir proje planı çoğu zaman sıralı bir yapı gösterir: A görevi biter, ardından B başlar, sonra C gelir. Gerçekte bekleme süreleri, sorular, teknik engeller ve yeni bulgular ortaya çıkar. Yapay zekâ projeleri buna ek bir belirsizlik sınıfı getirir: çalışma kapasitesinin önemli bir bölümü ekibin doğrudan kontrolü dışında olabilir.

Bir bulut hizmeti erişilemez hâle gelebilir. Bir hesap kullanım veya kapasite limitine ulaşabilir. Bir özellik bir önceki güne göre farklı davranabilir. Bir model uzun bağlamı beklenenden kötü işleyebilir. Bir entegrasyon güncellemeden sonra bozulabilir. Gerekli bir üretim, video ya da analiz modülü henüz kullanıma açık olmayabilir. Her bir kesinti tek başına nadir olsa bile, her yeni bağımlılık bir noktada bir şeyin ilerlemeyi durdurma olasılığını artırır.

Bu nedenle zaman planı "Mükemmel koşullarda ne kadar hızlı bitirebiliriz?" sorusuyla başlamamalıdır. Daha doğru soru şudur: "Gerçekçi koşullarda ne kadar hızlı ve güvenilir teslim edebiliriz?"

Bu bakış açısı planın mimarisini değiştirir. Tampon artık sona eklenen bir güvenlik marjı değildir; sistem tasarımının bir parçasıdır.

Her tampon aynı değildir

Proje ekipleri rezervlerden söz ettiğinde çoğu zaman takvime birkaç gün eklemeyi kasteder. Yapay zekâ projelerinde bu yeterli değildir. Farklı belirsizlikler farklı rezerv türleri gerektirir.

Bu tamponlar birbirine bağlıdır. Bir hizmet kesintisi önce teknik bir sorundur. Alternatif yol yoksa zaman sorununa dönüşür. Daha pahalı bir hizmete geçilmesi gerekiyorsa maliyet sorunu da doğar. Proje dosyaları hızlı taşınamıyorsa teknik sorun aynı zamanda bağlam sorunu olur.

Dayanıklılık bu nedenle tek ve büyük bir "güvenlik payı"ndan değil, projenin kırılgan olduğu noktalarda hedefli rezervlerden oluşur.

Teknik bağımlılıklar proje planına aittir

Birçok yapay zekâ projesi araçları nötr enstrümanlar gibi ele alır. Planda "video üret", "veriyi analiz et" ya da "ajan araştırmayı yapsın" yazar. Bunun için gereken platformun erişilebilir olup olmadığı, hangi limitlerin geçerli olduğu veya alternatif yolun ne olduğu ise örtük kalır.

Bu, bir inşaat projesinde vinci plana koyup vincin mevcut olup olmadığını ya da arızalanırsa ne yapılacağını düşünmemeye benzer.

Bir araç kritik bir iş adımı için zorunlu hâle geldiğinde artık proje bağımlılığıdır. En azından bu bağımlılığın ne kadar kritik olduğu, kesintinin ne kadar tolere edilebileceği, işlevsel bir alternatifin bulunup bulunmadığı ve geçiş gerektiğinde hangi artefaktların taşınabilir kalması gerektiği bilinmelidir.

Her bağımlılık tam yedeklilik gerektirmez. Deneysel bir yan görevde bir gün beklemek kabul edilebilir. Müşteri teslim tarihindeki aynı bekleme kabul edilemez olabilir. Dayanıklılık maksimum yedeklilik talebi değildir; riske uygun olmalıdır.

Kesinti istisna değildir

Önemli bir zihniyet değişimi, teknik kesintileri şaşırtıcı özel durumlar olarak görmemektir. Yapay zekâ hizmetlerini düzenli kullanan ekipler, zaman zaman bazı özelliklerin veya servislerin erişilemez olacağını hesaba katmalıdır. Bu tek başına kriz değildir. Kriz, tüm proje mantığı tek bir yola bağlıysa ortaya çıkar.

Dayanıklı bir proje bu nedenle işlevsel hedef ile aracı birbirinden ayırır. İşlevsel hedef örneğin "Müşteri görüşmelerinin savunulabilir bir özetini üretmek" olabilir. Araç ise bu sonuca ulaşmak için şu anda tercih edilen yöntemdir. Araç çalışmazsa hedef geçerliliğini kaybetmez.

Bu ayrım basit bir fallback merdiveni oluşturur. Önce engellenen adımın kritik yolu bozmadan daha sonra yapılıp yapılamayacağı kontrol edilir. Olmuyorsa alternatif bir platform veya yerel süreç kullanılır. Bu da uygun değilse iş sırası değiştirilir; blokaj çözülene kadar bağımsız bir görev öne alınır. Ancak bu seçeneklerin hiçbiri çalışmıyorsa zaman planı gerçekten kaydırılır.

Bu nedenle iyi bir fallback'in en önemli özelliği birincil yolla birebir aynı olması değildir. Proje akışını korumasıdır.

Birden fazla sağlayıcı otomatik olarak gerçek yedeklilik oluşturmaz

Sık yapılan hata, birkaç yapay zekâ aracının varlığını doğrudan dayanıklılık olarak kabul etmektir. Tarayıcıda üç araç bulunması, üç bağımsız yol bulunduğu anlamına gelmez. Araçlar aynı dış servise, aynı veri kaynağına, aynı kimlik doğrulama katmanına veya aynı dosya formatına bağımlı olabilir. Operasyonel açıdan da proje bağlamının ve çalışma durumunun nasıl taşınacağı hazırlanmadıysa görünen alternatif kullanışsız kalabilir.

Gerçek yedeklilik şu soruyla başlar: Geçiş yaptığımızda hangi bağımlılık gerçekten ortadan kalkıyor?

Yalnızca arayüz değişiyor, kritik bağımlılık aynı kalıyorsa bu kozmetik yedekliliktir. Daha sağlam bir mimari farklı katmanları birleştirebilir: tercih edilen bulut hizmeti, ikinci bir işlevsel alternatif, yerel veya manuel bir minimum yol ve belirli görevleri gerektiğinde yeniden sıralayabilen bir çalışma planı.

Amaç her fonksiyonu dört kez hazır tutmak değildir. Amaç, kaybı tüm projeyi durduracak noktalarda tek hata noktasını ortadan kaldırmaktır.

Bağlam taşınabilirliği bir dayanıklılık faktörüdür

En az fark edilen darboğazlardan biri hesaplama gücü değil, proje hafızasıdır. Bir yapay zekâ projesi teknik olarak birkaç alternatife sahip olabilir ama ilgili bağlam yalnızca belirli bir sohbet, çalışma alanı veya kapalı proje ortamında bulunuyorsa geçiş yine mümkün değildir.

Bu durumda asıl bağımlılık sağlayıcı değil, çalışma durumunun taşınabilir olmamasıdır.

Bu nedenle kanonik proje durumu tek bir diyaloğun dışında yeniden kurulabilir olmalıdır. En azından hedef, güncel kapsam, önemli kararlar, açık sorular, kaynak tabanı, kritik artefaktlar ve mevcut çalışma durumu erişilebilir olmalıdır. Her sohbeti eksiksiz arşivlemek gerekmez. Önemli olan yeni bir sistemin veya başka bir ekip üyesinin tüm geçmişi tahmin etmek zorunda kalmadan projeyi sürdürebilmesidir.

Bağlam ve dosya sınırları devreye girdiğinde bu disiplin daha da önem kazanır. Platform limitleri değişebilir, modlara göre farklılaşabilir ve dosya ya da bağlam büyüdükçe beklenenden önce hissedilebilir. Dayanıklı bir proje hiçbir şey sığmaz hâle gelene kadar beklemez. Kaynakları konsolide eder, ham materyal ile çalışma bilgisini ayırır ve kritik proje bilgisini taşınabilir olacak kadar kompakt tutar.

Bu açıdan iyi bağlam yönetimi bir tür iş sürekliliğine dönüşür.

Tam dolu plan verimli plan değildir

Yapay zekâ paralelliği cazip kılar. Birden fazla ajan aynı anda araştırabilir, yazabilir, test edebilir veya analiz yapabilir. Bu maksimum kullanım gibi görünür. Fakat kapasitesi sürekli tamamen dolu olan bir sistemin sapmalar için rezervi yoktur.

Bir ajan soru ürettiğinde, inceleme beklenenden uzun sürdüğünde veya bir iş paketi yeniden yapılmak zorunda kaldığında kuyruk oluşur. Diğer ajanlar aynı anda yeni çıktılar üretmeye devam eder. Proje kâğıt üzerinde hızlanırken operasyonel olarak yavaşlar; çünkü inceleme ve karar kapasitesi üretim kapasitesiyle birlikte ölçeklenmez.

Kapasite tamponu bu nedenle mevcut her kaynağı yüzde yüz planlamamak anlamına gelir. İnsan ve teknik kapasitenin bir bölümü revizyon, engel ve beklenmeyen işler için boş bırakılır. Bir tabloda bu verimsiz görünebilir. Dinamik bir sistemde ise sorunların tüm zinciri aşırı yüklemesini önlediği için toplam akışı yükseltebilir.