Üçüncü MCP sunucusu makuldü, sonrakiler değildi
Ajana projenin dokümanını vermek için MCP doğru cevaptı. Proje sayısı artınca sunucuların kendisi bakım gerektiren bir yüke dönüştü.
Kitap III / III The Unreliable Systems Trilogy
Production'daki agent'lar için tool'lar, yetki, state, sınırlar ve kayıtlar
Production'da güvenilebilecek AI agent'lar kurmak için pratik bir rehber: araçlar, yetki, durum, sınırlar ve kayıtlar; tasarımdan olay incelemesine.
English baskının sayfası: /books/engineering-reliable-ai-agents/
Kayıt yok, e-posta yok. Lisans: © 2026 Muhammet Şafak — ücretsiz indirilir ve okunur
modelin doğru olmasına güvenmek
hatalarını atlatılabilir kılmak
Modelin bazen yanılacağını varsayın ve tasarımı ilk satırdan buna göre kurun.
Agent'ın yapabileceklerini izinler, kontroller ve sert limitlerle sınırlayın.
Her karar ve eylemi, incelenebilsin, ölçülebilsin ve ters gittiğinde soruşturulabilsin diye kaydedin.
Bir run aynı sorguyu art arda 40 kez çağırdı; çalışmasını tesadüfen izleyen biri fark edene kadar kimse görmedi. Sahne, orta ölçekli kurgusal bir fulfillment şirketinde, Parcelport’ta, ilk agent’ın yayına girdiği hafta geçer.
Çarşambaya gelindiğinde ekip üç şey öğrenmişti. Lookup döngüsünün yanında bir ticket, hiçbir tool’un döndürmediği bir teslimat tarihi vaat eden bir cevap üretmiş; bir müşteri e-postasındaki “asistana” hitap eden paragraf da Parcelport’tan gelen bir talimat gibi işlenmişti. Hiçbiri felaket değildi, hepsi öngörülebilirdi ve hiçbiri sonradan tam olarak yeniden kurulamadı, çünkü agent’ın ne yaptığına dair tek kayıt nihai yanıtıydı.
Kitabın tezi tek cümle: AI agent’lar, güvenilir kontrol sistemlerinin içinde çalışan güvenilmez karar vericiler olarak tasarlanmalıdır. Model öneri üretir, kararı sistem verir; bu yüzden kitap daha iyi bir prompt’la değil şu soruyla başlar: model bazen yanılacaksa, yanılmak atlatılabilir olsun diye çevresindeki sistem neyi garanti etmelidir?
Kitap prompt engineering, model eğitimi, framework ya da vendor üzerine değildir ve bir saldırı kitabı da değildir. Her kontrol maliyetiyle birlikte gelir; kitap bir kontrolün ne zaman gösterişten ibaret olduğunu da söyler. İçindeki sayılar örnektir; öneri ya da ölçüm değildir.
Kitabın bir bölümünden alıntı; tamamı indirilebilir baskıda.
Şimdi bunu gate’e koyalım. Bölüm 4’ün tool çağrısı dalı, modelin önerisini bir seçim kümesine karşı denetler ve not_in_choice_set ile reddeder; Bölüm 5 ve 6’nın sözleşmeleri de “sipariş bu run’ın müşterisine aittir”i bir ön koşul olarak listeler. Seçim kümesi daha önceki, ayrı bir katmandır: modele sunulanı daraltır, modelin önerdiğine karşı denetlenir ve reddi kendi kodunu korur. Yine de sahiplik cümlesini iki kez daha uygulamazdım. Sahiplik kararının tek bir sahibi var, aşağıdaki checkAuthority, ve tek bir kodu, not_permitted; sözleşmenin ön koşulu onu çağırarak karşılanır. Bir öneri seçim kümesinde takılabilir ve bu fonksiyona hiç ulaşmayabilir, ve bu sorun değil. Önemli olan, delegasyonun dışındaki bir sipariş gate’e ulaştığında, sahiplik hakkındaki kararın buradan çıkması, tek bir gözlem metni ve kayıtta tek bir sayımla. Ayrıca daha fazla veri okuyan ön koşullardan önce çalışır, çünkü principal’ın göremeyeceği bir siparişi okumak için bir neden yok.
function checkAuthority(run, call):
delegation = run.delegation // assigned at run creation
if delegation.expired or delegation.revoked:
return { kind: "refuse", reason: "not_permitted" } // an expired delegation is no authority
authority = intersect(grantsFor(run.agent, call.tool),
delegation.grantsFor(call.tool),
run.taskScope)
if authority is empty:
return { kind: "refuse", reason: "not_permitted" }
for each ref in resourceRefs(call): // order id, shipment id
owner = ownerOf(ref) // read from the owning service
if owner is unknown:
return { kind: "refuse", reason: "upstream_unavailable" } // cannot verify: refuse, retryable
if owner != delegation.on_behalf_of:
return { kind: "refuse", reason: "not_permitted" }
return evaluatePolicies(run, call, authority) // ceiling, window, environment
Blok, ilgilendiği hata altında doğrudur. Reason’lar, bu bölümün kendi sözlüğünden değil, Bölüm 5’teki gate’in sözlüğünden gelir (Ek bunu listeler) ve checkAuthority, Bölüm 5’teki gate’in kısmi bir görünümüdür: o, permitted adımıdır ve döndürdüğü bir onay sonucu, ön koşullardan sonra en son uygulanır (Bölüm 6). Sahip araması başarısız olduğunda çağrı retryable olan upstream_unavailable ile reddedilir: ulaşılamayan bir orders-service izne dönüşmemeli ve kalıcı bir reddedilmeye de dönüşmemelidir; bu yüzden retry, modelin isteğiyle değil, retry politikası altında (Bölüm 14) çalışır. Run askıdayken ticket kapandığı için delegasyonun süresi dolduğunda çağrı not_permitted ile reddedilir. Model müşteriye ait olmayan bir sipariş önerdiğinde çağrı, modele emin olup olmadığı hiç sorulmadan, aynı şekilde reddedilir.
Ret metni önemlidir. Modele döndürülen gözlem, siparişin bu ticket için kullanılabilir olmadığını söylemeli ve başka bir şey söylememelidir. Siparişin var olduğunu doğrulamamalı ve onun hiçbir alanını içermemelidir. Diğer müşterinin verisini yankılayan bir ret, başka bir yoldan gerçekleşmiş bir okumadır.
Askıya alınmış bir run, Sam onaylamadan önce dakikalarca ya da saatlerce bir queue’da durabilir. Bu arada ticket yeniden atanmış, delegasyon iptal edilmiş ya da sipariş başka biri tarafından iade edilmiş olabilir. Orchestrator run’ı resume eder ve çağrıyı önceki kararın gücüyle uygularsa, bayat bağlama göre davranır (F5, kontrolden çıkan döngü ya da bayat bağlam). Run resume ettiğinde checkAuthority’yi ve ön koşulları yeniden çalıştırırdım ve onayı o ikinci denetime bir girdi sayardım, asla onun yerine geçen bir şey değil. Onay, bir insanın tam o çağrıyı kabul ettiğini söyler. Dünyanın hâlâ eskisi gibi olduğunu söylemez.
Kitapta geçen temel terimler ve kısa tanımları.
8 soru
Backend ve platform mühendisleri, SRE'ler, tech lead'ler ve bir agent'ı production'a taşıyan ekipler için; başkasının tasarladığı bir tasarımı gözden geçirmesi istenenler de dahil.
Hayır. Kitap modeli çağırdığınız bir bileşen olarak ele alır ve o bileşeni değiştirdiğinizde de kitabın anlattıkları geçerliliğini korur. Gerçek ürünler ve açık protokoller yalnızca örnek olarak geçer; asıl olan örüntüdür.
Hayır. Prompt'lar kötü önerilerin oranını düşürdüğü için geçer, ama prompt bir ricadır ve kitaptaki hiçbir özellik yalnızca bir ricaya dayanmaz. Bir bölüm bir talimata yaslandığında, talimat tutmasa bile tutan deterministik kontrolü adıyla söyler.
Yetkin bir yazılım mühendisi olduğunuz varsayılır. Kitap bir dil modelinin ne olduğunu açıklamaz ve makine öğrenmesi terimlerini yalnızca bir kontrol kararını değiştirdikleri yerde kullanır. Belirli bir framework kullanmış olmanız gerekmez; kitap hiçbirini öneri olarak anmaz.
Evet. Lisans satırı "© 2026 Muhammet Şafak — ücretsiz indirilir ve okunur" der. PDF ve EPUB dosyaları bu sayfadaki indirme panelinde sunulur. Bu baskı 495 sayfadır.
Yedi dilde: İngilizce, Türkçe, İspanyolca, Basitleştirilmiş Çince, Portekizce, Almanca ve Fransızca. Her biri PDF ve EPUB olarak sunulur.
Pseudocode var. Bütün kod dilden bağımsızdır, düz text bloklarında yazılır; diyagramlar Mermaid ile çizilir. Kitap hiçbir sağlayıcı API'sini ya da SDK'yı göstermez; model çağrısı her zaman bir öneri döndüren tek bir soyut fonksiyondur: model.propose(context).
The Unreliable Systems Trilogy'nin üç kitabından üçüncüsüdür: I Erişim (Production Veritabanı Erişim Rehberi), II Event'ler (Güvenilir Event-Driven Sistemler Tasarlamak) ve III Agent'lar (bu kitap). Önsöz başka bir kitabı değil, genel mühendislik becerisini önkoşul sayar; önünüzdeki sorun bir agent ise buradan başlayabilirsiniz.
Bu kitabın konusuna değinen blog yazıları.
Ajana projenin dokümanını vermek için MCP doğru cevaptı. Proje sayısı artınca sunucuların kendisi bakım gerektiren bir yüke dönüştü.
RAG mı fine-tuning mi sorusu her yerde cevaplanıyor. Kararın ardından kalan üç soru — anahtar, model seçimi ve bütçe — hiçbir yerde.
Agent'la günlerde biten iş, yıllardır çalışan bir sistemde bir hafta sürüyor. Çünkü orada asıl maliyet kod üretmek değil; kuralı bulmak ve doğrulamak.
'Niye' değil 'ne kadar' yazısı: tool workflow'a hangi katmanlarda giriyor, hangi bug pattern'lerini yakalıyor ve nerede sınırına dayanıyor.