Uzmanlık
Yapay zekâ sistem mühendisi: modeli, onu taşıyan daha büyük bir yazılım sisteminin bileşeni olarak ele alıyorum
Sağlayıcının nerede duracağı, bütçenin nerede kesileceği, bir aracın hangi yetkiyle çalışacağı ve çıktının nasıl ölçüleceği: sayfa bu dört kararı ve arkasındaki yedi alanı anlatıyor.
- Başlangıç
- 2024 Başlangıç
- yıl
- 2 yıl
- yazı
- 7 yazı
- proje
- 16 proje
Bu ekosistemde ben
Yapay zekâyı bağımsız bir özellik olarak değil, daha büyük bir yazılım sisteminin bileşeni olarak ele alıyorum ve özelliği modelin kendisinde değil, onu üretimde taşıyan sistemde çözüyorum. AI Systems Engineering benim için AI development, ML engineering, agentic AI ya da AI infrastructure’ın tek başına adı değil; hepsiyle ilişkili, sistem odaklı bir mühendislik yaklaşımı. LLM, RAG, MCP, agent ve fine-tuning bu disiplinin bugünkü teknik bileşenleri; model mimarileri ve protokoller değiştiğinde de mimari, entegrasyon, güvenlik ve işletme soruları yerinde kalıyor.
Bu sayfa dört konuyu kendi kapsamında tutuyor: AI Systems Engineering, Retrieval-Augmented Generation, AI Agents ve Model Context Protocol. İki şeyi ayrı tutuyorum: aşağıdaki yedi alan disiplinin kapsamı, bu bölümdeki bağlantılar ise sitede görülebilen örneklerim. Ticari olduğu için burada ayrıntısı olmayan işlerim de var; onları kartlarda ve sayfanın sonundaki notta ayrıca yazdım.
Dördünün sitede görülebilen örneği var. Geçit tarafı AI gateway ürününde ve onun labs kaydında, RAG kararından sonra kalan iş ayrı bir yazıda, MCP tarafı doküman sunucusu ürününde ve proje başına sunucu yazısında. Bir LLM’in geliştirme akışına girdiği yer kod inceleme CLI’ında ve AI ile self-review yazısında, sağlayıcı soyutlama sorusu ise bir Sor Bakalım cevabında. Agent tarafının kitap ölçeğindeki karşılığı Güvenilir AI Agent Mühendisliği; Sentry hatasından düzeltme planı çıkaran skill ise onay almadan dosyaya dokunmayan küçük bir örneği. AI dışı event-driven ve kuyruk deneyimimin kanıtı ayrı bir kitapta.
Disiplinin yedi alanı
Yapay zekâyı bağımsız bir özellik değil, daha büyük bir yazılım sisteminin bileşeni olarak ele alıyorum; yedi alan bu bileşenin tasarımından işletmesine kadar tek bir bütün.
-
AI Systems Architecture
AI Systems Engineering'in omurgası mimaridir. AI-native ve AI-enabled sistemlerde model, uygulama ve altyapı katmanlarını ayırıyor, bileşenleri değiştirilebilir tutuyorum. Sağlayıcıya bağlanmayan bir mimaride model değişikliği uygulamaya dokunmamalı; bunu AI Gateway gibi bir geçitle, hata toleransını ve ölçeklenebilirliği gözeterek kuruyorum.
-
Model Engineering & Customization
Model seçimini ve değerlendirmesini, domain'e özel uyarlamayı ben yürütüyorum. Fine-tuning ile LoRA/PEFT gibi verimli yöntemler, TensorFlow ve PyTorch ile model eğitimi ve Machine Learning Research bu alanın içinde. Gecikmeyi ve maliyeti Inference Optimization ile düşürüyor, modeli Model Serving ile bir API arkasında sunuyorum; küçük, yerel ve açık ağırlıklı modeller de seçeneklerimin arasında.
-
Agentic AI & Orchestration
AI Agents'ı güvenilmez bir karar verici sayıp kontrol sistemlerinin içinde çalıştırıyorum: model öneriyor, kod karar veriyor. Tool Calling'de araç sözleşmesini, izni ve state'i; Human-in-the-Loop'ta insan onayının nerede duracağını tasarlıyorum. Model Context Protocol ve Agent2Agent Protocol gibi protokoller ile Multi-Agent Systems'teki orkestrasyon ve yetki sınırları da bu alanda.
-
AI Integration & Data Pipelines
Retrieval-Augmented Generation'da belgeyi ayrıştırmaktan chunk sınırlarına, Embeddings üretiminden Vector Search ile tam metin aramanın birleştirilmesine kadar hattın tamamı benim alanım. Üçüncü taraf ve kurumsal sistem entegrasyonlarını, ETL/ELT akışlarını, event-driven iş akışlarını ve kuyrukları modelin etrafındaki veri hattının parçası olarak kuruyorum.
-
AI Infrastructure & Platform Engineering
AI Gateway'leri, model yönlendirmeyi ve çoklu sağlayıcı entegrasyonunu, self-hosted sistemleri, container'lı dağıtımı ve AI teslim hatlarını kuruyorum. Inference iş yüklerinin kaynak yönetimi, GPU ve Kubernetes üzerinde Model Serving ve altyapı otomasyonu bu alanın gündelik işi.
-
Reliability, Security & Observability
Güvenilir olmayan bir AI sistemi özellik değil risktir. Guardrail'leri ve politika uygulamasını, Prompt Injection ile tool çalıştırma güvenliğini, veri gizliliğini ve erişim kontrolünü tasarlıyorum. Token, latency ve maliyeti bütçe olarak yönetiyor; LLM Observability ile istekleri izliyor, LLM Evaluation ile gerilemeyi yakalıyor, retry, timeout, fallback ve circuit breaker ile hatayı sınırlıyorum.
-
Applied AI Engineering
Yapay zekâyı gerçek bir probleme uyguluyorum: mevcut yazılım ürününü AI yetenekleriyle genişletmek, AI destekli otomasyon, geliştirici araçları ve araştırma prototipini üretim sistemine taşımak bu alanın işi. Ölçüt modelin ne kadar etkileyici olduğu değil, problemin çözülmesi ve sistemin işletilebilir kalması.
Bir AI özelliğinde verdiğim kararlar
Hangi modelin seçildiğinden önce, modelin etrafındaki bu dört karar sistemin ömrünü belirliyor.
- 01 Modelin yeri
- Modeli uygulamanın içine gömmek yerine bir arayüzün arkasına koyuyorum. Bedeli bir soyutlama katmanı ve sağlayıcıya özgü özelliklerden vazgeçmek; karşılığında modeli ya da sağlayıcıyı değiştirmek yeniden yazım değil yapılandırma oluyor.
- 02 Bütçe
- Token, gecikme ve maliyeti istek tasarlanırken belirliyorum, fatura geldiğinde değil. Çıktı token'ı ancak yanıt bittiğinde kesinleştiği için bütçe sınırı tek bir isteği yarıda kesemez; aşım en fazla bir istek boyu olur ve reddedilen bir sonraki istektir.
- 03 Yetki
- Bir agent'a verdiğim her araç bir yetkidir. Aracı dar tanımlıyor, geri alınamaz eylemleri insan onayına bağlıyor ve modelin bağlamına giren her metni, onu yönlendirebilecek bir girdi sayıyorum.
- 04 Ölçüm
- Çıktının doğruluğuna bir kez bakıp karar vermiyorum; tekrar çalıştırılabilir bir değerlendirme setiyle ölçüyorum. Model, prompt ya da retrieval değiştiğinde gerileme önce orada görünmeli, kullanıcıda değil.
Disiplinin sınırı
AI Systems Engineering yalnız AI development, yalnız ML engineering, yalnız agentic AI ya da yalnız AI infrastructure değildir; hepsinin kesiştiği, sistem odaklı mühendislik yaklaşımıdır. Bu yüzden uzmanlığı tek bir teknolojiye, sağlayıcıya ya da trende bağlamıyorum. LLM, RAG, MCP, agent ve fine-tuning bugünün teknik bileşenleri; model mimarileri ve protokoller değiştiğinde mimari, entegrasyon, güvenlik ve işletme soruları yerinde kalıyor.
Bu alandaki son yazılar
RAG'e karar verdiniz. Asıl iş şimdi başlıyor
RAG mı fine-tuning mi sorusu her yerde cevaplanıyor. Kararın ardından kalan üç soru — anahtar, model seçimi ve bütçe — hiçbir yerde.
Üçüncü MCP sunucusu makuldü, sonrakiler değildi
Ajana projenin dokümanını vermek için MCP doğru cevaptı. Proje sayısı artınca sunucuların kendisi bakım gerektiren bir yüke dönüştü.
AI ile self-review — neyi hızlandırıyor, nerede yetmiyor
'Niye' değil 'ne kadar' yazısı: tool workflow'a hangi katmanlarda giriyor, hangi bug pattern'lerini yakalıyor ve nerede sınırına dayanıyor.
Bu alanda geliştirdiklerim
Her projeye kendi MCP ucunu açan, dokümanı kendi sunucunda tutan çok kiracılı doküman sunucusu; embedding'ler CPU'da üretiliyor.
Şu an ne yapıyor
Bir projenin klasörünü, git deposunu, Obsidian kasasını ya da Notion çalışma alanını tek bir MCP ucunun arkasında aranabilir kılıyor; ajan dokümana ulaşırken veri üçüncü tarafa gitmiyor. Docker ile kurup panelden yöneten herkes kendi sunucusunda çalıştırabilir.
480 altıgende 60 turda biten, tarayıcıda çevrimdışı çalışan zarsız strateji oyunu çekirdeği; Regnarium olarak yayına çıktı.
Şu an ne yapıyor
480 altıgenlik haritada azami 60 turda biten bir 4X eli yürütüyor; kurallar, harita üretimi ve rakip yapay zekâ tek bir saf TypeScript çekirdeğinde, savaş zarsız. Elinde yarım saati olan ve strateji oynamak isteyen herkes tarayıcıdan açabilir.
Düğüm-çizgi bir tahtada deterministik hamlelerle ilerleyen, çevrimdışı bir bulmaca oyunu; 36+6 bölümü tek bir TypeScript çekirdeği web ve mobile besliyor.
Şu an ne yapıyor
Düğüm-çizgi bir tahtada 36 bölüm + 6 gizli bölümü, şans ya da refleks olmadan tamamen deterministik hamlelerle çözdürüyor; tek TypeScript çekirdeği web (PWA) ve mobil (iOS/Android) istemcisini aynı anda besliyor. silkward.com üzerinden tarayıcıdan oynanabilir.
Bu alanda üretime çıkan işler
Contextator
Devam ediyorFounder & Developer
Seviye: Ana OdakContextator, bir projenin dokümanını nerede duruyorsa oradan alıp — bağlı bir klasör, bir git deposu, yüklenmiş bir arşiv, bir Obsidian kasası ya da bir Notion çalışma alanı — tek bir MCP ucunun arkasında aranabilir kılan, kendi sunucunuzda çalışan çok kiracılı bir doküman sunucusudur. Her proje kendi URL'ini ve kendi doküman koleksiyonunu alır; embedding'ler varsayılan olarak makinenin CPU'sunda üretilir ve doküman üçüncü bir tarafa hiç gitmez.
Garajdaş
Devam ediyorFounder & Developer
Seviye: Aktif GeliştirmeGarajdaş, her araç marka-modelinin kendi kulübü olduğu, içten yanmalı ve elektrikli araçları aynı çatıda tutan bir topluluk platformudur. Tek bir API şeması web (Next.js) ve mobil (Expo/React Native) istemcisi tarafından paylaşılır, tasarım sistemi tek dosyada tanımlı ve elle senkronlanır. MVP fazları kapandı, API'de 97 test var; platform yayında.
BabelQueue
Devam ediyorFounder & Developer
Seviye: Ana OdakBabelQueue, farklı dillerde yazılmış servislerin aynı kuyruğu serileştirme kilidine takılmadan paylaşmasını sağlayan, dilden bağımsız bir mesaj kuyruğu standardıdır. PHP'nin serialize()'ı gibi dile özgü formatlar yerine; her dilin doğal olarak okuyabildiği, schema_version 1'de dondurulmuş katı bir JSON zarfı tanımlar. Redis ve RabbitMQ üzerinde, sidecar ya da broker eklentisi olmadan, %2'nin altında ek yük hedefiyle çalışır.
Bu alanda sorulanlar
Bu eksende 1 soru yanıtlandı.
LLM sağlayıcısını (Ollama → Bedrock/OpenAI) nasıl soyutlamalıyım?
Tek bir dar arayüz (complete(prompt, opts)) ve config ile seçilen üç implementasyon kurun; context penceresi, gecikme ve maliyeti config olarak taşıyın.
Birlikte kullandığım teknolojiler
-
Python
Model eğitimi, fine-tuning ve veri hazırlama işlerimin ana dili.
-
TypeScript
Sitedeki MCP doküman sunucusunu yazdığım dil.
-
Rust
Performansın ve bellek güvenliğinin belirleyici olduğu servis ve araçlarda kullandığım dil.
-
PyTorch
Model eğitimi, fine-tuning ve LoRA/PEFT ile uyarlama işlerinde kullandığım derin öğrenme framework'ü.
-
CUDA
Eğitim ve inference iş yüklerini GPU üzerinde çalıştırdığım NVIDIA platformu.
-
OpenAI Triton
Inference optimizasyonunda özel GPU kernel'ları yazmak için kullandığım dil ve derleyici.
-
NVIDIA Dynamo-Triton
Eğitilmiş modelleri bir API arkasında sunmak için kullandığım, eski adıyla NVIDIA Triton Inference Server olan model serving sunucusu.
-
Kubernetes
Model serving ve inference iş yüklerini container olarak dağıtıp ölçeklediğim orkestrasyon platformu.
-
pgvector
Vektör aramasını ayrı bir depoya taşımadan PostgreSQL içinde tutan eklenti; sitedeki AI gateway'de ve MCP sunucusunda kullandım.
-
Milvus
Büyük embedding koleksiyonlarında kullandığım dağıtık vektör veritabanı.
-
Chroma
Retrieval prototiplerinde hızla kurulan, gömülü çalışabilen vektör veritabanı.
-
Apache Kafka
Event-driven AI iş akışlarında ve veri hatlarında mesaj omurgası olarak kullandığım event streaming platformu.
-
TensorFlow
Model eğitimi işlerimde kullandığım derin öğrenme framework'ü.
-
Model Context Protocol
Doküman sunucusunun her projeye açtığı uç ve kitapta güven sınırı olarak ele alınan protokol.
-
Retrieval-Augmented Generation
Modelin cevabını dokümanlardan getirilen bağlamla kuran retrieval mimarisi; sitedeki AI gateway'in temel bileşenlerinden biri.
Sık sorulanlar
6 soru
-
Yapay zekâ sistemleriyle kaç yıldır çalışıyorsun?
2024'ten bu yana, 2 yıldır. Sitede bu alana etiketli 7 yazı var.
-
Yapay zekâ sistem mühendisliği derken neyi kastediyorsun?
Yapay zekâ modellerini gerçek yazılım sistemlerine entegre etmeyi, özelleştirmeyi, orkestre etmeyi ve güvenli, sürdürülebilir biçimde çalıştırmayı. Model yalnız bir bileşen; sağlayıcının, bütçenin, yetkinin, bağlamın ve değerlendirmenin nerede duracağı sistemin sorusu.
-
Bu uzmanlık yalnızca LLM entegrasyonu mu?
Hayır. Bir API'yi çağırmak ya da prompt yazmak disiplinin küçük bir kısmı. Yedi alan model özelleştirmeden agent orkestrasyonuna, veri hatlarından altyapıya, güvenlikten gözlemlenebilirliğe uzanıyor.
-
RAG kararından sonra ne kalıyor?
Retrieval'ın cevaplamadığı sorular: sağlayıcı anahtarı nerede duracak, hangi uygulama hangi modeli kullanacak, harcama nerede kesilecek, kalite nasıl ölçülecek. Bunları modelin dışındaki sistem katmanında çözüyorum.
-
Bir AI agent'a neden güvenmiyorsun?
Modelin bazen yanılacağını varsayıp tasarımı buna göre kuruyorum: model öneriyor, kod karar veriyor. Araçlar dar tanımlanıyor, geri alınamaz eylemler insan onayına bağlanıyor.
-
MCP sunucusunu proje başına mı kurmalıyım?
Çoğalması gereken sunucu sayısı değil, uç ve yetki sınırı. Bir MCP sunucusu bağlamak bir güven sınırı açmak olduğu için her proje kendi ucunu ve kendi yetkisini almalı; aynı sunucu bunu birden çok uçla taşıyabilir.
Birlikte çalışalım
Bu ekosistemde bir işiniz varsa, ne yaptığınızı anlatın; nasıl kurulacağını konuşalım.