Uzmanlık
Kubernetes mühendisi — 2020'den beri
2020'den beri Kubernetes ile container çalıştırıyorum; model serving ve inference iş yükleri de bunun içinde.
- yıl
- 6
Kubernetes ekosisteminde ben
Kubernetes, Docker ile paketlenen uygulamanın birden çok makinede nasıl ayakta kalacağı sorusunun cevabı benim için: nerede çalışacağı, kaç kopya olacağı ve düştüğünde ne olacağı tarif edilen durumdan okunuyor. Bu işin rol tarafı DevOps ve altyapı sayfasında.
Kubernetes iki rolün kesişiminde duruyor. Altyapı tarafında Linux sunucuların üstünde container’ları yöneten katman; yapay zekâ sistemleri tarafında ise model serving ve inference iş yüklerini container olarak dağıtıp ölçeklediğim platform. O tarafı Yapay Zekâ Sistemleri sayfasında ayrıca anlatıyorum.
Kubernetes’in çözdüğü şey ölçekleme ve yeniden başlatma; uygulamanın nasıl paketlendiği sorusu ise Docker sayfasında.
Kubernetes Mühendisi nedir?
Kubernetes, container'laştırılmış iş yüklerini ve servisleri yönetmek için kullanılan taşınabilir, genişletilebilir, açık kaynaklı bir platformdur. Ölçekleme ve hata durumunda yeniden başlatma gibi işleri üstlenir. Kubernetes mühendisi, container'ların çalıştığı bu katmanı kuran ve işleten kişidir.
Kubernetes Mühendisi ne iş yapar?
Kubernetes'i container'ları birden çok makinede çalıştırdığım, ölçeklediğim ve yeniden başlattığım orkestrasyon katmanı olarak kullanıyorum. Model serving ve inference iş yükleri de bunun içinde: eğitilmiş modelleri NVIDIA Dynamo-Triton ile bir API arkasında sunuyorum. Uygulama [Docker](/tr/uzmanlik/docker/) image'ı olarak geliyor.
Birlikte kullandığım teknolojiler
-
Kubernetes
Container'ları birden çok makinede çalıştırdığım, ölçeklediğim ve yeniden başlattığım orkestrasyon katmanı; model serving ve inference iş yükleri dahil.
-
Docker
Geliştirme ortamı ve dağıtım paketi.
-
Linux
Uygulamaların çalıştığı sunucu işletim sistemi.
-
Terraform
Altyapıyı kodla tarif edip tekrarlanabilir biçimde kurmak için.
-
GitHub Actions
Test ve deploy adımlarını repoda tanımlayan CI/CD hattı.
-
NVIDIA Dynamo-Triton
Eğitilmiş modelleri bir API arkasında sunmak için kullandığım, eski adıyla NVIDIA Triton Inference Server olan model serving sunucusu.
Bu alanda sorulanlar
Sık sorulanlar
7 soru
-
Kubernetes ile kaç yıldır çalışıyorsun?
2020'den bu yana, 6 yıldır.
-
Kubernetes nedir?
Kubernetes, container'laştırılmış iş yüklerini ve servisleri yönetmek için taşınabilir, genişletilebilir, açık kaynaklı bir platform. Dağıtık sistemleri dayanıklı çalıştırmak için bir çatı sunar; ölçekleme ve hata durumunda yeniden başlatmayı üstlenir.
-
Kubernetes ne işe yarar?
Kubernetes'in belgesine göre servis keşfi ve yük dengeleme, otomatik yayına alma ve geri alma, kaynak yerleştirme, hatalı container'ı yeniden başlatma ve yatay ölçekleme sunar. Ben bunu container'ları birden çok makinede çalıştırmak, ölçeklemek ve yeniden başlatmak için kullanıyorum.
-
Docker ile Kubernetes arasındaki fark nedir?
Docker uygulamayı ve ortamını bir container olarak paketler; Kubernetes bu container'ları birden çok makinede çalıştırmayı, ölçeklemeyi ve yeniden başlatmayı yönetir. İlki paketleme, ikincisi orkestrasyon sorusu.
-
Kubernetes'te hangi iş yüklerini çalıştırıyorsun?
Container olarak paketlenen uygulamaları ve model serving ile inference iş yüklerini. Eğitilmiş modelleri bir API arkasında sunmak için NVIDIA Dynamo-Triton'u kullanıyorum.
-
Kubernetes ile Terraform arasındaki fark nedir?
Kubernetes container'ları çalıştırır, ölçekler ve yeniden başlatır; Terraform ise altyapıyı kodla tarif edip tekrarlanabilir biçimde kurmak için kullanılır. İkisi farklı sorulara cevap verir ve birlikte kullanılabilir.
-
Kubernetes öğrenmeye nereden başlamalı?
Kubernetes container'ları yönettiği için önce container'ın ne olduğunu anlamak gerekiyor. Docker'ı anlattığım sayfa ve blogdaki Docker rehberi bu yüzden iyi bir ilk adım.
Birlikte çalışalım
Bu ekosistemde bir işiniz varsa, ne yaptığınızı anlatın; nasıl kurulacağını konuşalım.