Uzmanlık
PyTorch geliştiricisi — eğitimden sunuma, 2024'ten beri
2024'ten beri PyTorch'ta model eğitiyor, fine-tuning ve LoRA/PEFT ile uyarlıyorum; eğitilen modeli bir API arkasında sunmaya uzanan yol da işimin içinde.
- yıl
- 2
PyTorch ekosisteminde ben
PyTorch, modelin kendisine dokunduğum yer: eğitim, fine-tuning ve LoRA/PEFT ile uyarlama. Eğitimin çıktısı orada bitmiyor: modeli bir API arkasında sunmaya uzanan yol da yapay zekâ sistem mühendisliği işimin parçası.
Framework’ün çevresinde iki araç duruyor: ana dilim Python, GPU tarafı CUDA. TensorFlow da model eğitimi işlerimde yer alıyor; ikisini birbirinin karşıtı olarak değil, işe göre seçtiğim araçlar olarak görüyorum.
Bu sayfa 2024’ten bu yana yaptığım işi anlatıyor, daha eskisini değil.
PyTorch Geliştirici nedir?
PyTorch, Python ile kullanılan açık kaynaklı bir derin öğrenme framework'üdür: tensör işlemleri, otomatik türev alma ve eğitim döngüsü için gereken yapı taşlarını sunar. PyTorch geliştiricisi, bu yapı taşlarıyla modeli tanımlayan, eğiten ve uyarlayan kişidir.
PyTorch Geliştirici ne iş yapar?
PyTorch'u model eğitimi, fine-tuning ve LoRA/PEFT ile uyarlama işlerinde kullanıyorum. Eğitim iş yükünü GPU üzerinde CUDA ile çalıştırıyor, eğitilen modeli bir API arkasında sunmak için serving katmanına taşıyorum.
Birlikte kullandığım teknolojiler
-
PyTorch
Model eğitimi, fine-tuning ve LoRA/PEFT ile uyarlama işlerinde kullandığım derin öğrenme framework'ü.
-
Python
Model eğitimi, fine-tuning ve veri hazırlama işlerimin ana dili.
-
CUDA
Eğitim ve inference iş yüklerini GPU üzerinde çalıştırdığım NVIDIA platformu.
-
OpenAI Triton
Inference optimizasyonunda özel GPU kernel'ları yazmak için kullandığım dil ve derleyici.
-
NVIDIA Dynamo-Triton
Eğitilmiş modelleri bir API arkasında sunmak için kullandığım, eski adıyla NVIDIA Triton Inference Server olan model serving sunucusu.
-
TensorFlow
Model eğitimi işlerimde kullandığım derin öğrenme framework'ü.
Sık sorulanlar
7 soru
-
PyTorch ile kaç yıldır çalışıyorsun?
2024'ten bu yana, 2 yıldır.
-
PyTorch geliştirici ne iş yapar?
Modeli PyTorch'ta tanımlar, eğitir ve uyarlar: veriyi hazırlar, eğitim döngüsünü kurar, sonucu değerlendirir. Bende bu; model eğitimi, fine-tuning ve LoRA/PEFT ile uyarlama işleri demek.
-
PyTorch ile TensorFlow arasındaki fark ne?
İkisi de derin öğrenme framework'ü. Model eğitimi işlerimde ikisini de kullanıyorum; bu sayfada PyTorch'u, [TensorFlow sayfasında](/tr/uzmanlik/tensorflow/) onu anlatıyorum. Hangisinin daha iyi olduğuna dair bir iddiam yok; seçimi işin kendisinin belirlediğini düşünüyorum.
-
LoRA ve PEFT nedir, neden kullanıyorsun?
PEFT (parameter-efficient fine-tuning), bir modelin tüm ağırlıklarını güncellemek yerine küçük bir parça kümesini eğiten yöntemlerin genel adı; LoRA bunlardan biri. Hazır bir modeli kendi işime uyarlarken bu yolu kullanıyorum.
-
PyTorch'u GPU üzerinde mi çalıştırıyorsun?
Evet. Eğitim ve inference iş yüklerini GPU üzerinde, NVIDIA'nın CUDA platformuyla çalıştırıyorum; ayrıntısı [CUDA sayfasında](/tr/uzmanlik/cuda/).
-
PyTorch'ta eğittiğin modeli nasıl sunuyorsun?
Eğitilmiş modelleri bir API arkasında sunmak için NVIDIA Dynamo-Triton kullanıyorum; eski adı NVIDIA Triton Inference Server. Inference optimizasyonunda özel GPU kernel'ları gerektiğinde OpenAI Triton ile yazıyorum.
-
PyTorch'u hangi dille kullanıyorsun?
Python ile. Model eğitimi, fine-tuning ve veri hazırlama işlerimin ana dili Python; dilin kendisi için [Python sayfasına](/tr/uzmanlik/python/) bakabilirsiniz.
Birlikte çalışalım
Bu ekosistemde bir işiniz varsa, ne yaptığınızı anlatın; nasıl kurulacağını konuşalım.