Yapay zeka sunucusu, makine öğrenmesi modellerinin eğitildiği (training), ince ayar yapıldığı (fine-tuning) ve çalıştırıldığı (inference) GPU donanımlı bir sunucudur. Saatlik faturalanan bulut GPU'ları uzun süreli işlerde hızla pahalılaşır; kendi kiralık GPU sunucunuzda sabit maliyetle 7/24 deney yaparsınız.
Hangi AI İş Yükleri Çalışır?
LLM Çalıştırma (Inference)
Llama, Mistral, Qwen gibi açık modelleri Ollama veya vLLM ile kendi sunucunuzda barındırırsınız. Verileriniz üçüncü taraf API'lere gitmez; KVKK hassasiyeti olan kurumlar için kritik avantajdır.
Fine-Tuning ve Eğitim
LoRA/QLoRA ile açık modelleri kendi verinizle özelleştirebilir, klasik ML modellerinizi (PyTorch, TensorFlow) GPU hızında eğitebilirsiniz.
Görüntü ve Ses
Stable Diffusion/Flux ile görsel üretim, Whisper ile ses tanıma, video analiz hatları; hepsi GPU sunucuda yüksek verimle çalışır.
Donanım Neden Önemli?
AI iş yüklerinde üç darboğaz vardır: GPU VRAM'i (model boyutunu belirler), sistem RAM'i ve disk hızı (veri kümelerinin yükleme hızı). Sunucularımız RTX 6000 sınıfı GPU'lar, DDR5 RAM ve Gen4/Gen5 NVMe disklerle bu üç darboğazı birden çözer. 7B modeller 8-16 GB VRAM ile, 70B modeller quantization ile 48 GB VRAM'de çalıştırılabilir.
Bulut API mi, Kendi Sunucunuz mu?
Düşük hacimli kullanımda hazır API'ler pratiktir; ancak sürekli inference, veri gizliliği gereksinimi veya yoğun deney süreci varsa kendi GPU sunucunuz hem daha ekonomik hem daha kontrollüdür. Sabit aylık maliyetle sınırsız istek işlersiniz.
Saatlik bulut GPU maliyetlerine takılmadan, sabit fiyatlı GPU sunucunuzla dilediğiniz kadar deney yapın.
Sık Sorulan Sorular
Hangi GPU'lar mevcut?
RTX 6000 sınıfı profesyonel kartlar başta olmak üzere farklı VRAM seçenekleri sunuyoruz; iş yükünüze göre canlı destekte netleştirelim.
CUDA ve sürücüler kurulu geliyor mu?
Talebinize göre NVIDIA sürücüleri, CUDA ve Docker (nvidia-container-toolkit) kurulu teslim edebiliriz.
70B model çalıştırabilir miyim?
Quantized (GGUF/AWQ) olarak 48 GB VRAM'li konfigürasyonlarda evet; tam hassasiyette çoklu GPU gerekir, birlikte planlayalım.
Verilerim güvende mi?
Sunucu tamamen size aittir; verileriniz üçüncü taraf API'lere gitmez, Tier III veri merkezinde Türkiye'de barındırılır.
Saatlik mi aylık mı?
Aylık sabit fiyatla sunulur; uzun eğitim ve sürekli inference senaryolarında saatlik bulut GPU'lardan belirgin şekilde ekonomiktir.