Satın Alma

GPU Kiralarken Sorulacak 10 Soru

GPU teklifi karşılaştırırken yalnızca aylık rakama veya kart adına bakmak, projenin gerçek maliyetini gizleyebilir. Aşağıdaki on soru; kapasite, güvenlik, yazılım ve destek kapsamını aynı çerçevede konuşmanıza yardımcı olur. Her sağlayıcıya aynı soruları sorarsanız teklifleri daha adil biçimde kıyaslayabilirsiniz.

1. GPU dedike mi, paylaşımlı mı? Dedike kaynak, başka müşterilerin yoğunluğundan etkilenme riskini azaltır. Paylaşımlı modelde ise GPU zamanı veya belleği nasıl bölüştürülüyor, performans sınırı nasıl ölçülüyor öğrenin.
2. VRAM modelim için yeterli mi? Model ağırlıkları tek başına yeterli hesap değildir. Context, KV cache, batch, framework ve işletim payını da hesaba katın; sağlayıcıdan gerçek modelinizle kısa bir kapasite testi isteyin.
3. CPU, RAM ve disk kapasitesi nedir? Veri hazırlama, tokenizer, Docker imajı ve checkpoint işlemleri GPU dışındaki kaynaklara dayanır. Çekirdek, RAM, NVMe ve büyütme seçeneklerini teklif üzerinde ayrı görün.
4. Veri merkezi ve ağ lokasyonu nerede? Fiziksel lokasyon, gecikme, erişim ve veri yönetişimi açısından önemlidir. Yedeklerin, izleme servislerinin ve destek erişiminin de hangi bölgede olduğunu sorun.
5. CUDA, driver ve Docker kurulumu dahil mi? Kartı teslim almak ile çalışır bir ortam teslim almak farklıdır. Sürüm listesi, GPU görünürlük testi, PyTorch/vLLM kurulumu ve sorumluluk sınırı yazılı olmalıdır.
6. Minimum kiralama süresi nedir? Pilotun beklenenden kısa sürmesi veya uzaması mümkündür. Başlangıç, uzatma, erken sonlandırma ve kapasite değişikliği koşullarını önceden öğrenin.
7. Yedekleme ve veri silme nasıl yapılır? Yedek var mı, ne kadar saklanıyor, kim erişiyor ve hizmet bitince hangi kopyalar siliniyor? Hassas verilerde silme prosedürünün kanıtlanabilir olması önemlidir.
8. Teknik destek hangi kapsamda veriliyor? Ağ sorunu, GPU hatası, driver uyumsuzluğu, container kurulumu ve model optimizasyonu aynı destek kalemi değildir. Yanıt süresini ve kapsam dışı işleri ayırın.
9. Fiyat hangi koşullarda değişir? KDV, kur, disk, CPU/RAM, kurulum, trafik ve özel ağ bedellerinin dahil olup olmadığını kontrol edin. “Başlangıç fiyatı” ile nihai proje teklifini karıştırmayın.
10. İhtiyaç artarsa geçiş mümkün mü? Model veya trafik büyüdüğünde A100'e, H100'e ya da birden fazla GPU'ya geçişin nasıl yapılacağını sorun. Disk ve ağ yapısının taşınabilir olması geçiş süresini kısaltabilir.

Teklifleri aynı formatta isteyin

Her sağlayıcıdan GPU, VRAM, CPU, RAM, disk, lokasyon, kurulum, destek, minimum süre ve vergi bilgisini aynı tabloda vermesini isteyin. Kullanım amacınızı da açık yazın: düşük trafikli inference, uzun fine-tuning, embedding batch'i veya üretim API'si. Böylece bir sağlayıcının yalnızca GPU'yu, diğerinin ise tam sunucu paketini fiyatladığı durumları fark edebilirsiniz.

Teklifte belirsiz kalan her kalem, teslimden sonra ek süre veya ek ücret olarak geri dönebilir. Özellikle kurulum, veri taşıma, yedekleme, IP, güvenlik duvarı ve destek saatleri yazılı değilse karar vermeden önce açıklama isteyin.

Karşılaştırma notuna teklifin geçerlilik tarihini ve kapasitenin ne zamana kadar rezerve edildiğini de ekleyin. GPU bulunabilirliği, kur ve proje takvimi değişebilir; bugün görünen bir seçenek birkaç hafta sonra aynı koşullarda bulunmayabilir. Yazılı bir özet, hem satın alma onayını hem de teknik ekibin teslim beklentisini aynı hizaya getirir.

Küçük bir kabul testi ekleyin

Sunucu teslim edildiğinde hedef modele yakın bir inference veya kısa eğitim adımı çalıştırın. GPU görünürlüğü, VRAM, disk yazma, ağ erişimi, yeniden başlatma ve loglama kontrollerini kayda alın. Satın alma kararını gerçek iş yüküyle doğrulamak, yalnızca teknik özellik listesine güvenmekten daha değerlidir.

Kısa cevap: En ucuz GPU, kapsamı belirsizse en ucuz çözüm olmayabilir. Bu on soruyu teklif formuna ekleyin; OMAY'a da model, trafik ve süre bilgilerini iletin, karşılaştırılabilir bir plan hazırlayalım.