Maliyet

Aylık mı Saatlik mi GPU?

Aylık ve saatlik GPU arasında doğru seçim, yalnızca iki fiyatı bölmekle yapılmaz. Sunucunun kaç saat çalışacağı, kurulumun kaç kez tekrarlanacağı, verinin ne kadar süre tutulacağı, modelin sürekli servis verip vermeyeceği ve ekibin operasyon yükü birlikte hesaplanmalıdır. Kısa bir benchmark ile sürekli çalışan inference servisi aynı kiralama mantığına sahip değildir.

Saatlik model ne zaman avantajlıdır?

Saatlik kullanım, henüz iş yükünü tanımayan veya birkaç saatlik hesaplama penceresine ihtiyaç duyan ekipler için esneklik sağlar. Bir kütüphaneyi denemek, modelin belleğe sığıp sığmadığını görmek, küçük bir benchmark çalıştırmak ya da tek seferlik bir batch işini tamamlamak buna örnektir. İş bittiğinde kapasiteyi kapatmak mümkünse kullanılmayan saatlerin bedeli oluşmaz.

Bunun karşılığında her açılışta hazırlık ve kontrol maliyeti vardır. Container imajının çekilmesi, veri setinin taşınması, ortam değişkenlerinin ayarlanması ve sonuçların güvenli biçimde dışarı alınması saatlik kullanımda gözden kaçan sürelerdir. Saatlik fiyat düşük görünse bile bu tekrarlar ekip zamanını tüketebilir.

Aylık model ne zaman daha sağlıklıdır?

Model servisinin gün boyunca açık kalması, fine-tuning işinin haftalar sürmesi veya ekibin aynı çalışma ortamına düzenli dönmesi bekleniyorsa aylık kiralama daha öngörülebilir bir yapı sunar. Diskte dataset, checkpoint, Docker imajı, notebook ve loglar korunur; ekip her oturumda aynı kurulumu baştan yapmak zorunda kalmaz.

• Üretim inference API'si veya chatbot günün çoğunda çalışıyorsa
• Fine-tuning ve değerlendirme döngüsü birden fazla haftaya yayılıyorsa
• Kurulumun her seferinde tekrarlanması veri ve ekip riski yaratıyorsa
• İş yükü düzenli ve kapasite ihtiyacı önceden tahmin edilebiliyorsa

Basit bir eşik hesabı yapın

Saatlik fiyatı beklenen aylık çalışma saatiyle çarpın; ardından veri aktarımı, disk, kurulum ve destek gibi kalemleri ekleyin. Aylık teklifin aynı kapsamla karşılaştırılabilmesi için yalnızca GPU bedelini değil, CPU, RAM, NVMe, lokasyon ve yazılım kurulumunu da eşitleyin. İki seçenek birbirine yaklaşıyorsa karar artık sadece matematik değil; ortamın korunması, destek ve kapasite değişimi gibi operasyonel faydalar üzerinden verilir.

Bu hesabı yaparken GPU'nun 7/24 açık kalacağını varsaymak da doğru değildir. Uygulama gece kapatılabiliyor, batch işleri belirli günlerde çalışıyor veya ekip yalnızca mesai saatlerinde test yapıyorsa kullanım profili farklı çıkar. Bir haftalık gerçekçi ölçüm, tahminden daha değerlidir.

Taşınabilirlik ve çıkış koşulları

Aylık kiralamada ekip ortamı sunucuya bağladıkça çıkış planı önem kazanır. Model ağırlıkları, veri seti, sonuçlar ve özel Docker imajları hangi formatta teslim edilecek? Sonlandırma için kaç gün önce bildirim gerekiyor? Kapasite büyütüldüğünde yeni GPU'ya geçiş sırasında disk nasıl taşınacak? Bu sorular sözleşme ve teklif aşamasında cevaplanmalıdır.

Bir pilot için en güvenli yöntem, ilk haftayı ölçüm dönemi olarak kabul etmektir. Bu dönemde gerçek çalışma saatlerini, veri transfer süresini, GPU boşta kalma oranını ve ekip müdahalelerini kaydedin. Sonraki ay için aylık pakete geçmek, saatlik kullanımda kalmak veya daha küçük bir karta inmek daha kolay olur. Böyle bir karar, tahmini kullanım yerine projenin kendi davranışına dayanır ve bütçe görüşmesini de somutlaştırır.

Özellikle ekip birden fazla şehirden çalışıyorsa erişim ve destek saatlerini de maliyet hesabına katın. Her açılışta beklenen bir sunucu, kâğıt üzerinde ucuz olsa bile teslim takvimini uzatabilir. Aylık modelin süreklilik avantajı, bu görünmeyen beklemeleri azaltarak teknik ekibin aynı ortama güvenle dönmesini sağlar.

Kısa cevap: Saatlik GPU kısa ve ölçülebilir denemelerde, aylık GPU ise sürekli servis ve uzun süren projelerde daha mantıklıdır. Gerçek kullanım saatini, kurulum tekrarlarını ve veri yaşam döngüsünü birlikte hesaplayın.