AITOT

Kalkulator

Kalkulator Sewa GPU

Bandingkan biaya sewa GPU per jam/bulan antar cloud, spot vs on-demand, dan biaya listrik.

Harga diperbarui:

AITOT GPU Pricing Calculator membandingkan tarif per jam/bulan untuk NVIDIA H100, H200, A100, B200, RTX 5090 dan GPU consumer di 12 provider cloud.

H100 80GB dari $1.85/jam spot (Vast.ai) hingga $7.20/jam Azure on-demand — spread 4×. RunPod community $2.49/jam dan Lambda Labs $2.99/jam adalah sweet-spot. Hyperscaler menang untuk workload regulated.

Toggle "include power cost" untuk menambah listrik. H100 di 700W dengan $0.12/kWh ~$61/bulan 24/7.

Termurah · On-demand

Hyperbolic · H100-SXM

$1,072.80

/bulan · 720 h

ProviderPer jamKomputasi / bulanTotal / bulan
HyperbolicSXM5 (spot-style)· Spot-style; community reliability$1.49$1,072.80$1,072.80
Vast.aiSXM5· 24h median$2.40$1,728.00$1,728.00
CrusoeSXM5 HGX$2.65$1,908.00$1,908.00
Lambda LabsSXM5$2.99$2,152.80$2,152.80
RunPodSXM5$3.29$2,368.80$2,368.80
CoreWeaveSXM5 HGX$3.30$2,376.00$2,376.00
PaperspaceSXM5$5.95$4,284.00$4,284.00
GCPSXM5 (A3)· A3 ÷ 8$11.06$7,963.20$7,963.20
AWSSXM5 HGX (8-GPU)· p5.48xlarge ÷ 8 GPUs$12.29$8,848.80$8,848.80
AzureSXM5 (NDH100v5)· ND H100 v5 ÷ 8$12.96$9,331.20$9,331.20

Harga spot adalah median 30 hari dan bisa melonjak. Community-tier kurang andal dibandingkan secure-spot — jangan dipakai untuk training produksi tanpa checkpoint.

Yang dilakukan kalkulator ini

12 GPU cloud dibandingkan

AWS, GCP, Azure, RunPod, Lambda, Vast.ai, CoreWeave, Together, Replicate, Modal, Banana, Paperspace.

Spot vs on-demand

Kedua tier berdampingan. Spot hemat 50-70% pada H100.

Toggle biaya listrik

Tambah listrik pada $/kWh × TDP. Kritis untuk break-even self-host.

Filter VRAM-compatible

Tool tandai GPU yang tidak muat model Anda.

Per jam + bulanan

Masukkan utilization untuk lihat biaya bulanan realistis.

Diskon reserved

AWS, GCP, Azure 1-yr reserved termasuk. Hemat 30-40%.

Perbandingan cepat

Tarif H100 80GB per jam di provider utama

ProviderSpot / CommunityOn-DemandCatatan
Vast.ai$1.85$2.20Marketplace community
RunPod Community$2.49Bare containers
Lambda Labs$2.49$2.99Reliable; DX baik
RunPod Secure$3.99SOC 2; production
CoreWeave$3.50DC high-end
GCP$4.40$5.50A3 instance
AWS$4.91$5.45p5.48xlarge per-GPU
Azure$7.20NC H100 v5

Cara menggunakan kalkulator

Temukan sewa GPU termurah untuk workload AI di 12 provider.

  1. 1

    Pilih GPU dan model

    Pilih H100, H200, A100, atau RTX 5090.

  2. 2

    Set jam utilization

    Jam bulanan (160h part-time, 730h 24/7).

  3. 3

    Pilih tier pricing

    Toggle spot vs on-demand.

  4. 4

    Tambah biaya listrik

    Untuk self-host, aktifkan modeling kWh lokal.

Kenapa pakai kalkulator ini

  • 12 GPU cloud diperbarui bulanan
  • Pricing spot + on-demand + reserved
  • Modeling biaya listrik
  • Cek kompatibilitas VRAM
  • Mencakup provider community
  • Tanpa login

Pertanyaan yang sering diajukan

Berapa biaya H100 per jam di 2026?+
H100 80GB dari $1.85/jam di spot (Vast.ai) hingga $2.49/jam di RunPod community, $3.99/jam RunPod Secure Cloud, $4.50–$7.20/jam di AWS, GCP, Azure on-demand. Reservasi 1 tahun di hyperscaler turun ke $3.10–$3.50/jam.
Apakah RunPod lebih murah dari AWS untuk GPU?+
Ya — biasanya 40–60% lebih murah untuk H100 dan A100. RunPod community $2.49/jam H100; AWS p5.48xlarge $4.91/jam per H100 setara. AWS termasuk VPC, IAM, integrasi S3; RunPod cuma container bare. Untuk training/stateless inference, RunPod menang. Workload regulated: hyperscaler menang.
Spot vs on-demand GPU pricing?+
Spot hemat 50–70% tapi instance bisa di-preempt kapan saja. Bagus untuk training fault-tolerant (checkpoint tiap 10 menit) dan batch inference. Hindari untuk serving produksi atau training kritis tanpa strategi checkpoint.
Apakah kalkulator menyertakan biaya listrik GPU self-host?+
Ya — toggle "include power cost" untuk menambah listrik dengan $/kWh × TDP GPU. H100 di 700W dengan $0.12/kWh ~$61/bulan running 24/7. Sering terlupakan di hitungan break-even self-host.
Kapan beli GPU mengalahkan sewa?+
Untuk H100 capex $30,000 dan cloud rate $2.50/jam, break-even ~12,000 jam utilization — sekitar 16 bulan 24/7. Tambah listrik, pendingin, colo. Mayoritas underutilize GPU yang dibeli dan rugi. Sewa kecuali ada utilization steady-state >80%.
Bisakah run open-weight model 70B di satu GPU?+
Model 70B di FP16 butuh ~140GB VRAM — satu H100 (80GB) tak cukup. Pakai 2× H100, 1× H200 (141GB), atau quantize int4 untuk muat satu GPU 80GB. Kalkulator menandai pasangan GPU + model tak kompatibel VRAM.