Chi phí thuê H100 GPU theo tháng 2026: Hướng dẫn giá thực
Thuê H100 SXM5 theo tháng 2026: từ $1,070 (Vast.ai spot, 720h) đến $8,855 (AWS p5 on-demand). Phép tính giờ-sang-tháng đầy đủ trên 12 provider.
H100 GPU thuê từ $1,070 đến $8,855 mỗi tháng năm 2026 — chênh 8× cho cùng phần cứng. Option rẻ nhất là GPU cloud chuyên dụng (RunPod, Vast.ai, Lambda Labs, Hyperbolic); đắt nhất là hyperscaler (AWS, GCP, Azure). Hướng dẫn này hiển thị phép tính tháng cho 12 provider và giải thích khi nào mỗi cái thắng. Cho tính chi phí giờ-sang-tháng real-time, dùng GPU Pricing Calculator của chúng tôi.
Cho quyết định thuê H100 tháng, lựa chọn hiếm khi chỉ là giá theo giờ. Nó đi xuống: bạn cần hyperscaler ecosystem (VPC, IAM, compliance certification) hay chỉ giờ H100 thô?
H100 thực sự tốn bao nhiêu mỗi tháng 2026?
Tính chi phí tháng (730 giờ = 24h × 30.4 ngày, tháng billing cloud chuẩn):
| Provider | $/giờ | $/tháng | Ghi chú |
|---|---|---|---|
| Vast.ai (spot) | $1.80 | $1,314 | Giá spot trung vị 24h |
| Hyperbolic | $1.49 | $1,088 | Phong cách spot; reliability community |
| RunPod Community (spot) | $1.65 | $1,205 | Uptime 50%+, risk eviction |
| RunPod Community (on-demand) | $2.39 | $1,745 | On-demand cấp community |
| Vast.ai (on-demand) | $2.40 | $1,752 | Trung vị 24h |
| RunPod Secure | $2.99 | $2,183 | Tỷ lệ giá-reliability tốt nhất |
| Lambda Labs | $2.99 | $2,183 | On-demand thuần |
| CoreWeave | $3.30 | $2,409 | Enterprise; thường chỉ contract |
| Paperspace | $5.95 | $4,344 | Premium UI consumer-friendly |
| GCP A3 (us-central1) | $11.06 | $8,074 | Per-GPU từ node 8-GPU |
| AWS p5 (us-east-1) | $12.29 | $8,972 | Per-GPU từ p5.48xlarge |
| Azure ND-H100-v5 | $12.96 | $9,461 | Per-GPU |
Chênh 8.7× giữa Vast.ai spot ($1,314) và Azure on-demand ($9,461) là thật. Hyperscaler charge premium 4-7× cho cùng silicon H100 vì họ bundle enterprise networking, IAM, compliance, và regional redundancy mà cloud chuyên dụng không có.
Khi nào giá H100 hyperscaler đáng?
Ba scenario bạn nên trả premium AWS/GCP/Azure:
1. Data residency và compliance
Nếu dữ liệu training ở S3 với ràng buộc regulatory (HIPAA, FedRAMP, GDPR với residency EU strict), chạy compute trên cloud khác incur cross-cloud egress và có thể vi phạm compliance. Thuê GPU hyperscaler giữ mọi thứ bên trong compliance envelope hiện có.
2. Yêu cầu enterprise VPC
Workload production trong VPC private với chính sách networking strict thường không thể kết nối GPU cloud chuyên dụng qua public internet. Tích hợp hyperscaler đôi khi là con đường duy nhất.
3. Có sẵn committed-use discount
Nếu bạn có AWS Enterprise Discount Program (EDP) hoặc commit GCP CUD, rate H100 hiệu dụng có thể đã được discount 30-50%. RunPod hoặc Vast.ai có thể không thực sự rẻ hơn sau khi tính tiết kiệm committed.
Cho mọi thứ khác — nghiên cứu, fine-tuning, batch inference, thử nghiệm startup — GPU cloud chuyên dụng thắng quyết định về chi phí.
Spot vs on-demand cho H100 dùng tháng
Phép tính giá spot cho AWS p5 trong 30 ngày:
On-demand: 730 × $12.29 = $8,972
Spot (giảm 50%): 730 × $6.40 = $4,672
Tiết kiệm: $4,300/tháng
Nhưng tính eviction risk:
- AWS Spot evict trung bình mỗi 1-3 ngày
- Mỗi eviction = thời gian recovery checkpoint, mất ~5-10 phút
- Net uptime hiệu dụng: ~85-95% so quảng cáo
- Chi phí thực điều chỉnh: $4,672 / 0.90 = $5,191/tháng
Ngay cả khi điều chỉnh cho overhead eviction, spot tiết kiệm $3,800/tháng trên AWS. Phép tính ổn cho mọi workload có checkpoint đúng (training, batch inference). Cho real-time HTTP serving, spot quá volatile.
Trên cloud chuyên dụng (RunPod, Vast.ai), giá on-demand đã thấp đến mức tiết kiệm spot khiêm tốn về tuyệt đối — có thể $500-1000/tháng tiết kiệm thêm.
Có nên reserve 1 năm?
Giá AWS p5 Reserved Instance standard 1 năm:
On-demand: 730 × $12.29 = $8,972/tháng
Reserved (1 năm, partial upfront): 730 × $7.50 = $5,475/tháng
Reserved (1 năm, all upfront): hiệu dụng $5,000/tháng
Reserved hòa vốn ở:
Utilization > 70% sustained suốt năm
Nếu bạn thực sự chạy H100 24/7 cho 12 tháng, reservation tiết kiệm $40-50k/năm mỗi GPU. Nếu chạy sporadic (nghiên cứu, batch job), reservation strand capacity và hiệu dụng tốn hơn on-demand. Phần lớn team over-commit reservation — tính utilization trước khi ký.
GCP Committed Use Discount (CUD) hoạt động tương tự. Azure Reserved VM Instance (RI) phép tính discount tương tự nhưng cancellation linh hoạt hơn.
Chi phí ẩn nào ăn vào hóa đơn H100 tháng?
Năm line item compound rate niêm yết:
1. Storage
Instance H100 thường gồm 1-2TB NVMe local + bạn sẽ gắn 100GB-1TB persistent storage. EBS gp3 trên AWS: ~$0.08/GB-tháng. Volume 1TB gắn: $80/tháng. Snapshot và backup thêm 20-50%.
2. Egress bandwidth
Cross-AZ: $0.01/GB. Cross-region: $0.02-0.04/GB. Internet egress: $0.09/GB. Cho workload inference stream output đến user, egress có thể thêm trăm đô/tháng. Self-host Llama serve 100M output token/tháng tạo ~50GB egress ở $0.09 = $4.50 — không đáng kể. Workload audio/video gen có thể chạm $1000+ egress dễ dàng.
3. Networking giữa node
Cho training multi-GPU yêu cầu NVLink hoặc InfiniBand giữa node, hyperscaler charge surcharge networking premium. Instance AWS EFA-enabled đắt hơn 10-15%. Cloud chuyên dụng thường include networking bandwidth cao trong giá niêm yết.
4. Idle time
H100 đắt nhất là cái chạy không có traffic. Workflow nghiên cứu điển hình dùng GPU 8-10 giờ/ngày, idle 14-16 giờ. Không có auto-shutdown, bạn trả full on-demand cho idle time. Dùng scheduled shutdown, queue-based job execution, hoặc spot pricing để tránh lãng phí.
5. Snapshot và image storage
AMI tùy chỉnh và container image cho môi trường ML là 10-50GB. Chi phí retention snapshot tích tụ. Lên kế hoạch $50-200/tháng cho image storage trên project chạy dài.
Cho forecast chi phí toàn diện nắm được những cái này, dùng GPU Pricing Calculator. Cho mô hình chi phí GPU + inference + storage kết hợp, xem Agent Dev Cost Calculator.
H100 reliable rẻ nhất theo tháng là gì?
Theo loại workload:
Cho inference serving sustained (24/7, real user)
Thắng: RunPod Secure Cloud ở $2,183/tháng. Reliability datacenter-grade, không có risk eviction, uptime 99.5%+. Premium 30% so Community Cloud đáng cho HTTP serving production.
Cho training run (gián đoạn, checkpoint được)
Thắng: RunPod Community Spot ở $1,205/tháng. Eviction tolerance cao cho training vì mọi framework hiện đại đều checkpoint thường xuyên. Vast.ai spot hơi rẻ hơn nhưng kém ổn định hơn.
Cho nghiên cứu / thử nghiệm
Thắng: Vast.ai community ở ~$1,300-1,752/tháng. Option reliable rẻ nhất cho thử nghiệm một lần. Dùng spot cho batch job, on-demand cho Jupyter interactive.
Cho workload enterprise trong VPC
Thắng: AWS p5 Reserved ở $5,475/tháng. Trả premium cho ecosystem integration, giảm 40% so niêm yết với commit 1 năm. Đàm phán enterprise pricing nếu chi >$25k/tháng tổng.
Tổng chi phí thực vận hành cluster H100 là bao nhiêu?
Hóa đơn tháng cluster 4× H100 thực tế cho workload fine-tuning trên RunPod Secure:
Thuê GPU: 4 × $2,183 = $8,732
Storage (2TB persistent): $200
Egress (50GB/tháng): $5
Container registry / model storage: $50
Monitoring (Grafana Cloud): $50
Tổng: ~$9,000/tháng
Cùng workload trên AWS p5 (instance đơn, đủ 8 GPU):
p5.48xlarge on-demand: $98.32/giờ × 730 = $71,773
... khoan, đó là full instance 8-GPU
Per-GPU: $8,972
Cho 4 GPU capacity tương đương: ~$35,890
Cộng EBS, egress, support plan, v.v.: ~$38,000/tháng
Chênh 4× chi phí là lý do phần lớn startup AI 2026 dùng GPU cloud chuyên dụng, không phải hyperscaler.
Sắp tới cho giá H100 đến cuối 2026?
Ba xu hướng cần theo dõi:
- Bình thường hóa supply H100 — khi capacity H100 tăng, giá H100 spot sẽ giảm thêm 20-30% đến Q4 2026.
- B200 thay thế — B200 nhanh hơn H100 1.5-2× ở công suất tương tự. Cho workload sustained, B200 sẽ thay H100 làm GPU training/inference mặc định.
- Hợp nhất provider — kỳ vọng 1-2 GPU cloud chuyên dụng sẽ bị mua bởi hyperscaler. Dynamic pricing có thể chuyển nếu RunPod hoặc Lambda Labs bị mua.
Cho theo dõi chi phí tháng liên tục, GPU Pricing Calculator refresh pricing vào ngày 1 hàng tháng. Cho benchmark inference throughput giữa các provider để quyết định cost-per-token, xem Inference Benchmark.
Provider H100 đúng năm 2026 phụ thuộc hoàn toàn vào yêu cầu reliability workload. Trả thuế hyperscaler chỉ nếu thực sự cần ecosystem; nếu không cloud chuyên dụng tiết kiệm 60-80%.