AWS vs GCP vs Azure: So sánh giá GPU AI 2026
AWS p5, GCP A3, Azure ND H100 v5 — so sánh giá GPU hyperscaler năm 2026. On-demand, spot, reserved, và khi nào mỗi cloud thắng cho workload AI.
Ba hyperscaler lớn — AWS, GCP, và Azure — đều cung cấp H100 GPU trong cùng khoảng $11-13/giờ cho workload AI năm 2026. Khác biệt nằm ở giá spot, tích hợp ecosystem, và mức dễ truy cập capacity reserved. Hướng dẫn này so sánh cả ba cho workload AI điển hình (training, inference, fine-tuning) và chỉ vì sao hyperscaler tốn 4-8× nhiều hơn cloud GPU chuyên dụng. Cho giá real-time qua 12 GPU provider gồm hyperscaler, dùng GPU Pricing Calculator.
Nếu nhạy giá, hyperscaler hiếm khi là câu trả lời đúng. Họ thắng khi bạn đã trong ecosystem VPC và egress cross-cloud sẽ chi phối tiết kiệm compute.
Mỗi hyperscaler charge bao nhiêu cho H100 năm 2026?
Giá per-GPU H100 SXM5 80GB ở region tương đương us-east-1:
| Cloud | Instance | On-demand | Spot | Reserved (1 năm) |
|---|---|---|---|---|
| AWS | p5.48xlarge | $12.29 | $6.40 | $7.50 |
| GCP | A3 (a3-highgpu-8g) | $11.06 | $5.50 | $7.20 |
| Azure | ND H100 v5 | $12.96 | $6.80 | $8.00 |
| AWS | p5e.48xlarge (H200) | $14.25 | $7.40 | $8.60 |
| GCP | A3 Ultra (H200) | $13.40 | $7.00 | $8.50 |
Chênh 17% giữa rẻ nhất (GCP) và đắt nhất (Azure) là thật nhưng nhỏ về tuyệt đối. Chọn cloud giảm thiểu chi phí egress data, không phải GPU theo giờ thô.
Để so sánh, cloud GPU không phải hyperscaler với cùng phần cứng:
| Provider | H100 SXM on-demand |
|---|---|
| Hyperbolic | $1.49 |
| RunPod Community | $1.99 |
| Vast.ai | $2.40 |
| RunPod Secure | $2.99 |
| Lambda Labs | $2.99 |
| GCP (hyperscaler rẻ nhất) | $11.06 |
| AWS | $12.29 |
| Azure | $12.96 |
Đó là gap 6-8×. Non-hyperscaler charge ít vì họ không bundle enterprise networking, IAM, regional redundancy, hoặc compliance certification. Cho workload không cần những cái này, thuế hyperscaler là lãng phí thuần.
Khi nào AWS có lý cho workload AI năm 2026?
AWS thắng cho:
- Model managed Bedrock. Claude, Llama, Nova, Mistral đều có qua Bedrock với provisioned throughput. Giá cạnh tranh sau markup, và BYOK + private link option không có đối thủ.
- Compliance enterprise. HIPAA, FedRAMP, SOC 2, ISO 27001 — AWS có bề mặt certification rộng nhất cho ngành regulated.
- Data AWS sẵn có. Nếu data training nằm trong S3, ingest sang cloud khác tốn egress thường vượt tiết kiệm compute.
- Custom Model Import. AWS Bedrock hỗ trợ import custom model (LoRA adapter, full fine-tune). Hữu ích cho model fine-tuned muốn serve qua endpoint managed.
Điểm đau AWS:
- Instance p5 tối thiểu 8-GPU ($98/giờ). Không thuê được single H100.
- Capacity reserved có cam kết tối thiểu 1 năm và 90%+ utilization để economics có nghĩa.
- Giá spot biến động và có thể đột biến vào giờ peak.
Khi nào GCP có lý?
GCP thắng cho:
- Tích hợp AI Studio + Vertex AI. Trải nghiệm out-of-the-box tốt nhất để eval, deploy, monitor model AI. Gemini API là đường rẻ nhất trực tiếp đến long-context (1M token).
- TPU. Nếu training model research-scale, Google TPU v5e/v6 cạnh tranh với H100 ở phần nhỏ giá.
- A3 Ultra (cluster H200). Truy cập capacity H200 tốt nhất năm 2026. AWS p5e bị giới hạn supply; Azure ND H200 v6 vẫn đang rollout.
- Multi-region serving. Networking GCP cho inference serving sạch hơn AWS cho workload nhạy latency.
Điểm đau GCP:
- Giá GPU Compute Engine có 8-GPU minimum tương tự AWS p5.
- GPU preemptible (spot) có uptime trung vị ngắn hơn AWS spot.
- Markup Vertex AI so Compute Engine thô có thể 30-50%.
Khi nào Azure có lý?
Azure thắng cho:
- Tích hợp OpenAI Service. Azure OpenAI cung cấp GPT-4o, GPT-5, o3 với SLA enterprise Microsoft và provisioned throughput. Đường tốt nhất nếu cần model OpenAI trên Azure VPC.
- Ecosystem Microsoft 365 + Copilot. Nếu business của bạn build trên stack Microsoft, tích hợp AI chặt nhất trên Azure.
- Enterprise sales motion. Sales Microsoft đàm phán giá enterprise quyết liệt. AWS và GCP cũng có, nhưng Microsoft linh hoạt nhất.
- Đối tác Mistral, Cohere. Azure AI Foundry host model Mistral, Cohere Embed v3 với billing Azure native.
Điểm đau Azure:
- ND H100 v5 có giới hạn supply ở region lớn (thường waitlist).
- Capacity Spot ("Low Priority") thấp hơn AWS hoặc GCP đáng kể.
- Chất lượng documentation tụt sau AWS và GCP, đặc biệt cho service AI mới.
Phí egress cross-cloud thì sao?
Chi phí ẩn quyết định tổng hóa đơn thực:
| Source | Destination | $/GB |
|---|---|---|
| AWS → Internet | $0.05-0.09 | |
| AWS → GCP | $0.08 | |
| AWS → Azure | $0.08 | |
| GCP → Internet | $0.08-0.12 | |
| GCP → AWS | $0.08 | |
| GCP → Azure | $0.08 | |
| Azure → Internet | $0.05-0.08 |
Cho workload inference throughput cao stream response 1KB đến user:
100k request/ngày × 1KB = 100MB/ngày
Tháng: 3GB
Chi phí egress ở $0.09/GB: $0.27/tháng — không đáng kể
Nhưng: output multimodal lớn (audio/video)
1 file video 10MB × 100k request/ngày = 1TB/ngày = 30TB/tháng
Ở $0.09/GB: $2,700/tháng — đáng kể
Egress quan trọng cho: tạo file (image/video), payload response lớn, replication cross-region, export data warehouse. Egress không quan trọng cho: output chat/text-only.
Tổng hóa đơn hyperscaler rẻ nhất cho workload AI điển hình?
Ba workload tham chiếu với hóa đơn hyperscaler đầy đủ (không chỉ GPU):
Workload 1: B2B SaaS chatbot, 100k request/ngày, AWS
GPU (Bedrock cho Claude Sonnet 4.6): pay-per-token, ~$1,500/tháng
Storage (S3 cho embeddings): 50GB, ~$1/tháng
Egress (1TB internet): $90/tháng
Lambda cho orchestration: $50/tháng
Tổng: ~$1,641/tháng
Cùng workload trên RunPod self-host Llama 4 70B:
Thuê GPU (H100 SXM ×2): $4,300/tháng
Storage (Vast.ai alternative S3): $5/tháng
Egress: ~$50/tháng (pricing ít aggressive)
Orchestration: miễn phí hoặc self-host
Tổng: ~$4,355/tháng
Cho workload này, hyperscaler thắng vì inference managed hiệu quả hơn nhiều mỗi token so chạy GPU 24/7.
Workload 2: Fine-tune model 70B từ đầu, GCP
Training: 8× H100 SXM × 100 giờ = $11,060
Spot 8× H100 × 100 giờ = $5,500 (với checkpoint)
Transfer cross-region data training: $200
Storage (1TB checkpoint): $20/tháng
Tổng một lần: ~$5,800 với spot
Cùng workload trên RunPod hoặc CoreWeave:
Training: 8× H100 SXM × 100 giờ = $2,392 - $2,640
Storage: $5/tháng (Vast)
Tổng: ~$2,700
Cho training, cloud chuyên dụng thắng 2-3× vì hyperscaler price compute như bạn dùng full stack enterprise của họ.
Workload 3: Inference production 24/7 ở scale (10M req/ngày)
AWS p5 với 8× H100, dedicated capacity (Provisioned Throughput): ~$11,000/tháng
Nhưng: 10M req/ngày ở $0.012/req qua Bedrock = $3,600,000/tháng
Ở scale này, không GPU bare lẫn pay-per-token làm việc — bạn cần contract enterprise custom. Cả hyperscaler và cloud chuyên dụng sẽ đàm phán. AWS Bedrock thường thắng vì economics provisioned throughput; CoreWeave thắng cho self-serve model Llama.
Architecture đúng cho 2026 là gì?
Mẫu trưởng thành giảm thiểu chi phí trong khi giữ sanity vận hành:
- Storage trong cloud chính (AWS/GCP/Azure) cho compliance và tích hợp.
- Inference cho high-volume qua API managed (OpenAI, Anthropic, Google trực tiếp, hoặc Bedrock/Vertex/Foundry của hyperscaler). Pay-per-token thắng dưới ~500M token/tháng.
- Inference cho model custom hoặc trên 500M token/tháng trên RunPod, Together, hoặc Fireworks. Tiết kiệm 4-8× chi phí GPU thô.
- Training và fine-tuning trên Crusoe, Lambda Labs, hoặc CoreWeave. Tiết kiệm 2-3× so giá niêm yết hyperscaler.
- Đường egress giảm thiểu qua serving region-local và caching aggressive.
Cho dự báo chi phí đầy đủ qua architecture multi-cloud này, dùng Agent Dev Cost Calculator cho layer agent và GPU Pricing Calculator cho layer compute. Cho giá token trên inference managed, Token & Pricing Comparator phủ rate Bedrock + Vertex + AI Foundry song song với giá provider trực tiếp.
Thuế hyperscaler là thật nhưng đáng trả khi thực sự cần ecosystem của họ. Phần còn lại của thời gian, cloud GPU chuyên dụng cung cấp cùng phần cứng với phần nhỏ giá.