AITOT

Kalkulator

Kalkulator Biaya Total RAG

Tagihan RAG all-in-one — embedding + vector DB + reranker + generasi LLM. Masukkan dokumen dan query/hari untuk stack bulanan lengkap.

Harga diperbarui:

AITOT RAG Total Cost calculator memperkirakan biaya bulanan untuk stack RAG penuh — embedding (one-time + recurring), vector DB storage + queries, reranker opsional, LLM generation.

RAG knowledge-base tipikal dengan 1M docs, 10k queries/hari, reranker on biaya ~$160/bulan: $40 vector DB + $30 reranker + $90 LLM generation.

Toggle prompt caching potong generation 50-90% — system prompts stabil (tipikal 4-8k token) punya cache hit 70-85%. Reranker Cohere Rerank 3 di $1/1k searches tingkatkan kualitas 15-30%.

Total bulanan

$913

Biaya embed sekali

$6

Per query

$0.0061

Total tahun 1

$10,956

Rincian biaya bulanan

Embedding query (Voyage AI voyage-3)
0%$0
Re-embed refresh (0.25×/mo)
0%$2
Vector DB (Pinecone Serverless (s1))
0%$3
Reranker (Cohere Rerank 3)
33%$300
Generation (Anthropic Claude Haiku 4.5)
67%$608

Tagihan RAG = embedding query + vector DB + reranker (opsional) + generasi LLM. Di atas 50k query/hari, generasi mendominasi. Pada skala kecil, minimum vector DB mendominasi.

Yang dilakukan kalkulator ini

Stack RAG penuh

Embedding + vector DB + reranker + generation dalam satu bill.

Breakdown per-komponen

Lihat tepat line item mana kontributor terbesar.

Toggle reranker

Cohere Rerank 3. Tambah $0.001/query tapi tingkatkan kualitas 15-30%.

Modeling prompt cache

System prompts stabil 70-85% cache hits.

Cost per-query

Surface $ per RAG query — kritis untuk unit economics.

Modeling chunk strategy

Toggle chunks/dok dan chunks retrieved.

Perbandingan cepat

Cost RAG bulanan @ 1M docs, 10k queries/hari

KomponenProviderBulanan
Embed (one-time amortized)OpenAI 3-small$5
Vector DB (10M chunks)Pinecone Serverless$40
Reranker (300k queries)Cohere Rerank 3$30
Generation (Sonnet 4.6)Anthropic$90
Generation w/ 70% cache hitAnthropic$28
Total dengan cache + rerank$103 / bulan

Tanpa prompt caching, generation saja $90+. Cache lever terbesar.

Cara menggunakan kalkulator

Hitung stack RAG bulanan — embed + vector DB + reranker + generation.

  1. 1

    Masukkan corpus + chunks

    Dokumen × chunks/dok.

  2. 2

    Set query volume

    Queries per hari.

  3. 3

    Toggle reranker

    Cohere Rerank 3 tambah $0.001/query tapi tingkatkan kualitas 15-30%.

  4. 4

    Set cache hit rate

    System prompts stabil hit 70-85%. Potong generation 50-90%.

Kenapa pakai kalkulator ini

  • ✓Stack penuh — bukan hanya LLM
  • ✓Toggle reranker
  • ✓Modeling prompt cache
  • ✓Unit economics per-query
  • ✓9 vector DB + 22 LLM provider
  • ✓Tanpa login

Pertanyaan yang sering diajukan

Berapa biaya app RAG tipikal per bulan 2026?+
Untuk 1M dokumen, 10k query/hari, dengan reranker: sekitar $40 vector DB + $30 reranker + $90 LLM generation = $160/bulan total. Tambah $15 sekali embedding corpus. Tanpa reranker, turun ke $130/bulan. Kalkulator membangun stack-per-stack.
Bagaimana split biaya RAG antara embedding, vector DB, dan generation?+
Untuk RAG knowledge-base tipikal: embedding 5% sekali, vector DB 25% recurring, generation 60% recurring, reranker 10% jika dipakai. Generation dominasi di query volume tinggi; vector DB dominasi di corpus besar + query rendah. Kalkulator tampilkan split untuk skala Anda.
Apakah perlu reranker di pipeline RAG?+
Ya jika presisi lebih penting dari 200ms latency. Cohere Rerank 3 di $1/1k search biasanya tingkatkan kualitas answer 15–30% dengan re-score 50 chunk retrieved ke top-5. Untuk UX chat, tax latency layak. Untuk RAG batch (laporan overnight), selalu rerank.
Berapa chunk sebaiknya retrieve per query RAG?+
Retrieve 20–50 chunk, rerank ke 5–10, pass ke LLM. Retrieve kurang dari 10 risiko miss answer; pass lebih dari 10 ke LLM bloating input cost dan dilute attention. Kalkulator kali retrieved-chunks × token-per-chunk ke biaya generation.
Apakah prompt caching bantu biaya RAG signifikan?+
Masif. Jika system prompt + few-shot Anda stabil (tipikal 4–8k token), prompt cache hit potong biaya input Anthropic 90%, OpenAI 50%, Google 75%. Real-world steady-state RAG cache hit rate 70–85%. Geser slider lihat tagihan turun.
Kapan RAG lebih murah dari fine-tuning?+
Di bawah 10M token bulan atau saat knowledge berubah mingguan, RAG menang. Di atas 50M dengan knowledge stabil yang muat di prompt, fine-tuning model lebih kecil sering kalahkan total RAG 2–5×. Mayoritas app produksi tetap di RAG karena kesederhanaan operasional.