Prompt Panjang: Kapan Harganya Tiba-Tiba Berlipat

Hampir semua penjelasan harga API AI memperlakukan biaya sebagai garis lurus: dua kali token, dua kali bayar. Itu benar sampai satu titik, lalu berhenti benar.

Ketiga penyedia besar memasang ambang panjang prompt. Lewat ambang itu, tarif per token-nya sendiri yang berubah — bukan cuma jumlah tokennya yang bertambah. Yang tadinya garis lurus jadi tangga.

Ambangnya berbeda-beda

Model	Ambang	Input	Output
Claude Haiku 5.5	100.000 token	$0,10 → $0,50	$0,50 → $2,50
Gemini 2.5 Pro	200.000 token	$1,25 → $2,50	$10 → $15
Gemini 3.1 Pro Preview	200.000 token	$2 → $4	$12 → $18
gpt-6.1-sol	272.000 token	$2 → $4	$10 → $15
gpt-6-astra	272.000 token	$10 → $20	$50 → $75

Semua per juta token, dicek di halaman resmi masing-masing 1 November 2026.

Perhatikan kolom paling kanan. Harga output ikut naik — padahal panjang jawabannya tidak berubah sedikit pun. Yang menentukan tarif adalah panjang prompt yang kamu kirim, bukan panjang yang dibalas model. Jawaban 500 token dibayar dengan tarif mahal kalau prompt di depannya besar.

Ini bagian yang paling sering tidak disadari, karena tidak ada tempat di kode kamu yang menunjukkannya. Tagihannya naik, pemakaiannya kelihatan normal.

Tebingnya tajam, bukan landai

Ini bukan tarif bertingkat seperti pajak, di mana cuma kelebihannya yang dihitung mahal. Seluruh permintaan dibayar dengan tarif tinggi begitu prompt-nya lewat ambang.

Ambil Haiku 5.5. Prompt 99 ribu token membayar $0,10 per juta. Prompt 101 ribu token membayar $0,50 per juta — untuk seluruh 101 ribu, bukan untuk 1.000 token kelebihannya.

Jadi menambah dua ribu token ke prompt yang sudah mepet ambang bisa melipatgandakan biaya permintaan itu lima kali. Tidak ada peringatan, tidak ada error. Cuma tagihan yang bentuknya tidak masuk akal di akhir bulan.

Caching tidak menyelamatkanmu

Refleks pertama orang yang paham caching: “kalau sebagian besar prompt-ku cache hit, berarti yang dihitung cuma sisanya, dan aku tetap di bawah ambang.”

Dokumentasi Anthropic menutup pintu itu secara eksplisit. Panjang prompt dihitung dari seluruh token input, termasuk cache read dan cache write. Permintaan yang melewati ambang membayar tarif tinggi walaupun hampir seluruh isinya cache hit, dan tiap permintaan dihargai sendiri-sendiri — permintaan sebelumnya tetap memakai tarif yang sudah dikenakan padanya.

Caching tetap sangat berguna; dia memotong biaya per token sampai sepersepuluh. Tapi dia bekerja di dalam tingkat harga, bukan memindahkanmu ke tingkat yang lebih murah. Mekanismenya dan titik impasnya ada di artikel prompt caching.

Satu akibat praktisnya: menumpuk basis pengetahuan besar ke dalam prompt yang sudah di-cache — pola yang kelihatan hemat — bisa justru mendorongmu melewati ambang dan menaikkan tarif semua permintaan, termasuk yang pendek.

Model termurah punya tebing paling curam

Ada ironi yang perlu dilihat angkanya. Haiku 5.5 adalah model termurah di tabel itu, dan dia punya ambang terendah (100 ribu) sekaligus lompatan terbesar (lima kali).

Bandingkan satu permintaan 150 ribu token input, 2 ribu token output:

	Haiku 5.5	Sonnet 5.5
Input	$0,075	$0,300
Output	$0,005	$0,020
Total	$0,080	$0,320

Di bawah 100 ribu token, jarak keduanya dua puluh kali. Di 150 ribu token, jaraknya tinggal empat kali — karena Haiku sudah menyeberang dan Sonnet belum (Sonnet memang tidak punya ambang sama sekali, lihat bagian berikutnya).

Haiku tetap lebih murah. Tapi “pilih model termurah” sebagai aturan umum — yang jadi kesimpulan utama hitungan biaya chatbot — punya satu titik gagal, dan ini titiknya. Kalau prompt-mu besar, hitung ulang; selisih dua puluh kali yang jadi dasar keputusanmu mungkin sudah bukan dua puluh kali lagi.

Yang tidak punya tebing sama sekali

Dokumentasi Anthropic menyebut Claude 4.6 ke atas selain Haiku 5.5 memuat seluruh jendela 1 juta token dengan tarif standar. Kalimatnya tegas: permintaan 900 ribu token dibayar dengan tarif per token yang sama dengan permintaan 9 ribu token. Diskon caching dan batch juga berlaku penuh di seluruh jendela itu.

Di keluarga Gemini, model Flash dan Flash-Lite juga tercantum satu tarif tanpa tingkat panjang; yang punya tingkat cuma seri Pro. Di OpenAI, tarif konteks panjang tercantum untuk keluarga GPT-6 dan GPT-5.4 sampai 5.6, sementara model lama seperti gpt-4.1 dan gpt-4o tidak mencantumkannya.

Jadi “model ini mahal” dan “model ini mahal untuk prompt besar” adalah dua peringkat yang berbeda, dan urutannya tidak sama.

Kapan kamu benar-benar menyeberang

Seratus ribu token itu banyak — kira-kira sebuah novel pendek. Pekerjaan yang biasanya menyentuhnya:

• Membaca dokumen panjang utuh. Kontrak, laporan tahunan, berkas hukum.
• Basis kode. Agen yang memuat banyak berkas sekaligus menumpuk token dengan cepat.
• Percakapan yang tidak pernah dipangkas. Riwayat chat tumbuh tiap giliran, dan tanpa pemangkasan dia akan menyeberang sendiri pada suatu titik tanpa ada yang mengubah apa pun. Mekanismenya di sini.
• Transkrip. Rapat dua jam bisa puluhan ribu token.

Yang terakhir itu pola paling berbahaya, karena biayanya naik sendiri seiring waktu. Aplikasi yang hari ini murah bisa jadi mahal bulan depan tanpa satu baris kode pun berubah.

Yang bisa kamu lakukan

Ukur, jangan tebak. Setiap penyedia punya endpoint penghitung token. Jalankan prompt terpanjangmu melaluinya sebelum memilih model, bukan sesudah tagihan datang.

Pangkas riwayat. Menyimpan sepuluh giliran terakhir, bukan seluruhnya, biasanya tidak mengurangi kualitas jawaban dan menahan pertumbuhan token.

Ambil potongan yang relevan, bukan seluruh dokumen. Mencari bagian yang berkaitan lalu mengirim bagian itu saja hampir selalu lebih murah daripada mengirim semuanya dan berharap model menemukannya sendiri.

Pertimbangkan model tanpa ambang untuk pekerjaan berprompt besar. Kalau kamu memang rutin mengirim 300 ribu token, model dengan tarif datar bisa lebih murah daripada model “murah” yang sudah melewati tebingnya.

Pasang batas pengeluaran. Ini berlaku untuk semua pemakaian API, tapi khususnya di sini: biaya yang melonjak karena tarif berubah tidak terlihat seperti kesalahan, jadi tidak ada yang memeriksanya.

Soal membayarnya

Saldo API diisi di depan lewat kartu, dan itu titik yang sering macet dari Indonesia. Estimasi rupiah untuk pengisian saldo ada di halaman Claude, OpenAI, dan OpenRouter.

Satu catatan yang relevan dengan artikel ini: kalau kamu belum tahu model mana yang akan kamu pakai, OpenRouter membuat percobaan jadi lebih murah — satu saldo untuk membandingkan beberapa model, bukan mengisi saldo di tiga tempat sekaligus untuk mencari tahu mana yang tidak menabrak tebing.