AI & Tech

Pindah ke NgodeAI, OpenRouter, atau LiteLLM?

Pindah ke NgodeAI, OpenRouter, atau LiteLLM?

Pertanyaan setelah kamu memakai API model AI bukan lagi model mana yang paling pintar, tapi lewat mana request itu dikirim. Ada tiga jawaban yang beredar: tetap di OpenRouter, pindahkan ke gateway berharga rupiah seperti NgodeAI, atau jalankan gateway sendiri dengan LiteLLM. Ketiganya sering disebut gateway, padahal menyelesaikan masalah yang berbeda.

TL;DR

  • OpenRouter itu pasar global berbayar dolar, NgodeAI gateway terkelola dengan saldo rupiah, LiteLLM perangkat lunak open source yang kamu jalankan di server sendiri.
  • Katalog NgodeAI saat artikel ini ditulis memuat 28 model: 23 aktif, 5 nonaktif, 7 gratis. Termurah Rp 78 per 1 juta token input.
  • OpenRouter tidak menandai harga inference, tapi mengenakan biaya saat kamu membeli kredit. BYOK bebas biaya sampai pemakaian 25.000 dolar per bulan, di atas itu 5 persen.
  • LiteLLM gratis, tapi server, kunci provider, dan monitoring jadi tanggung jawabmu.
  • Pindah kalau hambatannya pembayaran atau anggaran rupiah. Jangan pindah kalau hambatannya akses model yang belum ada di katalog tujuan.

Yang dibandingkan bukan model, tapi jalur request

Model yang menjawab prompt kamu tetap model yang sama di ketiga jalur. Gateway hanya meneruskan request, mencatat token, dan menagih. Jadi yang layak dibandingkan ada empat: mata uang tagihan, siapa memegang kunci provider, berapa model yang bisa dipanggil hari ini, dan seberapa besar pekerjaan yang kamu tanggung sendiri.

NgodeAI: terkelola, saldo rupiah

Layanan pihak ketiga untuk developer Indonesia. Kamu tidak menjalankan apa pun: daftar, ambil API key, arahkan request ke base URL https://llm.ngodeai.net/v1 dengan route /v1/chat/completions. Karena formatnya OpenAI, SDK resmi dipakai apa adanya.

Katalog model dan harganya terbuka di https://api.ngodeai.net/models, lengkap dengan status aktif, panjang konteks, dan dukungan vision. Harga ditulis rupiah per 1 juta token. Topup saldo lewat QRIS, transfer bank, atau e-wallet, tanpa langganan dan tanpa kartu kredit luar negeri. Katalog juga membedakan rute shared dan vip: ketujuh model gratis berjalan di shared, sisanya vip.

OpenRouter: pasar global, tagihan dolar

Kekuatannya cakupan: banyak lab model di satu endpoint OpenAI-compatible, sehingga biaya pindah dari sisi kode nyaris nol. Dokumentasi resminya menyebut dua hal yang perlu dibaca teliti. Harga inference diteruskan tanpa markup, jadi tarif per token sama dengan memanggil provider langsung. Pendapatan mereka datang dari biaya saat kamu membeli kredit. Untuk BYOK, pemakaian bebas biaya sampai 25.000 dolar per bulan berdasarkan harga list, dan di atas batas itu dikenai 5 persen.

Konsekuensinya untuk anggaran rupiah: kredit diisi dalam dolar, dan nilainya bergerak mengikuti kurs, sehingga selisih kurs masuk ke varians laporan bulananmu.

LiteLLM: gateway yang kamu jalankan sendiri

README resminya menyatakan posisinya jelas: gateway AI open source untuk 100+ LLM, self-hosted, memanggil model apa pun dalam format OpenAI. Kamu menginstal proxy di VPS, mengisi kunci provider di konfigurasi, lalu aplikasi bicara ke proxy itu. Konsekuensinya, kunci, log, dan uptime pindah ke tanganmu. Itu keuntungan untuk tim dengan syarat data tidak keluar dari infrastruktur sendiri, dan beban untuk satu orang yang tidak mau menambah proses yang harus dijaga hidup.

Tabel perbandingan tiga jalur

AspekNgodeAIOpenRouterLiteLLM
BentukManaged gatewayManaged marketplaceSoftware self-hosted
Mata uangRupiah per 1 juta tokenDolar per tokenIkut provider yang dipasang
Cara bayarQRIS, transfer bank, e-walletKredit kartu atau cryptoVPS plus tagihan provider
Jumlah model28 katalog, 23 aktif, 7 gratisKatalog besar lintas lab100+ LLM
Kunci providerDipegang NgodeAIOpenRouter, atau milikmu via BYOKMilikmu, di servermu
Butuh serverTidakTidakYa, satu proses permanen
Biaya di luar tokenTidak ada langgananFee saat beli kredit, BYOK 5 persen di atas batasVPS, waktu, perawatan
Waktu mulaiMenitMenitJam

Harga katalog NgodeAI per 4 November 2026

Angka di bawah diambil langsung dari respons api.ngodeai.net/models pada 4 November 2026, rupiah per 1 juta token.

ModelInput (Rp/1M)Output (Rp/1M)KonteksRute
GLM 5.3 Flash (Fast)782641.048.576vip
Ling 3.1 Flash (1019)1364081.048.576vip
DeepSeek V4 Flash1503001.048.576vip
GPT 6 Luna1819071.048.576vip
MiniMax M3.1 Flash2489901.048.576vip
Gemini 3.8 Flash2721.3611.048.576vip
DeepSeek V4 Pro4719421.048.576vip
GPT 6.1 Terra1.8139.0661.048.576vip
GPT 6 Astra18.13390.6641.048.576vip

Tujuh model aktif berharga nol: Beam 1.0 Free, DeepSeek V4.1 Flash, Gemini 3.5 Flash Lite, GLM 5.3 Flash, Mercury Decide, MiMo V2.6 Flash, dan Nemotron 3.5 Super VL, semuanya di rute shared. Lima model nonaktif: Claude Haiku 5.5, Claude Opus 5.5, Claude Sonnet 5.5, Gemini 4 Argon, dan Step 5 Preview.

Katalog mencantumkan kurs acuan 18.144,9 rupiah per dolar. Dengan kurs itu Rp 78 per 1 juta token setara sekitar 0,0043 dolar, jauh di bawah tarif list model sekelasnya di pasar global. Selisih sebesar itu biasanya berarti kapasitas shared yang dijual murah, subsidi promo, atau harga yang bisa berubah sewaktu-waktu. Perlakukan katalog sebagai snapshot bertanggal, bukan kontrak.

Hitungan biaya agent harian

Pakai pola pemakaian nyata: agent coding 40 panggilan sehari, 8.000 token input dan 1.500 token output per panggilan. Dalam 30 hari itu 9,6 juta token input dan 1,8 juta output. Hasil di bawah dihitung dari harga tabel sebelumnya.

ModelInputOutputSebulanSetahun
GLM 5.3 Flash (Fast)Rp 749Rp 475Rp 1.224Rp 14.688
DeepSeek V4 FlashRp 1.440Rp 540Rp 1.980Rp 23.760
GPT 6 LunaRp 1.738Rp 1.633Rp 3.370Rp 40.442
Gemini 3.8 FlashRp 2.611Rp 2.450Rp 5.061Rp 60.732
DeepSeek V4 ProRp 4.522Rp 1.696Rp 6.217Rp 74.606
GPT 6 AstraRp 174.077Rp 163.195Rp 337.272Rp 4.047.264

Jarak model termurah dan termahal lebih dari 275 kali untuk pola pemakaian sama. Tapi biaya bulanan model cepat lebih kecil dari harga satu gelas kopi, jadi keputusan pindah gateway bukan soal menghemat token, melainkan mata uang dan keandalan. Yang justru mahal adalah konteks yang digelembungkan: 200.000 token konteks sekali panggil ke DeepSeek V4 Flash sekitar Rp 30.

Kapan sebaiknya tetap di OpenRouter

  • Model yang kamu butuh belum ada di katalog tujuan. Pindah berarti mengganti model, bukan mengganti gateway, dan itu pekerjaan berbeda.
  • Tagihanmu memang dolar dan tidak ada masalah dengan itu. Menambah rekonsiliasi rupiah justru menambah kerja.
  • Kamu butuh satu tempat untuk belanja model lintas lab. Nilai marketplace adalah pilihan, dan itu sulit digantikan.

Kapan pindah ke NgodeAI masuk akal

Pemicunya biasanya bukan harga per token, tapi gesekan administratif: kartu sering ditolak, anggaran disetujui dalam rupiah, dan kamu tidak mau mengurus server tambahan hanya untuk meneruskan request.

Sebelum memindahkan produksi, daftar lewat halaman login NgodeAI, ambil API key, lalu jalankan satu beban kerja nyata dengan model gratis. Tujuannya memastikan format request, streaming, dan tool calling berjalan, bukan mengukur kualitas jawaban. Kalau lolos, pindahkan satu fitur non-kritis dulu, bandingkan biaya dan latensi selama sepekan, baru sentuh jalur utama.

Kapan LiteLLM justru jawabannya

LiteLLM menang di satu kondisi yang tidak bisa ditandingi layanan terkelola: kamu harus memegang kendali penuh atas jalur data. Kalau ada aturan internal yang melarang prompt keluar dari infrastruktur sendiri, managed gateway mana pun otomatis gugur. Masuk akal juga kalau kamu sudah punya VPS hidup untuk hal lain dan ingin satu tempat untuk kunci, log, dan aturan retry lintas provider.

Pola hybrid: LiteLLM di depan gateway terkelola

Karena keduanya bicara format OpenAI, kamu bisa memakai keduanya tanpa mengubah aplikasi. Aplikasi memanggil LiteLLM, dan LiteLLM meneruskan ke gateway terkelola sebagai salah satu provider. Manfaatnya fallback: kalau satu jalur gagal, request diarahkan ke jalur lain tanpa deploy ulang.

model_list:
  - model_name: cepat
    litellm_params:
      model: openai/deepseek-v4-flash
      api_base: https://llm.ngodeai.net/v1
      api_key: os.environ/NGODEAI_API_KEY

  - model_name: cepat-cadangan
    litellm_params:
      model: openai/glm-5.3-flash-fast
      api_base: https://llm.ngodeai.net/v1
      api_key: os.environ/NGODEAI_API_KEY

Perhatikan os.environ/NGODEAI_API_KEY. Kunci dibaca dari environment, bukan ditulis di file konfigurasi. Efek samping pola ini: kamu punya dua lapisan yang bisa gagal dan dua tempat yang harus diperiksa saat error.

Biaya tersembunyi pindah gateway

  • Pemetaan nama model. Nama harus sama persis dengan string di katalog, termasuk awalan ngodeai/. Satu huruf salah menghasilkan 404.
  • Kunci lama belum dicabut. Setelah pindah, kunci sebelumnya masih berlaku. Itu utang keamanan.
  • Observability terbelah. Dashboard lama tidak lagi mencerminkan biaya sebenarnya, dan laporan bulanan jadi dua sumber.
  • Logika fallback belum ada. Lima model di katalog NgodeAI sedang nonaktif saat pengecekan. Tanpa fallback, kode yang mengunci satu model akan gagal di saat paling tidak enak.

Ekspektasi vs realita

AspekEkspektasiRealita
Kualitas jawabanPindah gateway membuat model lebih pintarTidak berubah, request diteruskan ke model yang sama
Hemat biayaTagihan turun drastisBiaya token model cepat sudah kecil, yang berubah kurs dan metode bayar
Jumlah modelKatalog besar berarti semua bisa dipakai28 model, 23 aktif, 5 nonaktif saat dicek
Model gratisGratis sama cepatnyaRute shared, kapasitas dipakai bersama pengguna lain
Self-host LiteLLMLebih murah tanpa perantaraBiaya pindah ke VPS, waktu perawatan, dan uptime
Proses pindahCukup ganti base URLNama model, kunci, observability, dan uji beban ikut berubah

Kekurangan dan limitasi

  • NgodeAI layanan pihak ketiga tanpa SLA publik. Request melewati server mereka, dan tidak ada jaminan tertulis kalau layanan turun.
  • Harga bisa berubah, sebagian model nonaktif. Semua angka di sini punya tanggal. Baca ulang katalog sebelum menyusun anggaran.
  • Harga jauh di bawah pasar perlu dijelaskan, biasanya kapasitas shared, subsidi, atau promo. Jangan diasumsikan permanen.
  • OpenRouter menagih dolar, dan LiteLLM memindahkan beban perawatan, bukan menghilangkannya.

Pertanyaan yang sering muncul (FAQ)

Bisa NgodeAI dipakai bersama LiteLLM? Bisa, keduanya format OpenAI. NgodeAI didaftarkan sebagai provider di konfigurasi LiteLLM, lalu aplikasi tetap memanggil LiteLLM.

Kalau model yang saya pakai tidak ada di katalog NgodeAI? Jangan pindah untuk jalur itu. Pindahkan hanya fitur yang modelnya tersedia, supaya kamu tidak mengubah dua variabel sekaligus.

Mana yang paling murah? Untuk biaya token murni, model cepat di gateway rupiah paling murah. Kalau dihitung bersama waktu setup dan perawatan, self-host bisa jadi paling mahal untuk tim satu orang.

Harus pindah total? Tidak. Pindahkan satu jalur non-kritis, ukur sebulan, lalu putuskan. Gateway bersifat aditif.

Kesimpulan

OpenRouter adalah pasar dengan pilihan terluas dan tagihan dolar. LiteLLM adalah kendali penuh dengan ongkos berupa server dan waktu. NgodeAI adalah jalan tengah untuk developer Indonesia yang butuh banyak model tanpa kartu kredit luar negeri. Urutan keputusannya: tentukan dulu apakah data boleh melewati pihak ketiga. Kalau tidak, arahnya LiteLLM. Kalau boleh, lihat mata uang anggaranmu. Kalau rupiah, NgodeAI layak dicoba dengan model gratis sebelum mengisi saldo.

Verifikasi sendiri: buka api.ngodeai.net/models, catat harga model yang benar-benar kamu pakai, lalu hitung dengan pola pemakaianmu. Angka di artikel ini snapshot 4 November 2026.

Transparansi: artikel ini memuat tautan referral. Kalau kamu mendaftar lewat tautan tersebut, toolkuy menerima komisi dari NgodeAI tanpa menambah biaya apa pun untukmu. Harga model diambil langsung dari katalog API publik mereka pada 4 November 2026, sedangkan keterangan OpenRouter dan LiteLLM diambil dari dokumentasi resmi masing-masing pada tanggal yang sama.

💬 Komentar (0)

Belum ada komentar. Jadilah yang pertama! 💬

Komentar yang memuat tautan, bahasa asing, atau aksara non-Latin ditahan dulu buat ditinjau.