Kimi K3.1 Pro: 2,8 Triliun Parameter, 104 Miliar Aktif, Konteks 1 Juta Token

Moonshot AI merilis Kimi K3.1 Pro sebagai model berbobot terbuka dengan 2,8 triliun parameter total dan hanya 104 miliar parameter aktif per token. Arsitekturnya Mixture-of-Experts dengan 93 layer dan konteks 1 juta token, dilatih ulang dari Kimi K3 lewat reinforcement learning gabungan lintas ratusan domain. Bobot, lisensi, dan kartu model tersedia publik di Hugging Face dan ModelScope sejak awal November 2026.

TL;DR

• Kimi K3.1 Pro membawa 2,8T parameter total dengan 104B aktif, jadi biaya komputasi per token jauh lebih kecil dari angka 2,8T yang terlihat di judul.
• Konteks 1 juta token membuat satu repositori menengah atau satu set dokumen panjang bisa masuk dalam satu permintaan tanpa chunking agresif.
• Lisensi memakai nama sendiri, kimi-k3.1-pro, bukan Apache 2.0 atau MIT, jadi baca isinya sebelum dipakai komersial.
• Varian yang tersedia di Hugging Face memakai kuantisasi 8-bit dan compressed-tensors, bukan bobot penuh, sehingga ukuran unduhan tetap besar.
• Untuk tim Indonesia, jalur paling realistis adalah API atau penyedia inference, bukan server sendiri, kecuali punya klaster GPU.

Apa yang sebenarnya dirilis Moonshot AI?

Yang dirilis adalah model open-weight, bukan model tertutup. Moonshot menyebutnya sebagai model agentic multimodal native paling mampu di kelas 3T mereka, dan ini model pertama di seri K3.1. Artinya bobot bisa diunduh, dijalankan sendiri, dan dimodifikasi sesuai lisensi. Bedanya dengan model open-weight kecil: skala parameternya masuk kategori frontier, bukan kategori laptop.

Halaman model di Hugging Face mencatat pipeline image-text-to-text, library Transformers, format Safetensors, dan tag compressed-tensors. Kuantisasi 8-bit dipakai pada repo utama. Ini penting karena banyak orang membaca "2,8T parameter" lalu membayangkan satu berkas raksasa yang bisa diunduh semalam. Kuantisasi 8-bit tetap menghasilkan ratusan gigabyte, dan itu belum termasuk kebutuhan KV cache untuk konteks panjang.

Moonshot juga menyediakan dua jalur resmi: API di platform Kimi dan blog teknis yang menjelaskan proses post-training. Untuk evaluasi awal, jalur API jauh lebih murah daripada menyewa GPU.

Berapa biaya komputasi nyata dari 2,8T parameter?

Biaya nyata mengikuti parameter aktif, bukan parameter total. Dengan 104B parameter aktif per token, model ini berperilaku seperti model kelas 100B dalam hal FLOP per token, sementara kapasitas pengetahuannya ditopang 2,8T parameter yang tersebar di banyak expert. Ini pola yang sama dipakai keluarga MoE besar lain: jumlah expert besar, yang dipanggil sedikit.

Konsekuensinya praktis: throughput per GPU lebih baik daripada dense 2,8T, tapi kebutuhan memori tetap ditentukan total parameter. Semua expert harus berada di memori atau bisa diakses cepat. Jadi ada dua angka yang harus dipegang bersamaan, dan keduanya sudah disebut resmi di kartu model.

Spesifikasi	Nilai resmi	Implikasi praktis
Arsitektur	Mixture-of-Experts	Sebagian expert aktif per token, jadi komputasi tidak linier terhadap total parameter
Total parameter	2,8 triliun	Menentukan kebutuhan memori dan ukuran unduhan
Parameter aktif	104 miliar	Menentukan biaya komputasi per token
Jumlah layer	93	Kedalaman model, relevan untuk konteks panjang
Konteks	1 juta token	Cukup untuk basis kode atau dokumen panjang dalam satu permintaan
Lisensi	kimi-k3.1-pro	Lisensi khusus, wajib dibaca sebelum pemakaian komersial

Kapan konteks 1 juta token benar-benar berguna?

Konteks besar berguna saat pekerjaan menuntut relasi antar bagian yang berjauhan, bukan saat sekadar menyimpan banyak teks. Contoh yang masuk akal: membaca satu repositori utuh untuk mencari sumber regresi, membandingkan puluhan dokumen kontrak, atau menelusuri log panjang untuk menemukan pola kegagalan yang jarang. Semua itu butuh model yang bisa menghubungkan bagian awal dan bagian akhir tanpa kehilangan jejak.

Yang sering dilupakan: konteks panjang bukan gratis. Biaya per permintaan naik seiring jumlah token, dan latensi ikut naik. Untuk kasus sederhana seperti merapikan satu fungsi, konteks 1 juta token hanya menambah biaya tanpa menambah mutu. Aturan praktisnya, pakai konteks besar hanya kalau ada pertanyaan yang memang tidak bisa dijawab dari potongan kecil.

Untuk konteks teknis lebih dalam, dokumentasi cepat tersedia di API Quickstart Kimi K3.1 Pro.

Apakah model ini bisa dijalankan di server sendiri di Indonesia?

Secara teknis bisa, secara biaya belum tentu masuk akal untuk tim kecil. Bobot 2,8T parameter, bahkan dalam kuantisasi 8-bit, menuntut memori agregat yang jauh di atas satu GPU kelas workstation. Menjalankan sendiri berarti bicara soal klaster, bukan satu mesin. Untuk sebagian besar tim di Indonesia, jalur yang realistis adalah API atau penyedia inference yang sudah menyediakan model ini.

Ada satu pengecualian yang layak dipertimbangkan: kebutuhan kepatuhan data. Kalau data tidak boleh keluar dari infrastruktur sendiri, biaya klaster GPU adalah harga dari kepatuhan, bukan harga dari model. Dalam kasus itu, hitung dulu volume token bulanan, lalu bandingkan dengan biaya sewa GPU per jam. Angka itu yang menentukan, bukan benchmark publik.

Rincian lisensi dan ketentuan pemakaian ada di berkas lisensi resmi, sedangkan penjelasan proses training ada di blog teknis Moonshot.

Apa yang perlu diperiksa sebelum memakai model open-weight besar?

Ada empat hal yang wajib diperiksa, dan semuanya bisa dijawab dari dokumen resmi tanpa menebak. Pertama, lisensi: apakah pemakaian komersial diizinkan, apakah ada batasan jumlah pengguna, apakah ada kewajiban atribusi. Kedua, bentuk bobot: kuantisasi apa yang tersedia, karena itu menentukan perangkat keras minimum. Ketiga, kemampuan multimodal: model ini tercatat image-text-to-text, jadi input gambar masuk cakupan, tapi kualitas per modality perlu diuji sendiri. Keempat, jalur dukungan: siapa yang memperbaiki bug, dan seberapa cepat siklus rilisnya.

Yang tidak boleh dilakukan adalah menganggap nama besar sama dengan hasil bagus di domain spesifik. Untuk pekerjaan coding di basis kode internal, hasil terbaik biasanya datang dari evaluasi kecil: 30 sampai 50 tugas nyata dari repo sendiri, dinilai manual. Evaluasi itu lebih informatif daripada tabel benchmark umum yang tugasnya tidak menyerupai pekerjaan sehari-hari.

Bagaimana posisi Kimi K3.1 Pro dibanding model open-weight lain?

Perbandingan yang jujur harus memakai angka yang benar-benar dipublikasikan, dan untuk model ini angkanya adalah 2,8T total, 104B aktif, 93 layer, serta konteks 1 juta token. Perbandingan angka antar model lain tidak dimasukkan di sini karena tidak diambil dari sumber primer yang sama, dan mencampur angka dari metodologi berbeda menghasilkan kesimpulan palsu.

Yang bisa dibandingkan secara adil adalah bentuk arsitektur. Model MoE besar memberi kapasitas tinggi dengan biaya komputasi per token yang lebih rendah, tapi menuntut memori besar. Model dense kecil memberi kemudahan deployment dengan kapasitas terbatas. Pilihan tergantung mana yang jadi hambatan: anggaran GPU atau mutu jawaban.

Untuk memantau rilis bobot dan pembaruan berkas, pantau organisasi Moonshot AI di Hugging Face dan ModelScope.

Bagaimana menguji model sebesar ini dengan anggaran kecil?

Mulai dari tugas nyata, bukan dari benchmark umum. Ambil 20 sampai 30 contoh pekerjaan yang benar-benar muncul di tim, misalnya merangkum tiket bug panjang, menelusuri sumber regresi dari diff, atau menulis ulang satu modul dengan gaya internal. Simpan jawaban yang dianggap benar, lalu bandingkan keluaran model dengan jawaban itu. Biaya pengujian seperti ini biasanya jauh di bawah biaya berlangganan bulanan, dan hasilnya langsung relevan.

Kedua, ukur biaya per tugas, bukan biaya per token saja. Satu tugas dengan konteks panjang bisa memakan puluhan ribu token, sementara tugas lain cukup dua ribu. Yang menentukan anggaran bulanan adalah rata-rata token per tugas dikali jumlah tugas. Tanpa angka itu, perkiraan biaya hanya tebakan.

Ketiga, uji konsistensi. Jalankan tugas yang sama dua kali dengan prompt berbeda tipis. Kalau hasilnya berubah drastis, model itu belum layak dipakai untuk pekerjaan yang butuh keluaran stabil. Uji parafrase ini murah dan cepat, tapi paling sering dilewatkan.

Apa risiko memakai model open-weight besar?

Risiko pertama adalah lisensi, bukan teknis. Bobot yang bisa diunduh tidak otomatis boleh dipakai untuk produk komersial, dan lisensi khusus seperti kimi-k3.1-pro punya syarat sendiri. Membaca lisensi sebelum integrasi jauh lebih murah daripada membongkar fitur setelahnya.

Risiko kedua adalah reproduktibilitas. Model open-weight bisa diganti bobotnya oleh penerbit, dan pipeline inference pihak ketiga bisa mengubah kuantisasi tanpa pemberitahuan. Kalau hasil model masuk ke keputusan bisnis, simpan versi bobot dan konfigurasi yang dipakai. Tanpa itu, hasil yang berubah tidak bisa dijelaskan.

Risiko ketiga adalah ketergantungan pada satu penyedia. Model ini tersedia lewat API resmi dan beberapa penyedia inference, dan masing-masing bisa punya batas laju berbeda. Untuk layanan produksi, siapkan jalur cadangan sejak awal, karena satu penyedia yang sedang gangguan tidak boleh mematikan seluruh produk.

Apakah nama besar menjamin hasil bagus di pekerjaan spesifik?

Tidak. Model kelas frontier biasanya unggul di tugas umum, tapi keunggulan itu menyusut di domain yang punya konvensi internal kuat. Contohnya basis kode dengan gaya penamaan tidak lazim, dokumen dengan format perusahaan sendiri, atau data dengan istilah campuran Indonesia dan Inggris. Di domain seperti itu, model yang lebih kecil tapi diberi contoh dan aturan yang tepat sering mengalahkan model besar tanpa konteks.

Karena itu urutan evaluasi yang sehat adalah: uji model besar sebagai pembanding atas, lalu uji apakah model yang lebih murah bisa menyamai hasilnya dengan prompt yang lebih baik. Kalau bisa, biaya turun tanpa kehilangan mutu. Kalau tidak, baru pertimbangkan model besar untuk seluruh volume.

FAQ

Berapa parameter aktif Kimi K3.1 Pro?

104 miliar parameter aktif per token, dari total 2,8 triliun parameter. Angka ini tercantum di kartu model resmi, dan perbedaan besar antara total dan aktif adalah ciri arsitektur Mixture-of-Experts.

Apakah Kimi K3.1 Pro benar-benar open source?

Istilah yang tepat adalah open-weight, bukan open source. Bobot tersedia untuk diunduh, tapi lisensinya memakai nama sendiri, kimi-k3.1-pro, bukan lisensi open source standar. Isi lisensi perlu dibaca sebelum pemakaian komersial.

Berapa panjang konteks maksimumnya?

Satu juta token, sesuai keterangan resmi Moonshot. Konteks sepanjang itu memungkinkan satu repositori atau kumpulan dokumen besar diproses dalam satu permintaan, dengan konsekuensi biaya dan latensi yang lebih tinggi.

Bisakah dijalankan di satu GPU konsumen?

Tidak realistis untuk bobot penuh. Dengan 2,8 triliun parameter, kebutuhan memori jauh melampaui kapasitas satu GPU konsumen, bahkan setelah kuantisasi. Jalur praktis untuk tim kecil adalah API atau penyedia inference.

Apakah model ini mendukung input gambar?

Ya, pipeline yang tercatat adalah image-text-to-text dan model disebut natively multimodal. Kualitas untuk tugas gambar spesifik tetap perlu diuji sendiri, karena kartu model tidak menjamin performa merata di semua jenis input visual.

Rekomendasi Tools & Layanan

Mau langsung nyobain AI yang dibahas di artikel ini tanpa setup ribet? AI token plan Alibaba Cloud ngasih akses ke Qwen, DeepSeek, dan model lain lewat satu API, dan platform Qwen buat build agent sendiri. Free tier-nya cukup buat eksperimen pertama.