Mistral Large 4: MoE 1,05T Parameter, Konteks 1 Juta Token

Mistral Large 4 masuk public preview pada 6 Oktober 2026 sebagai model open-weight serbaguna yang multimodal, dengan arsitektur Mixture-of-Experts bergranularitas halus. Angkanya: 52 miliar parameter aktif, 1,05 triliun parameter total, dan encoder visi 1,6 miliar parameter. Konteksnya 1 juta token. Harga resminya 1,36 dolar per juta token input, 0,14 dolar per juta token input yang kena cache, dan 4,18 dolar per juta token output. Bagi tim yang memakai API berbayar, kombinasi konteks sejuta token dan harga input di kisaran satu dolar ini mengubah perhitungan biaya untuk beban kerja dokumen panjang.

TL;DR

• Mistral Large 4 rilis public preview 6 Oktober 2026, open-weight dan multimodal.
• Arsitektur MoE: 52B parameter aktif dari total 1,05T, plus encoder visi 1,6B.
• Konteks 1 juta token dengan harga 1,36 dolar per juta token input.
• Token input yang kena cache turun ke 0,14 dolar per juta, sepuluh kali lebih murah.

Berapa ukuran dan biaya Mistral Large 4?

Model ini punya 52 miliar parameter aktif dan 1,05 triliun parameter total, dengan konteks 1 juta token. Harga per juta token: 1,36 dolar untuk input, 0,14 dolar untuk input yang terkena cache, dan 4,18 dolar untuk output.

Angka parameter aktif itulah yang menentukan biaya komputasi per token. Pada arsitektur Mixture-of-Experts, hanya sebagian parameter yang dijalankan untuk setiap token, sehingga model dengan total parameter sangat besar masih bisa melayani permintaan dengan biaya yang jauh lebih rendah daripada kalau seluruh parameter dijalankan. Rasio antara parameter aktif dan total di model ini sekitar 5 persen, dan rasio itulah yang membuat harga input bisa ditekan ke kisaran 1,36 dolar meski ukuran totalnya tiga digit triliun.

Untuk perhitungan kasar, satu juta token input penuh tanpa cache berbiaya 1,36 dolar, sementara output dengan jumlah token yang sama berbiaya 4,18 dolar. Artinya output sekitar tiga kali lebih mahal daripada input. Beban kerja yang banyak membaca dan sedikit menulis, misalnya ringkasan dokumen panjang atau pencarian di dalam kumpulan berkas, akan jauh lebih murah daripada beban kerja yang banyak menghasilkan teks baru.

Komponen	Nilai	Implikasi praktis
Parameter aktif	52 miliar	Menentukan biaya komputasi per token
Parameter total	1,05 triliun	Kapasitas pengetahuan model
Encoder visi	1,6 miliar	Modalitas gambar ditangani terpisah
Konteks	1 juta token	Cukup untuk dokumen sangat panjang
Harga input	1,36 dolar per juta token	Biaya baca dokumen
Harga input cache	0,14 dolar per juta token	Sekitar 10 kali lebih murah untuk prefix berulang
Harga output	4,18 dolar per juta token	Bagian termahal, kendalikan panjang jawaban

Apakah Mistral Large 4 benar-benar open-weight?

Ya, dokumentasi resminya menyebut Mistral Large 4 sebagai model open-weight. Bedanya dengan model tertutup: bobot tersedia, sehingga model bisa dijalankan di infrastruktur sendiri, bukan hanya lewat API berbayar.

Konsekuensi praktisnya penting untuk tim yang punya batasan data. Model open-weight memungkinkan pemrosesan tanpa mengirim data ke penyedia pihak ketiga, dengan konsekuensi biaya infrastruktur berpindah ke sisi pengguna. Untuk model seukuran ini, menjalankan sendiri bukan perkara sepele: butuh GPU dengan memori besar, dan meski hanya 52 miliar parameter aktif yang dijalankan per token, seluruh bobot tetap harus tersedia di memori.

Karena statusnya masih public preview, sebaiknya jangan menganggap bobot dan antarmuka API sudah final. Detail model dan harga tercantum di halaman model Mistral Large 4, dan daftar model lain beserta perbandingannya ada di indeks model Mistral.

Fitur apa yang tersedia lewat API?

Yang tersedia antara lain structured outputs, function calling, document QnA, prefix, chat completions, batching, agents and conversations, serta built-in tools. Sebagian besar bisa diakses lewat endpoint chat completions, sementara fitur agents dan conversations memakai endpoint tersendiri.

Structured outputs berguna ketika hasil model harus langsung masuk ke sistem lain, misalnya ekstraksi field dari dokumen menjadi JSON. Function calling memungkinkan model memanggil fungsi yang disediakan aplikasi, pola yang sekarang jadi dasar sebagian besar alur agent. Document QnA dan konteks 1 juta token saling melengkapi: dokumen panjang bisa dikirim utuh tanpa dipotong menjadi banyak chunk lebih dulu.

Batching relevan untuk beban kerja yang tidak butuh jawaban seketika. Kalau pemrosesan bisa ditunda, mengirim permintaan dalam batch biasanya lebih murah dan lebih mudah diatur daripada mengirim satu per satu pada jam sibuk. Untuk pemakaian agent, built-in tools dan endpoint conversations mengurangi jumlah kode yang harus ditulis sendiri untuk mengelola riwayat percakapan.

Kapan sebaiknya memakai Mistral Large 4?

Paling masuk akal ketika dokumen yang diproses sangat panjang, ketika data tidak boleh keluar dari infrastruktur sendiri, atau ketika input mendominasi biaya. Untuk tugas pendek dan sederhana, model yang lebih kecil biasanya lebih hemat.

Pertimbangan pertama adalah panjang konteks. Kalau beban kerja memang memerlukan ratusan ribu token per permintaan, konteks 1 juta token menghilangkan kebutuhan memecah dokumen dan menggabungkan hasilnya, yang sering menjadi sumber kesalahan pada pipeline retrieval. Pertimbangan kedua adalah cache. Kalau setiap permintaan memakai prefix panjang yang sama, misalnya instruksi sistem yang detail atau potongan dokumen referensi, harga input yang kena cache turun ke 0,14 dolar per juta token, dan penghematannya menumpuk cepat pada volume tinggi.

Pertimbangan ketiga adalah kepemilikan data. Model open-weight memberi jalan keluar bagi organisasi yang tidak bisa memakai API pihak ketiga karena aturan internal. Tapi itu keputusan infrastruktur, bukan keputusan model semata: biaya GPU, operasional, dan pemeliharaan harus dihitung dengan jujur sebelum memilih jalur ini.

Apa yang belum bisa dinilai dari data publik?

Belum ada data publik yang dipakai di sini untuk kecepatan inferensi dan hasil benchmark. Halaman model mencantumkan bagian speed dan performance, tapi angka pembandingnya tidak tersedia dalam sumber yang dipakai artikel ini.

Itu berarti klaim soal model ini lebih cepat atau lebih akurat daripada model lain belum bisa diverifikasi dari sumber primer. Yang bisa dipastikan hanya angka arsitektur, panjang konteks, dan harga, karena ketiganya tercantum eksplisit di dokumentasi resmi. Untuk perbandingan kualitas, satu-satunya cara yang bisa dipertanggungjawabkan adalah mengujinya sendiri pada data milik sendiri, dengan set evaluasi yang sama seperti yang dipakai untuk model yang sekarang berjalan.

Status public preview juga berarti API bisa berubah. Untuk produksi, pola yang aman adalah membungkus pemanggilan model di balik lapisan abstraksi sendiri, sehingga pergantian model atau perubahan parameter tidak merambat ke seluruh kode aplikasi. Ini berlaku umum, bukan khusus untuk model ini, tapi jadi lebih penting ketika model yang dipakai masih berstatus preview.

Informasi harga dan ketersediaan terbaru sebaiknya dicek langsung di halaman harga Mistral sebelum menghitung anggaran, karena angka di artikel ini mengacu pada dokumentasi per 6 Oktober 2026. Untuk yang memilih jalur open-weight, organisasi model di GitHub Mistral adalah tempat memantau rilis bobot dan tooling pendukungnya.

Apa arti arsitektur Mixture-of-Experts bergranularitas halus?

Artinya model dibagi menjadi banyak expert kecil, dan hanya sebagian yang dijalankan untuk setiap token. Pada Mistral Large 4, dari 1,05 triliun parameter total, yang aktif sekitar 52 miliar, atau sekitar 5 persen.

Granularitas halus berarti pembagian expert-nya lebih banyak dan lebih kecil dibanding model MoE dengan sedikit expert besar. Efek yang diharapkan adalah routing yang lebih tepat, karena setiap token bisa memilih kombinasi expert yang lebih spesifik. Efek sampingnya, jumlah keputusan routing per token naik, sehingga implementasi inference-nya harus efisien agar keuntungan biaya tidak habis di jalur routing.

Bagi pengguna API, detail ini tidak perlu dipikirkan. Yang perlu dipahami hanya konsekuensinya: biaya per token jauh lebih rendah daripada model padat dengan ukuran total serupa, sementara kebutuhan memori untuk menjalankan sendiri tetap mengikuti ukuran total, bukan ukuran aktif.

Bagaimana menghitung biaya untuk beban kerja nyata?

Hitung tiga komponen terpisah: token input biasa, token input yang kena cache, dan token output. Tanpa memisahkan ketiganya, perkiraan biaya akan meleset cukup jauh pada beban kerja yang punya prefix panjang berulang.

Contoh kasusnya begini. Sebuah pipeline memproses 1.000 dokumen, masing-masing 20.000 token input, dan menghasilkan 1.000 token output per dokumen. Total input 20 juta token dan output 1 juta token. Dengan harga resmi, biaya input penuh 27,2 dolar dan biaya output 4,18 dolar. Kalau instruksi sistem sepanjang 5.000 token sama untuk semua dokumen dan bisa memakai cache, seperempat dari input masuk tarif cache, dan penghematannya sekitar 6 dolar pada satu putaran saja. Hitungan ini hanya ilustrasi aritmetika dari harga resmi, bukan proyeksi biaya untuk kasus tertentu.

Apakah konteks 1 juta token berarti semua dokumen bisa dikirim utuh?

Secara teknis batasnya 1 juta token, tapi keputusan mengirim dokumen utuh tetap soal biaya. Semakin panjang input, semakin besar biaya per permintaan, meski tarifnya per token.

Untuk dokumen yang jarang dibaca ulang, pemotongan menjadi bagian relevan masih lebih hemat daripada mengirim seluruh dokumen setiap kali. Konteks panjang paling berguna ketika isi dokumen memang perlu dibaca menyeluruh, misalnya kontrak atau laporan keuangan, atau ketika prefix panjang bisa memakai cache sehingga tarifnya turun.

FAQ

Berapa panjang konteks Mistral Large 4?

Satu juta token, sesuai yang tercantum di halaman model. Ini cukup untuk mengirim dokumen sangat panjang dalam satu permintaan tanpa pemotongan manual.

Apakah Mistral Large 4 bisa memproses gambar?

Bisa. Model ini multimodal dan dilengkapi encoder visi 1,6 miliar parameter, sehingga input gambar bisa ditangani bersama teks dalam satu permintaan.

Berapa biaya output dibanding input?

Output 4,18 dolar per juta token, input 1,36 dolar per juta token. Artinya output sekitar tiga kali lebih mahal, dan input yang kena cache sepuluh kali lebih murah dari input biasa.

Apakah model ini sudah stabil untuk produksi?

Statusnya masih public preview per 6 Oktober 2026, jadi API dan bobot bisa berubah. Untuk produksi, bungkus pemanggilan di lapisan abstraksi agar perubahan tidak merambat ke seluruh aplikasi.