Ollama 0.40.14: Batas Token Claude dan Sampler Kompatibel OpenAI

Ollama merilis v0.40.14 pada 3 November 2026 pukul 01:40 UTC dengan perbaikan utama pada kompatibilitas OpenAI dan alur launch untuk alat pihak ketiga. Tiga perubahan paling berdampak: perintah ollama launch claude kini menerapkan batas token keluaran milik model sehingga model cloud tidak lagi tertahan pada batas default 128k, endpoint kompatibel OpenAI tidak lagi menimpa nilai sampler bawaan model, dan respons web search pada endpoint /api/chat didekode dengan benar termasuk yang terkompresi. Catatan lengkapnya ada di halaman rilis v0.40.14.

TL;DR

• Ollama v0.40.14 terbit 3 November 2026, menyusul v0.40.13 pada 28 Oktober 2026 dan v0.40.15-rc1 pada 3 November 2026.
• Batas token keluaran model kini diterapkan pada ollama launch claude, menggantikan batas default 128k yang sebelumnya memotong model cloud.
• Endpoint kompatibel OpenAI berhenti memaksa nilai temperature dan top_p menjadi 1,0 ketika klien tidak mengirim parameter tersebut.
• v0.40.13 menambahkan dukungan model LFM3 dari Liquid AI di Linux dan Windows, termasuk varian audio dan omni.
• v0.40.15-rc1 menambahkan dukungan model MiMo V2.6 dan memuat pustaka CUDA bawaan secara in-process pada Linux.

Pola perubahan pada tiga rilis ini menunjukkan arah yang konsisten: Ollama bergerak dari sekadar menjalankan model lokal menjadi lapisan kompatibilitas antara model dan alat pengembangan yang sudah ada. Banyak perubahan kecil pada rilis ini tidak menambah kemampuan model, tetapi memperbaiki cara parameter dari klien dan dari model saling bertemu.

Apa yang berubah pada endpoint kompatibel OpenAI?

Endpoint kompatibel OpenAI tidak lagi menimpa nilai sampler bawaan model ketika klien tidak mengirim parameter temperature atau top_p. Klien yang tidak mengirim dua parameter itu sekarang menerima nilai milik model, sama seperti perilaku endpoint /api/chat.

Perubahan ini terdengar teknis, tetapi efeknya terasa langsung pada kualitas keluaran. Sebelum perbaikan, klien yang tidak menyetel temperature akan mendapat nilai 1,0, dan nilai itu membuat keluaran lebih acak dibanding nilai bawaan yang dipaketkan bersama model. Model yang dirancang untuk menjawab dengan temperature rendah bisa terlihat tidak konsisten hanya karena kliennya tidak mengirim parameter, bukan karena modelnya bermasalah.

Bagi tim yang memakai pustaka klien OpenAI untuk menyambung ke Ollama, ini berarti perilaku keluaran bisa berubah setelah upgrade. Perubahannya ke arah yang lebih sesuai dengan maksud model, tetapi tetap perlu diuji, terutama pada aplikasi yang mengandalkan keluaran deterministik. Praktik yang aman adalah mengirim parameter secara eksplisit jika aplikasi memang bergantung pada satu nilai tertentu, dan membiarkan nilai bawaan hanya untuk pemakaian yang tidak sensitif terhadap variasi.

Kenapa batas 128k pada ollama launch claude penting?

Karena perintah ollama launch claude kini menerapkan batas token keluaran milik model, sehingga model cloud tidak lagi berhenti pada batas default 128k. Sebelum perbaikan, batas itu berlaku seragam dan memotong model yang sebenarnya mampu mengeluarkan lebih banyak token.

Batas keluaran adalah salah satu parameter yang paling sering disalahpahami. Angka 128k pada konteks berbeda dengan angka pada keluaran: konteks menentukan berapa banyak masukan yang bisa dibaca, sedangkan batas keluaran menentukan berapa panjang jawaban yang bisa dihasilkan. Ketika keduanya dianggap sama, hasilnya adalah model yang tampak tiba-tiba berhenti di tengah jawaban panjang meskipun jendela konteksnya masih lapang.

Perbaikan ini juga menyentuh alat lain. Pada rilis yang sama, ollama launch codex kini memverifikasi perutean ChatGPT sebelum melakukan konfigurasi, dan memberikan pesan kesalahan yang jelas jika perutean tidak tersedia. Pendekatan yang sama terlihat pada aplikasi Ollama yang sekarang bisa mengulang koneksi ChatGPT yang terputus, bukan meninggalkan koneksi dalam keadaan rusak.

Yang menarik, ketiga perubahan itu berbicara tentang hal yang sama: kegagalan diam. Batas token yang salah dan koneksi yang rusak tanpa pesan keduanya menghasilkan gejala yang membingungkan, karena pengguna melihat keluaran yang terpotong atau sesi yang berhenti tanpa penjelasan. Menambahkan verifikasi dan pesan kesalahan tidak menambah kemampuan model, tetapi memotong waktu yang dihabiskan untuk menebak penyebab.

Dua perubahan lain pada rilis yang sama bergerak di arah yang serupa. Respons web search pada endpoint /api/chat kini didekode dengan benar, termasuk respons yang terkompresi, sehingga hasil pencarian tidak lagi muncul sebagai data yang tidak terbaca. Endpoint /v1/responses juga kini mempertahankan isi masukan yang bisa dibaca, termasuk penolakan dari asisten sebelumnya, alih-alih meratakannya menjadi satu bentuk seragam.

Perubahan pada /v1/responses punya efek yang tidak langsung terlihat. Ketika riwayat percakapan diratakan, model kehilangan konteks tentang apa yang sebelumnya ditolak, sehingga pertanyaan lanjutan bisa dijawab seolah penolakan itu tidak pernah terjadi. Mempertahankan isi asli membuat percakapan multi putaran lebih konsisten, dan konsistensi itu biasanya baru terasa pada sesi panjang yang memuat beberapa koreksi.

Model apa yang didukung pada rilis ini?

v0.40.13 menambahkan dukungan LFM3 dari Liquid AI di Linux dan Windows, termasuk varian lfm3-audio untuk text-to-speech dan lfm3-omni. v0.40.15-rc1 menambahkan dukungan model MiMo V2.6 dan memuat pustaka CUDA bawaan secara in-process pada Linux.

Dukungan LFM3 di Linux dan Windows melengkapi cakupan yang sebelumnya hanya tersedia di Apple silicon. Bagi pengguna yang menjalankan server Linux, ini membuka pilihan model yang sebelumnya tidak bisa dipakai di mesin tanpa chip Apple. Varian audio menambah kemampuan text-to-speech, dan varian omni menggabungkan beberapa modalitas dalam satu model.

Perlu dicatat, v0.40.15 masih berstatus kandidat rilis pada saat artikel ini ditulis. Status rc berarti perubahan sudah masuk tetapi belum ditandai stabil, sehingga untuk pemakaian produksi sebaiknya tetap mengacu pada rilis stabil terakhir, yaitu v0.40.14, sampai versi final keluar.

Status kandidat juga memengaruhi cara membaca catatan rilisnya. Dua baris perubahan pada v0.40.15-rc1 menyebut pemuatan pustaka CUDA bawaan secara in-process di Linux dan dukungan model MiMo V2.6. Keduanya berguna untuk diuji, tetapi belum menjadi dasar yang aman untuk mengubah konfigurasi layanan yang sedang melayani pengguna.

Berikut ringkasan tiga rilis terakhir:

Versi	Tanggal	Status	Isi utama
v0.40.13	2026-10-28	stabil	LFM3 di Linux dan Windows, termasuk lfm3-audio dan lfm3-omni
v0.40.14	2026-11-03	stabil	Batas token pada launch claude, sampler OpenAI, dekode web search
v0.40.15-rc1	2026-11-03	kandidat	MiMo V2.6, pustaka CUDA bawaan dimuat in-process di Linux

Bagi tim yang memelihara pipeline sendiri, ada satu implikasi yang mudah terlewat. Setiap penambahan model baru biasanya disertai perubahan pada cara parameter dipaketkan, dan perubahan itulah yang muncul di rilis berikutnya sebagai perbaikan. Karena itu, mengikuti catatan rilis secara rutin lebih berguna daripada hanya memperbarui versi ketika ada model baru yang ingin dicoba.

Bagaimana menguji upgrade tanpa mengganggu layanan?

Cara paling aman adalah menjalankan versi baru di port berbeda, mengarahkan sebagian trafik ke sana, lalu membandingkan keluaran pada prompt yang sama. Perbandingan itu perlu dilakukan sebelum mengganti layanan utama, karena perubahan pada nilai sampler bawaan bisa mengubah keluaran tanpa mengubah model sama sekali.

Uji minimum yang informatif mencakup empat hal. Pertama, permintaan tanpa parameter sampler, untuk melihat nilai bawaan mana yang benar-benar dipakai. Kedua, permintaan dengan temperature eksplisit, untuk memastikan parameter dari klien dihormati. Ketiga, permintaan melalui endpoint kompatibel OpenAI dan melalui /api/chat dengan prompt identik, untuk melihat apakah keduanya masih menghasilkan perilaku yang sebanding. Keempat, permintaan panjang, untuk memeriksa apakah batas keluaran berlaku sesuai model.

Untuk pemakaian dengan alat pengembangan seperti Claude Code atau Codex, uji tambahan berupa satu tugas nyata lebih berguna daripada serangkaian prompt pendek. Tugas nyata memaksa model mengeluarkan jawaban panjang, dan pada panjang itulah batas token serta perilaku sampler biasanya baru terlihat.

Satu hal yang perlu dijaga: jangan membandingkan keluaran dari dua versi berbeda menggunakan prompt yang dirancang untuk satu versi saja. Kalau prompt itu menyebut nama parameter atau format keluaran yang khas satu versi, perbandingannya tidak lagi mengukur perilaku model, melainkan mengukur kecocokan prompt dengan versi tersebut.

Untuk tim yang menjalankan beberapa model sekaligus, uji perbandingan sebaiknya dijalankan per model, bukan digabung. Nilai sampler bawaan berbeda antar model, sehingga satu prompt yang menghasilkan keluaran wajar pada satu model bisa terlihat buruk pada model lain hanya karena nilai bawaannya berbeda. Memisahkan hasil per model membuat perbedaan itu terlihat sebagai perbedaan model, bukan sebagai regresi versi.

Setelah pengujian selesai, catat versi yang dipakai bersama prompt uji dan keluarannya. Catatan itu terlihat sepele, tetapi menjadi satu-satunya cara memisahkan penyebab ketika pada suatu hari keluaran berubah: perubahan bisa berasal dari versi, dari model, atau dari alat yang memanggilnya, dan tanpa catatan ketiganya sulit dibedakan.

FAQ

Apakah v0.40.15-rc1 aman dipakai di produksi?

Sebaiknya tidak. Status rc menandakan kandidat rilis yang belum ditandai stabil, sehingga untuk layanan produksi acuan yang tepat adalah v0.40.14. Kandidat rilis berguna untuk pengujian awal, terutama bila ingin mencoba dukungan model baru lebih dulu.

Kenapa keluaran saya berubah setelah upgrade ke v0.40.14?

Kemungkinan besar karena endpoint kompatibel OpenAI tidak lagi memaksa nilai temperature dan top_p menjadi 1,0. Klien yang tidak mengirim parameter kini memakai nilai bawaan model, sehingga keluarannya berbeda dari sebelumnya meskipun modelnya sama.

Apakah batas 128k pada launch claude berarti batas konteks?

Bukan. Angka itu merujuk pada batas token keluaran default yang sebelumnya diterapkan seragam. Setelah perbaikan, batas yang dipakai mengikuti nilai milik model, sehingga model cloud yang mampu mengeluarkan lebih banyak token tidak lagi terpotong.

Apakah LFM3 bisa dijalankan di server Linux biasa?

Menurut catatan rilis v0.40.13, model LFM3 dari Liquid AI kini tersedia di Linux dan Windows selain Apple silicon. Kebutuhan perangkat keras tetap bergantung pada ukuran model dan kuantisasi yang dipilih, dan angka pastinya sebaiknya diperiksa di halaman model terkait.