NVIDIA merilis AICR (AI Cluster Runtime) v1.0 pada 6 Oktober 2026, tooling open source yang menghasilkan resep konfigurasi cluster GPU Kubernetes yang tervalidasi dan bisa direproduksi. Masalah yang disasar nyata: cluster GPU bergantung pada puluhan komponen, masing-masing dengan siklus rilis sendiri, sehingga menjaga kombinasi versi yang kompatibel jadi pekerjaan manual yang rawan salah. Pengumumannya ada di blog developer NVIDIA.
TL;DR
- NVIDIA merilis AICR v1.0 pada 6 Oktober 2026 sebagai tooling open source untuk cluster GPU Kubernetes.
- Alurnya empat tahap: generate recipe, render bundle, deploy, lalu validate terhadap cluster nyata.
- Tersedia CLI, API server, dan langkah validasi yang membandingkan resep dengan cluster yang sedang berjalan.
- Prasyaratnya cluster Kubernetes berakselerasi GPU, kubectl, dan helm di PATH.
- AICR ditulis dengan Go dan repositorinya tersedia di GitHub NVIDIA.
Apa itu AICR dan masalah apa yang diselesaikannya?
AICR adalah singkatan dari AI Cluster Runtime, tooling untuk membangun runtime AI yang diakselerasi GPU di Kubernetes secara optimal, tervalidasi, dan bisa direproduksi. Masalah intinya adalah ketergantungan versi: driver GPU, kernel host, runtime kontainer, operator, dan sejumlah komponen lain berada pada siklus rilis yang berbeda-beda, dan kombinasi yang salah bisa membuat cluster gagal berjalan atau berperforma buruk.
Pendekatan AICR adalah mengganti pencocokan versi manual dengan resep yang dikunci versinya untuk lingkungan tertentu. Kamu mendeskripsikan targetmu, lalu AICR mencocokkannya dengan pustaka overlay yang sudah divalidasi. Hasilnya adalah daftar komponen beserta versi yang dipatok dan urutan deployment-nya, sehingga lingkungan bisa dibangun ulang dengan hasil yang sama.
Repositori proyeknya ada di GitHub NVIDIA/aicr, ditulis dengan bahasa Go dan berisi dokumentasi, katalog komponen, serta referensi CLI dan API. Kehadiran API server menunjukkan AICR tidak hanya dipakai sebagai alat baris perintah, tetapi juga bisa diintegrasikan ke alur otomatisasi yang lebih besar.
Bagaimana alur kerja AICR dari resep ke cluster berjalan?
Alur kerja AICR terdiri dari empat tahap yang berurutan. Tahap pertama menghasilkan resep berdasarkan kriteria lingkungan, tahap kedua merender resep menjadi bundle deployment, tahap ketiga memasang bundle ke cluster, dan tahap keempat memvalidasi cluster yang berjalan terhadap resep itu. Penjelasan langkah demi langkah tersedia di tutorial end-to-end AICR.
Pada tahap resep, kamu menyebut kriteria seperti layanan cloud, akselerator, sistem operasi, tujuan pemakaian, dan platform. AICR lalu mencocokkannya dengan overlay tervalidasi dan menulis berkas resep yang memuat komponen, versi yang dipatok, batasan deklaratif, dan urutan deployment. Kamu juga bisa memulai dari snapshot cluster yang sudah ada, bukan dari kriteria, bila ingin mereplikasi lingkungan berjalan.
Tahap bundling mengubah resep menjadi artefak siap pasang: satu folder per komponen berisi nilai Helm, plus README, berkas checksum, dan informasi bundle. Dengan deployer Helm default, bundle menyertakan skrip yang menjalankan instalasi sesuai urutan ketergantungan. Untuk tim yang memakai GitOps, ada jalur ke alat seperti Argo CD, Flux, atau Helmfile. Tabel berikut merangkum empat tahap itu.
| Tahap | Perintah inti | Keluaran |
|---|---|---|
| Generate recipe | aicr recipe | Berkas resep terkunci versi |
| Render bundle | aicr bundle | Folder per komponen plus skrip deploy |
| Deploy | deploy.sh | Komponen terpasang berurutan |
| Validate | aicr validate | Laporan cocok atau tidak terhadap resep |
Tahap validasi membandingkan resep dengan cluster langsung, dimulai dari batasan deklaratif lalu dilanjutkan fase opsional seperti deployment, performa, dan conformance. Menurut tutorialnya, jalur yang bersih keluar dengan kode 0, sehingga hasilnya bisa dipakai sebagai gerbang otomatis di pipeline, bukan sekadar laporan yang dibaca manusia.
Apa saja yang dibutuhkan untuk memakai AICR?
Prasyarat utamanya adalah cluster Kubernetes berakselerasi GPU yang bisa kamu deploy, misalnya EKS, GKE, AKS, atau cluster Kind/KWOK untuk uji coba. Kamu juga perlu kubectl yang sudah dikonfigurasi untuk menjangkau cluster tersebut, serta biner helm di PATH karena deployer default menghasilkan perintah Helm.
Menariknya, untuk menghasilkan resep atau bundle, kamu tidak perlu perangkat keras Nvidia sama sekali. Hanya tahap deploy dan validate yang menyentuh cluster nyata. Menurut tutorialnya, seluruh alur bisa dicoba dalam waktu sekitar 15 menit pada cluster non-produksi, menjadikannya cara murah untuk memahami keempat tahap sebelum menyentuh lingkungan sungguhan.
Pemasangan CLI-nya bisa lewat Homebrew dengan tap NVIDIA, atau lewat skrip instalasi resmi. Untuk konfigurasi lanjutan, dokumentasi proyek menyediakan referensi CLI lengkap dan katalog komponen yang menjelaskan setiap komponen yang bisa dimasukkan ke resep.
Apakah AICR hanya mendukung akselerator tertentu?
Tidak hanya satu, tetapi tidak semua kombinasi berstatus stabil. Kriteria akselerator, layanan cloud, sistem operasi, tujuan, dan platform punya daftar nilai yang sah dan dienumerasi di referensi CLI. Sebagian kombinasi masih berstatus Preview, misalnya jalur yang melibatkan akselerator VR200 dan kombinasi k0s dengan H200, sehingga perlu dicek lebih dulu di katalog komponen sebelum dipakai di produksi.
Konsepnya, AICR memisahkan overlay yang sudah divalidasi dari yang masih pratinjau. Kalau kombinasi targetmu masuk daftar Preview, artinya dukungannya ada tetapi belum matang sepenuhnya, dan kamu menanggung risiko lebih besar bila memakainya di beban kritis. Untuk pemakaian produksi, pilih koordinat yang berstatus stabil dan sesuai dengan lingkungan yang benar-benar kamu jalankan.
Kapan AICR v1.0 layak dipakai di produksi?
v1.0 menandai titik ketika antarmuka dan alur kerja proyek dianggap stabil, jadi masuk akal untuk diadopsi sebagai fondasi. Namun kelayakan di produksi tetap bergantung pada apakah kombinasi kriteria yang kamu butuhkan sudah masuk daftar tervalidasi. Kalau ya, AICR bisa menggantikan pencocokan versi manual yang rawan salah, sekaligus memberi gerbang validasi otomatis lewat exit code.
Untuk tim yang selama ini mencatat kombinasi versi di dokumen terpisah, nilai terbesarnya adalah reproducibility. Resep yang dikunci versi membuat lingkungan bisa dibangun ulang dan diverifikasi, bukan bergantung pada ingatan siapa yang terakhir memasang. Kalau kamu baru mulai, uji dulu di cluster non-produksi mengikuti tutorial, lalu naikkan ke lingkungan nyata setelah respeknya cocok.
Satu hal yang perlu diperhatikan: karena validasi bisa membandingkan cluster langsung dengan resep, AICR juga berguna untuk mendeteksi penyimpangan konfigurasi dari waktu ke waktu. Dengan kata lain, alat ini tidak berhenti dipakai saat deployment selesai, tetapi bisa menjadi bagian dari pemeriksaan rutin.
Apa itu recipe dan kenapa versinya dikunci?
Recipe adalah konfigurasi untuk lingkungan tertentu yang mencatat komponen apa saja yang dipasang, versi yang dipatok, batasan deklaratif, dan urutan deployment. Versinya dikunci supaya lingkungan bisa dibangun ulang dengan hasil yang sama. Tanpa penguncian versi, dua cluster yang dibangun dari daftar yang sama bisa berakhir berbeda karena komponennya terus berubah di hulu, dan penyimpangan itu sulit dilacak setelah kejadian.
Karena AICR mencocokkan kriteria dengan pustaka overlay yang sudah divalidasi, kamu tidak perlu menentukan sendiri setiap versi komponen. Kamu mendeskripsikan target, dan AICR memilih kombinasi yang sudah diuji. Pendekatan ini memindahkan pengetahuan kombinasi versi dari dokumen internal tim ke pustaka yang bisa dipakai ulang.
Bagaimana AICR menangani alur GitOps?
Deployer default AICR menghasilkan perintah Helm, tetapi bundler-nya bisa diarahkan ke alat GitOps seperti Argo CD, Flux, atau Helmfile. Artinya, bundle yang dihasilkan bisa masuk ke repositori Git dan dikelola dengan alur yang sudah kamu pakai, bukan dipaksa memakai satu cara deployment. Untuk tim yang sudah punya pipeline GitOps, ini mengurangi pekerjaan integrasi.
Bundle juga menyertakan checksum dan informasi bundle, sehingga ada jejak artefak yang bisa diverifikasi. Dalam praktik GitOps, checksum semacam ini berguna untuk memastikan yang dipasang di cluster sama dengan yang disetujui di repositori.
Apa bedanya memakai kriteria dan memakai snapshot?
Dengan kriteria, kamu mendeskripsikan lingkungan target memakai flag seperti layanan, akselerator, sistem operasi, tujuan, dan platform, lalu AICR memilih overlay yang cocok. Dengan snapshot, kamu menangkap kondisi cluster yang sudah berjalan lebih dulu, lalu memakainya sebagai titik awal resep. Cara pertama cocok untuk membangun lingkungan baru, sedangkan cara kedua cocok untuk mereplikasi atau mendokumentasikan lingkungan yang sudah ada.
Keduanya mengarah ke keluaran yang sama, yaitu resep terkunci versi. Bedanya hanya titik berangkatnya. Untuk migrasi, snapshot sering lebih praktis karena menangkap apa yang benar-benar berjalan, bukan apa yang diinginkan di dokumen.
Apakah AICR menggantikan alat lain?
Bukan sepenuhnya. AICR berfokus pada pemilihan kombinasi versi yang tervalidasi dan validasi cluster terhadap resep. Alat lain tetap dipakai untuk hal di luar lingkup itu, misalnya pemantauan, kebijakan keamanan, atau manajemen rahasia. Posisi AICR lebih tepat dipahami sebagai lapisan yang menyatukan konfigurasi runtime AI dan memastikan kombinasinya konsisten, bukan pengganti seluruh toolchain Kubernetes.
Karena itu, adopsinya biasanya bertahap: mulai dari generate recipe untuk mendokumentasikan kombinasi yang dipakai, lalu tambahkan validasi otomatis, baru integrasikan ke pipeline GitOps. Pendekatan bertahap ini menurunkan risiko dan memberi waktu tim membiasakan diri dengan alur empat tahapnya.
FAQ
Apa singkatan AICR dan siapa yang mengembangkannya?
AICR adalah singkatan dari AI Cluster Runtime, dikembangkan oleh NVIDIA dan dirilis sebagai tooling open source di GitHub. Fungsinya menghasilkan konfigurasi cluster GPU Kubernetes yang tervalidasi dan bisa direproduksi.
Apakah saya perlu GPU Nvidia untuk mencoba AICR?
Tidak untuk tahap awal. Menghasilkan resep dan bundle tidak butuh perangkat keras Nvidia; hanya tahap deploy dan validate yang menyentuh cluster nyata. Kamu bisa memakai cluster Kind atau KWOK untuk latihan tanpa GPU.
Perintah apa saja yang tersedia di CLI AICR?
Antara lain aicr recipe untuk menghasilkan resep, aicr bundle untuk merender bundle, aicr validate untuk memvalidasi cluster, aicr query untuk memeriksa nilai, dan aicr snapshot untuk menangkap kondisi cluster. Detail lengkapnya ada di referensi CLI proyek.
Apakah AICR mendukung alat GitOps seperti Argo CD?
Ya. Deployer default menghasilkan perintah Helm, tetapi dokumentasi bundling menyebut jalur untuk alat GitOps seperti Argo CD, Flux, dan Helmfile, sehingga bundle bisa diintegrasikan ke alur yang sudah kamu pakai.
Apa artinya kalau kombinasi saya berstatus Preview?
Artinya dukungannya ada tetapi belum matang sepenuhnya. Untuk produksi, sebaiknya pilih kombinasi yang berstatus stabil, dan uji dulu di lingkungan non-produksi bila kamu ingin memakai jalur pratinjau.
💬 Komentar (0)
Belum ada komentar. Jadilah yang pertama! 💬