Conduct: Guardrails Open-Source untuk Tool Call LLM dan Agent AI

Ketika agent AI mulai memegang akses ke tool, database, dan sistem internal, pertanyaan keamanan yang paling penting bukan lagi bagaimana model berpikir, tetapi apa yang boleh dan tidak boleh dilakukan agent tersebut. Runtime firewall mencatat apa yang terjadi, tetapi itu terjadi setelah eksekusi. Pendekatan yang lebih baik adalah mengontrol sejak awal: policy yang jelas, verifikasi sebelum tool call dieksekusi, dan kegagalan yang aman secara default.

Artikel ini membahas Conduct, proyek open-source yang membangun lapisan governance untuk agent AI dan tool call LLM. Conduct memposisikan dirinya sebagai control plane: bukan sekadar log, tetapi gerbang yang memutuskan apakah sebuah aksi boleh berjalan.

Masalah: Log Saja Tidak Cukup

Banyak platform AI saat ini hanya menyediakan observability. Mereka merekam setiap tool call, setiap prompt, dan setiap respons, lalu menampilkannya di dashboard yang rapi. Informasi ini berguna untuk debugging dan audit, tetapi tidak mencegah apa pun. Kalau sebuah agent menghapus data produksi karena prompt injection, log hanya akan menunjukkan bahwa itu terjadi, bukan menghentikannya.

Masalah kedua adalah kepercayaan. Dalam environment multi-agent, sulit untuk memverifikasi bahwa sebuah tool call benar-benar berasal dari agent yang sah, dengan tujuan yang sah, dan tidak dimanipulasi oleh pihak lain. Tanpa mekanisme verifikasi, satu agent yang terkompromi bisa menjadi pintu masuk ke seluruh sistem.

Conduct mencoba menjawab kedua masalah ini dengan pendekatan yang berbeda: kontrol sebelum eksekusi, policy yang bisa diverifikasi, dan desain yang gagal dengan aman.

Apa Itu Conduct

Conduct adalah open-source AI agent governance yang dirancang untuk tim. Positioning-nya jelas: runtime firewall memberi tahu apa yang terjadi, sedangkan Conduct Guard mengontrol apa yang bisa terjadi. Artinya, Conduct bekerja di level keputusan, bukan hanya level pencatatan.

Komponen utamanya meliputi:

• Policy yang ditandatangani secara kriptografis, sehingga tidak bisa diubah diam-diam.
• Verifikasi rantai eksekusi, untuk memastikan setiap langkah berasal dari sumber yang sah.
• Fail-closed secara default: kalau ragu, blokir.
• Router yang berfungsi sebagai LLM proxy, sehingga semua traffic model melewati kontrol.
• Lebih dari 20 compliance pack yang siap pakai untuk berbagai kebutuhan industri.
• Canvas UI untuk memvisualisasikan alur agent dan playbook engine untuk otomatisasi respons.

Dengan kata lain, Conduct menyediakan infrastruktur keamanan yang bisa dipasang di sekitar agent AI, tanpa mengharuskan tim menulis semuanya dari nol.

Policy yang Ditandatangani

Salah satu ide kunci di Conduct adalah policy yang ditandatangani. Policy ini bukan sekadar file konfigurasi yang bisa diedit siapa pun, tetapi memiliki tanda tangan kriptografis yang memastikan keaslian dan integritasnya. Kalau ada pihak yang mencoba mengubah isi policy, tanda tangan tidak akan cocok, dan sistem bisa menolak untuk beroperasi.

Ini penting dalam environment di mana banyak agent berjalan dan banyak pihak yang terlibat. Policy yang ditandatangani memberikan jaminan bahwa aturan yang berlaku adalah aturan yang disetujui, bukan aturan yang disisipkan oleh pihak ketiga. Ini juga mempermudah audit: setiap keputusan bisa dilacak ke policy versi tertentu.

Pendekatan ini sejalan dengan prinsip zero trust: jangan percaya apa pun secara default, verifikasi semuanya. Bahkan policy yang mengatur keamanan pun perlu diverifikasi.

Verifikasi Rantai Eksekusi

Agent AI modern tidak bekerja sendiri. Satu tugas bisa melibatkan beberapa agent, beberapa model, dan puluhan tool call. Di sinilah verifikasi rantai eksekusi menjadi penting. Conduct melacak setiap langkah dalam rantai tersebut dan memverifikasi bahwa setiap langkah sesuai dengan policy.

Kalau sebuah agent mencoba memanggil tool yang tidak diizinkan, atau memanggil tool dengan argumen yang mencurigakan, Conduct bisa menghentikan eksekusi di titik itu. Bukan hanya mencatatnya, tetapi benar-benar memblokirnya. Ini adalah perbedaan mendasar antara observability dan control.

Verifikasi rantai juga membantu mendeteksi pola serangan seperti prompt injection, di mana instruksi berbahaya disisipkan ke dalam data yang diproses agent. Dengan memeriksa setiap langkah, Conduct bisa mengenali ketika agent mulai menyimpang dari perilaku yang diharapkan.

Fail-Closed Secara Default

Prinsip fail-closed adalah salah satu keputusan desain paling penting di Conduct. Secara default, kalau sistem tidak bisa memastikan bahwa sebuah aksi aman, aksi itu ditolak. Tidak ada asumsi bahwa semuanya berjalan baik sampai terbukti sebaliknya.

Ini berbeda dengan pendekatan fail-open yang banyak dipakai di sistem lain, di mana kalau policy tidak jelas, aksi tetap diizinkan dan dicatat. Fail-open lebih nyaman untuk developer karena tidak menghambat pekerjaan, tetapi jauh lebih berbahaya: satu celah policy berarti satu jalan masuk.

Fail-closed memang bisa terasa mengganggu di awal, karena banyak aksi yang sah akan ditolak sampai policy diatur dengan benar. Tetapi untuk sistem yang menangani data sensitif, ini adalah trade-off yang wajar. Lebih baik memblokir aksi yang sah sekali daripada membiarkan aksi berbahaya terjadi seribu kali.

Router dan Compliance Pack

Conduct dilengkapi dengan Router, sebuah LLM proxy yang membuat semua traffic model melewati satu titik kontrol. Dengan proxy ini, tim bisa menerapkan policy di satu tempat dan memastikan semua agent, apapun model yang mereka pakai, tunduk pada aturan yang sama.

Selain itu, tersedia lebih dari 20 compliance pack yang siap pakai. Pack ini berisi aturan-aturan yang disesuaikan dengan kebutuhan industri, seperti keuangan, kesehatan, atau pemerintahan. Tim tidak perlu memulai dari halaman kosong; mereka bisa memilih pack yang relevan dan menyesuaikannya.

Canvas UI membantu tim memahami apa yang sedang terjadi di dalam sistem. Visualisasi alur agent, rantai tool call, dan keputusan policy membuat proses audit lebih mudah, bahkan bagi orang yang bukan ahli keamanan.

Kapan Conduct Layak Dipakai

Conduct paling berguna ketika tim sudah memiliki agent AI yang memegang akses ke sistem penting, atau sedang membangun platform multi-agent yang melayani banyak pengguna. Beberapa sinyal bahwa tim membutuhkan lapisan governance seperti ini:

• Agent bisa memanggil tool yang berdampak, seperti mengirim email, menulis database, atau mendeploy service.
• Terdapat banyak agent yang saling berkomunikasi dan berbagi akses.
• Tim menangani data pelanggan atau data internal yang sensitif.
• Ada kebutuhan audit yang ketat, baik karena regulasi maupun kebijakan internal.

Untuk proyek eksperimen atau prototype kecil, governance tambahan ini mungkin terasa berat. Tetapi begitu agent mulai berinteraksi dengan sistem produksi, biaya kegagalan keamanan jauh lebih besar daripada biaya memasang kontrol sejak awal.

Playbook Engine dan Respons Otomatis

Salah satu komponen Conduct yang sering diabaikan adalah playbook engine. Playbook adalah kumpulan langkah respons yang sudah ditentukan untuk situasi tertentu. Misalnya, kalau sebuah agent mencoba mengakses tool yang tidak diizinkan, playbook bisa otomatis memblokir aksi, memberi tahu admin, dan mengirimkan laporan insiden ke channel yang tepat.

Dengan playbook, tim tidak perlu merespons setiap insiden secara manual. Pola yang sudah dikenal bisa diotomatisasi, dan manusia hanya terlibat untuk kasus yang benar-benar baru atau membutuhkan keputusan. Ini mengurangi waktu respons dan memastikan penanganan insiden konsisten, tidak bergantung pada siapa yang kebetulan sedang jaga.

Playbook juga berguna untuk kepatuhan. Banyak regulasi mensyaratkan bahwa insiden keamanan ditangani dengan prosedur yang terdokumentasi. Dengan playbook yang terekam di sistem, tim bisa menunjukkan bahwa prosedur tersebut dijalankan secara konsisten setiap kali insiden terjadi.

Menilai Kesiapan Tim Sebelum Adopsi

Sebelum memasang Conduct atau guardrails serupa, ada baiknya menilai kesiapan tim. Governance yang terlalu ketat di awal bisa membuat agent AI terasa tidak berguna, sementara governance yang longgar membuat investasi keamanan sia-sia. Keseimbangan yang tepat tergantung pada profil risiko tim.

Beberapa pertanyaan yang bisa membantu:

• Tool apa saja yang bisa diakses agent saat ini, dan apa dampak terburuk dari penyalahgunaan masing-masing?
• Apakah sudah ada daftar siapa yang boleh memberi izin akses ke tool tertentu?
• Bagaimana tim menangani insiden sekarang, dan apakah prosesnya terdokumentasi?
• Apakah ada kebutuhan audit dari pihak luar, misalnya untuk sertifikasi atau kontrak?

Jawaban atas pertanyaan-pertanyaan ini akan menentukan seberapa ketat policy awal yang perlu dipasang. Tim yang menangani data keuangan tentu membutuhkan kontrol yang berbeda dari tim yang hanya bereksperimen dengan agent untuk riset internal.

Pendekatan yang disarankan: mulai dari policy yang ketat, uji alurnya di environment staging, lalu longgarkan secara bertahap berdasarkan data. Lebih mudah melonggarkan policy yang terlalu ketat daripada menutup celah yang sudah terlanjur terbuka.

Satu hal yang perlu diingat: governance untuk agent AI masih bidang yang berkembang, dan praktik terbaiknya terus berubah. Tim yang mengadopsi lebih awal akan menemui banyak hal yang belum ada jawaban bakunya, dan itu normal. Yang penting adalah membangun siklus umpan balik: pantau insiden, evaluasi policy, perbarui playbook, dan ulangi. Seiring waktu, kombinasi alat open-source seperti Conduct dan proses internal yang matang akan menghasilkan sistem yang tidak hanya aman, tetapi juga bisa dijelaskan kepada auditor dan pemangku kepentingan. Kejelasan semacam ini menjadi nilai tersendiri: ketika sebuah keputusan keamanan dipertanyakan, tim punya jejak yang bisa ditunjukkan, bukan sekadar janji bahwa semuanya baik-baik saja.

Terakhir, penting untuk mengingat bahwa governance bukan tujuan akhir, melainkan alat untuk membangun kepercayaan. Kepercayaan dari pengguna yang datanya diproses agent, kepercayaan dari tim yang mendelegasikan pekerjaan ke agent, dan kepercayaan dari regulator yang mengawasi. Semakin bisa diverifikasi sistem yang dibangun, semakin mudah kepercayaan itu tumbuh, dan semakin sedikit hambatan adopsi agent AI di dalam organisasi.

Kesimpulan

Conduct mewakili arah yang semakin jelas dalam pengembangan agent AI: keamanan bukan lagi lapisan tambahan, tetapi bagian inti dari desain. Dengan policy yang ditandatangani, verifikasi rantai eksekusi, dan fail-closed secara default, Conduct memindahkan kontrol dari pasca-eksekusi ke sebelum-eksekusi.

Bagi tim yang serius membangun agent AI untuk produksi, pertanyaannya bukan lagi apakah perlu governance, tetapi kapan mulai menerapkannya. Semakin awal lapisan kontrol dipasang, semakin mudah menyesuaikan alur kerja, dan semakin kecil risiko insiden di kemudian hari.

Open-source dan self-hosted, Conduct memberikan fleksibilitas untuk tim yang ingin memegang kendali penuh atas infrastruktur keamanan agent mereka. Coba di environment staging, evaluasi alurnya, dan ukur apakah fail-closed mengganggu produktivitas atau justru menyelamatkan dari masalah yang lebih besar.