Saya punya kebiasaan yang mungkin dianggap aneh oleh kebanyakan developer: suka beli GPU bekas server di marketplace Indonesia. Sejak 2023, saya sudah mengoleksi sekitar 15 GPU bekas — mulai dari Tesla P100, Quadro M4000, sampai Tesla K80. Alasannya sederhana: GPU baru seperti RTX 4090 harganya Rp 30 juta ke atas, sedangkan Tesla P100 bekas bisa didapat Rp 1.5-2.5 juta di Tokopedia atau Shopee. Beda harga 15x untuk sesuatu yang masih bisa menjalankan LLM 7B parameter.
Tapi pertanyaan besarnya: apakah GPU "e-waste" ini masih relevan untuk workloads 2026 yang semakin berat? Training model modern butuh VRAM besar, inference LLM butuh arsitektur terbaru, dan compute requirement naik setiap tahun. Artikel ini akan membahas hasil benchmark saya secara detail, termasuk training model ML, inference LLM, video rendering, dan komputasi umum — semua dengan angka real dari laboratorium saya (alias garasi rumah).
Daftar 15 GPU yang Di-benchmark
Berikut GPU yang saya tes, lengkap dengan harga beli bekas (per Juli 2026 di marketplace Indonesia) dan spesifikasi utama. Harga ini rata-rata dari Tokopedia, Shopee, dan grup Facebook jual beli GPU bekas:
| GPU | VRAM | Harga Bekas (Rp) | TDP (Watt) | Arsitektur | CUDA Cores |
|---|---|---|---|---|---|
| NVIDIA Tesla K40 | 12GB GDDR5 | 350.000 | 235W | Kepler (2013) | 2,880 |
| NVIDIA Tesla M40 | 24GB GDDR5 | 500.000 | 250W | Maxwell (2015) | 3,072 |
| NVIDIA Quadro M4000 | 8GB GDDR5 | 600.000 | 120W | Maxwell (2015) | 1,664 |
| NVIDIA Tesla K80 | 24GB GDDR5 (dual) | 800.000 | 300W | Kepler (2014) | 4,992 |
| NVIDIA Quadro P2000 | 5GB GDDR5 | 1.200.000 | 75W | Pascal (2017) | 1,024 |
| NVIDIA Tesla P100 | 16GB HBM2 | 1.800.000 | 250W | Pascal (2016) | 3,584 |
| NVIDIA Titan X (Pascal) | 12GB GDDR5X | 2.000.000 | 250W | Pascal (2017) | 3,584 |
| NVIDIA Quadro RTX 4000 | 8GB GDDR6 | 2.200.000 | 160W | Turing (2018) | 2,304 |
| NVIDIA Tesla T4 | 16GB GDDR6 | 2.500.000 | 70W | Turing (2018) | 2,560 |
| NVIDIA Tesla V100 | 16GB HBM2 | 4.500.000 | 250W | Volta (2017) | 5,120 |
| NVIDIA Quadro RTX 5000 | 16GB GDDR6 | 3.000.000 | 160W | Turing (2018) | 3,072 |
| NVIDIA Titan V | 12GB HBM2 | 3.500.000 | 250W | Volta (2017) | 5,120 |
| NVIDIA Tesla L4 | 24GB GDDR6 | 6.000.000 | 72W | Ada Lovelace (2023) | 7,424 |
| AMD Radeon VII | 16GB HBM2 | 2.500.000 | 300W | Vega 20 (2019) | 3,840 |
| NVIDIA Tesla A100 (SXM) | 40GB HBM2e | 15.000.000 | 300W | Ampere (2020) | 6,912 |
Catatan: Harga di atas rata-rata harga Tokopedia/Shopee Juli 2026. Harga bisa bervariasi 20-30% tergantung kondisi (new pull vs used), garansi seller, dan kelengkapan aksesori (bracket, kabel power). Tesla series tidak punya video output, jadi pastikan kamu beli bracket yang sesuai untuk dipasang di PC tower biasa.
Benchmark 1: Training Model ML (ResNet-50, ImageNet Subset)
Saya jalankan training ResNet-50 pada ImageNet subset (50K images, 100 epochs) menggunakan PyTorch 2.4 dengan CUDA 12.4. Batch size disesuaikan dengan VRAM yang tersedia (最大 64 per GPU). Hasilnya menarik:
| GPU | Waktu/Epoch | Throughput (img/s) | Cost Efficiency (img/s per Rp1000 investasi) |
|---|---|---|---|
| Tesla K40 (Rp 350K) | 350 detik | 143 | 0.409 |
| Tesla K80 (Rp 800K) | 250 detik | 200 | 0.250 |
| Tesla M40 (Rp 500K) | 300 detik | 167 | 0.334 |
| Tesla P100 (Rp 1.8M) | 110 detik | 455 | 0.253 |
| Tesla V100 (Rp 4.5M) | 82 detik | 610 | 0.136 |
| Tesla T4 (Rp 2.5M) | 180 detik | 278 | 0.111 |
| Titan V (Rp 3.5M) | 95 detik | 526 | 0.150 |
| Quadro RTX 5000 (Rp 3M) | 130 detik | 385 | 0.128 |
| Tesla A100 (Rp 15M) | 45 detik | 1,111 | 0.074 |
Hasil yang mengejutkan: Tesla K40 seharga Rp 350 ribu punya cost efficiency terbaik (0.409 images/sec per Rp 1.000 investasi). Artinya, per Rupiah yang kamu keluarkan, K40 memberikan throughput paling tinggi. Tentu kalau kamu butuh raw performance, A100 tetap juara — tapi harganya 43x lebih mahal dari K40.
Pengalaman saya pribadi: untuk training model yang tidak time-sensitive (misal weekend project atau eksperimen), K40 atau M40 sangat worth it. Saya pernah training YOLOv5 custom di K40 selama 3 hari 14 jam (total ~86 jam) vs 6 jam di V100. Hasilnya sama persis — mAP 0.89 untuk deteksi objek. Tapi saya cuma bayar Rp 350 ribu untuk hardware-nya, sedangkan V100 sewa cloud sekitar Rp 50.000/jam = Rp 300.000 total. Kalau kamu sering training, beli K40 bekas lebih hemat dari 2 minggu sewa V100 cloud.
Benchmark 2: LLM Inference (LLaMA 3 8B)
Di era LLM, pertanyaan terbesar adalah: bisa gak GPU bekas handle inference model 8B parameter? Saya test menggunakan llama.cpp dengan quantization Q4_K_M dan Q5_K_M untuk model LLaMA 3 8B. Setup: Ubuntu 24.04, CUDA 12.4, llama.cpp latest build:
| GPU | Quantization | Tokens/sec (prompt) | Tokens/sec (generate) | Cukup VRAM? |
|---|---|---|---|---|
| Tesla K40 (12GB) | Q3_K_M | 85 | 12 | ⚠️ Marginal, OOM kadang |
| Tesla M40 (24GB) | Q4_K_M | 120 | 18 | ✅ Cukup |
| Tesla K80 (24GB) | Q4_K_M | 95 | 22 | ✅ Cukup |
| Tesla P100 (16GB) | Q4_K_M | 180 | 38 | ✅ Cukup |
| Tesla T4 (16GB) | Q4_K_M | 210 | 45 | ✅ Cukup |
| Tesla V100 (16GB) | Q4_K_M | 280 | 52 | ✅ Cukup |
| Tesla L4 (24GB) | Q5_K_M | 350 | 65 | ✅ Sangat cukup |
| Tesla A100 (40GB) | Q8_0 | 520 | 85 | ✅ Full precision pun muat |
| Quadro M4000 (8GB) | Q3_K_M | — | — | ❌ Tidak cukup |
Poin kunci untuk LLM inference: minimum VRAM yang kamu butuhkan adalah ~8GB untuk quantized 8B model (Q4_K_M pakai ~5.5GB VRAM, plus overhead). Tesla K40 (12GB) bisa jalan di Q3_K_M tapi sering OOM kalau context panjang. Tesla M40 (24GB) jauh lebih nyaman — muat Q4_K_M dengan sisa VRAM banyak.
Saya sendiri pakai Tesla P100 (16GB) di VPS untuk menjalankan Ollama sehari-hari. 38 tokens/sec cukup untuk chatbot interaktif — manusia cuma baca rata-rata 4 tokens/sec, jadi response muncul real-time tanpa lag yang mengganggu. Lebih detail tentang setup ini di panduan self-host Ollama.
Yang menarik: Tesla T4 (70W TDP) punya tokens/sec hampir setara P100 (250W) karena arsitektur Turing yang lebih efisien. Kalau kamu concern listrik, T4 menghemat Rp 50-80 ribu/bulan dibanding P100. Di scale produksi selama 3 tahun, itu penghematan Rp 1.8-2.9 juta — setara harga beli T4 baru.
Benchmark 3: Video Rendering (DaVinci Resolve Studio)
Rendering video 4K (3840x2160) durasi 1 menit, H.265 encoding, 30fps, color grading standar. Semua GPU di-test dengan benchmark bawaan DaVinci Resolve 20:
| GPU | Waktu Render | Power (Watt avg) | Efficiency Score |
|---|---|---|---|
| Tesla A100 | 45 detik | 280W | ⭐⭐⭐⭐⭐ |
| Tesla L4 | 55 detik | 68W | ⭐⭐⭐⭐⭐ |
| Tesla V100 | 68 detik | 230W | ⭐⭐⭐⭐ |
| Quadro RTX 4000 | 75 detik | 150W | ⭐⭐⭐⭐ |
| Titan X Pascal | 80 detik | 220W | ⭐⭐⭐ |
| Tesla P100 | 90 detik | 230W | ⭐⭐⭐ |
| Tesla T4 | 110 detik | 65W | ⭐⭐⭐⭐ |
| Quadro M4000 | 200 detik | 110W | ⭐⭐⭐ |
| Tesla K80 | 180 detik | 280W | ⭐⭐ |
| Tesla M40 | 280 detik | 245W | ⭐⭐ |
Tesla L4 menarik perhatian di sini — render hanya 10 detik lebih lambat dari A100 tapi power consumption cuma 68W (vs 300W). Kalau kamu render video setiap hari, L4 menghemat Rp 50-80 ribu/bulan dibanding K80 atau P100 dari tagihan listrik saja. Di scale produksi selama setahun, penghematan listrik bisa beli satu T4 baru.
Tesla T4 juga patut diperhatikan — render lambat tapi power efficiency-nya terbaik kedua. Cocok untuk render farm yang jalan 24/7. Dan yang paling penting: T4 support NVENC encoder generasi terbaru, yang artinya hardware encoding H.265/H.264 jauh lebih cepat dari software encoding.
Hitung ROI: Berapa Lama Balik Modal?
Mari kita hitung ROI untuk use case paling populer: menjalankan LLM inference untuk chatbot internal (menggantikan API berbayar). Asumsi: menggantikan 50K chat/bulan dengan GPT-5.6 Flash (cost ~Rp 420.000/bulan):
| GPU | Investasi Awal | Listrik/bulan | Penghematan API/bln | Net Saving/bulan | ROI Period |
|---|---|---|---|---|---|
| Tesla K80 | Rp 800.000 | Rp 115.000 | Rp 420.000 | Rp 305.000 | 2.6 bulan |
| Tesla P100 | Rp 1.800.000 | Rp 96.000 | Rp 420.000 | Rp 324.000 | 5.6 bulan |
| Tesla T4 | Rp 2.500.000 | Rp 27.000 | Rp 420.000 | Rp 393.000 | 6.4 bulan |
| Tesla V100 | Rp 4.500.000 | Rp 96.000 | Rp 420.000 | Rp 324.000 | 13.9 bulan |
| Tesla L4 | Rp 6.000.000 | Rp 28.000 | Rp 420.000 | Rp 392.000 | 15.3 bulan |
K80 paling cepat balik modal (2.6 bulan) karena harganya cuma Rp 800 ribu. Tapi T4 punya net saving tertinggi per bulan (Rp 393.000) karena listrik yang super rendah. Dalam 3 tahun (umum GPU server), T4 menghemat Rp 14.1 juta total vs K80 yang cuma Rp 10.2 juta. Jadi kalau plan-nya long-term, T4 lebih worth it meskipun balik modal lebih lambat.
Rekomendasi Berdasarkan Use Case
- LLM inference personal / small team (< 5 user): Tesla P100 (Rp 1.8 juta) atau Tesla K80 (Rp 800 ribu). P100 lebih smooth, K80 lebih murah. Keduanya muat LLaMA 3 8B Q4_K_M.
- Training ML (weekend project, tidak time-sensitive): Tesla K40 (Rp 350 ribu) atau Tesla K80 (Rp 800 ribu). Lambat tapi practically free hardware-nya.
- Video rendering / content creation: Quadro RTX 4000 (Rp 2.2 juta) untuk balance performance/price, atau Tesla T4 (Rp 2.5 juta) untuk power efficiency.
- Production LLM serving (24/7): Tesla L4 (Rp 6 juta). Power efficiency terbaik (72W), architecture terbaru, cocok untuk always-on operation. ROI 15 bulan tapi setelah itu pure profit.
- Max performance on budget: Tesla A100 (Rp 15 juta). Mahal untuk "e-waste" category, tapi masih 50-60% lebih murah dari A100 baru ($15,000 = Rp 240 juta).
Peringatan: Risiko dan Tips Beli GPU Bekas
Saya sudah rugi beberapa kali beli GPU bekas selama 3 tahun terakhir. Berikut peringatan berdasarkan pengalaman pahit:
- Garansi nihil: GPU bekas server umumnya sudah lewat garansi pabrik. Kalau rusak dalam 1 bulan, ya sudah — duit hilang. Tips: beli dari seller yang bisa return dalam 7 hari. Di Tokopedia, cari seller dengan rating > 4.8 dan minimal 100 transaksi GPU.
- Thermal paste kering: GPU server beroperasi di data center bersuhu 18-24°C selama 3-5 tahun 24/7. Thermal paste sudah pasti kering. Siap-siap repaste — Rp 50 ribu untuk thermal paste Noctua/Thermal Grizzly, 30 menit waktu. Temperature drop 15-25°C setelah repaste.
- No video output: Tesla series tidak punya HDMI/DP output. Harus pakai display adapter atau headless setup. Untuk ML/inference ini bukan masalah, tapi perlu diketahui sebelum beli. Kamu butuh GPU display lain (bisa GPU murah Rp 200 ribu) atau mode headless di BIOS.
- Power connector different: GPU server pakai power connector yang beda dari GPU consumer. Tesla K80 butuh dual 8-pin PCIe. Tesla P100 SXM butuh special power board. Pastikan PSU kamu compatible dan punya wattage yang cukup (minimal TDP GPU + 100W untuk sisa sistem).
- Dual GPU trap: Tesla K80 itu dual-GPU dalam satu kartu. OS melihatnya sebagai 2 GPU terpisah. Kamu tidak bisa pakai 24GB VRAM sekaligus — masing-masing GPU cuma punya 12GB. Ini sering membuat buyer kecewa.
Saya pernah beli Tesla K80 seharga Rp 500 ribu (murah banget!) ternyata salah satu GPU di dual-GPU setup-nya mati. Untung seller refund. Sejak itu saya selalu minta video proof running benchmark sebelum beli, atau setidaknya test langsung di tempat kalau COD.
Kesimpulan
GPU bekas "e-waste" masih sangat relevan di 2026, terutama untuk use case yang tidak butuh raw performance terbaru. Tesla P100 tetap menjadi champion value-for-money untuk LLM inference, K40/K80 masih oke untuk training experimental, dan T4/L4 untuk production 24/7. Yang terpenting: hitung ROI-nya berdasarkan use case kamu, jangan beli spek berlebihan yang tidak terpakai.
Butuh VPS untuk menjalankan GPU bekas kamu? Baca perbandingan cloud VPS 2026 untuk tahu provider mana yang support GPU passthrough dengan harga terbaik. Dan untuk troubleshooting server Linux kamu, panduan 10 perintah Linux troubleshooting akan sangat berguna saat GPU bermasalah.
💬 Komentar (0)
Belum ada komentar. Jadilah yang pertama! 💬