Server GPU: sewa kartu yang tepat untuk model AI-mu

GPU mana untuk pekerjaan apa

Memori dulu, kecepatan belakangan. Model yang tidak muat di VRAM sama sekali tidak bisa berjalan di kartu itu, sedangkan kartu yang lebih lambat hanya menjawab lebih pelan.

• 16–24 GB (RTX 4090, L4): model 7–14B, Stable Diffusion, Flux
• 48 GB (L40S, RTX A6000): model 32B dengan lega, 70B 4-bit di dua kartu
• 80 GB (A100, H100): model 70B, fine-tuning, konteks panjang
• Beberapa kartu: model open terbesar, atau banyak pengguna sekaligus

Community cloud vs secure cloud

Marketplace menyewakan mesin milik orang lain dengan harga lebih murah; tier secure atau enterprise berjalan di data center bersertifikat. Untuk eksperimen, tier murah sudah cukup; untuk data pelanggan, pilih yang secure.

Per jam vs bulanan

Tagihan per jam menang saat GPU hanya bekerja sebagian hari. Kalau menyala nonstop berbulan-bulan, server GPU bulanan atau reserved instance bisa lebih murah — kalkulator server sendiri vs API kami menghitungnya untukmu.