Panduan
Model AI lokal di Mac mini: apa yang berjalan di tiap ukuran memori
Model terbuka mana yang muat di tiap ukuran memori Mac mini, seberapa cepat jalannya, dan cara memakai model lokal bersama model cloud dalam agen AI. Diperbarui untuk September 2026.
Diperbarui 2026-09-15
Mac mini bisa menjalankan model bahasa sendiri, tanpa cloud dan tanpa biaya per permintaan. Apa yang bisa dijalankannya hampir sepenuhnya bergantung pada satu angka: memorinya.
Panduan ini menunjukkan apa yang muat di tiap Mac mini, apa kegunaannya, dan cara memakai model lokal di dalam agen AI.
Mengapa Mac mini bagus untuk ini
Nama model diperiksa pada September 2026. Model baru muncul setiap beberapa bulan, tetapi aturan memori di bawah tetap sama.
Di kebanyakan komputer, model bahasa harus muat di memori kartu grafis, yang kecil dan mahal. Apple silicon membagi satu kumpulan memori antara prosesor dan inti grafis. Mac mini dengan 48 GB bisa memuat model yang di tempat lain butuh kartu grafis dedicated yang besar.
Dua angka yang penting:
- Ukuran memori menentukan model mana yang bisa muat sama sekali.
- Bandwidth memori menentukan seberapa cepat model menjawab. Bandwidth ini jauh lebih tinggi di chip Pro dibanding chip dasar, dan makin tinggi di setiap generasi baru.
Berapa banyak memori yang dibutuhkan model
Model biasanya dijalankan dalam bentuk terkuantisasi: angka-angkanya disimpan dengan bit lebih sedikit, sehingga ukurannya berkurang dengan penurunan kualitas yang kecil saja. 4-bit adalah pilihan yang umum.
Aturan praktis: pada 4-bit, model butuh sekitar 0,6 GB per miliar parameter, ditambah ruang untuk percakapan (konteks) dan untuk macOS sendiri.
Where the memory goes, at 4-bit
- 16 GBA 9B model, about 6 GB
- 24 GBA 24B model, about 15 GB
- 48 GBA 35B model, about 21 GB
- 64 GBA 70B model, about 43 GB
The rest is macOS and the conversation. A model that fits with a short chat may not fit with a long document in it.
| Ukuran model | Memori pada 4-bit, kira-kira |
|---|---|
| 4B | 3 GB |
| 9B | 6 GB |
| 20 hingga 24B | 13 hingga 15 GB |
| 31 hingga 35B | 18 hingga 21 GB |
| 70B | 43 GB |
Dua hal yang mengubah gambarannya:
- Konteks panjang juga memakai memori. Model yang muat dengan percakapan pendek mungkin tidak muat jika berisi dokumen 100 halaman.
- macOS memberi inti grafis porsi memori yang besar, tetapi tidak seluruhnya. Sisakan ruang, terutama di mesin 16 dan 24 GB.
Apa yang berjalan di tiap Mac mini
| Memori | Ukuran model yang nyaman | Contoh (September 2026) | Cocok untuk |
|---|---|---|---|
| 8 GB | Hingga sekitar 4B | Gemma 4 E2B, E4B | Memilah dan mengklasifikasikan pesan, mengekstrak isian dari teks |
| 16 GB | Hingga sekitar 9B | Qwen3.5 9B, Gemma 4 E4B | Ringkasan, agen sederhana, merutekan permintaan, draf singkat |
| 24 GB | Hingga sekitar 24B | Mistral Small 3.2 24B, gpt-oss-20b | Tool calling, bantuan coding, pertanyaan tentang dokumen |
| 32 GB | Hingga sekitar 35B | Gemma 4 31B, Qwen3.6 35B-A3B | Penalaran yang lebih kuat, menulis, pekerjaan agen dengan gambar |
| 48 GB | 35B dengan konteks panjang, atau beberapa model sekaligus | Gemma 4 31B, Qwen3.6 35B-A3B | Asisten lokal yang serius di samping beban kerja lain |
| 64 GB | Hingga sekitar 70B | Llama 3.3 70B | Model terbesar yang bisa dimuat Mac mini |
Tentang model “A3B”. Nama seperti Qwen3.6 35B-A3B menandakan model mixture-of-experts: 35 miliar parameter disimpan, tetapi hanya sekitar 3 miliar yang dipakai untuk setiap kata. Model ini butuh memori setara model 35B dan menjawab hampir secepat model kecil. Di Mac, itu sering kali pertukaran terbaik.
Mac mini mana yang dipilih
| Jika Anda ingin | Pilih |
|---|---|
| Menambahkan model lokal kecil ke agen yang sebagian besar memakai cloud | M4, 16 GB |
| Menjalankan model ukuran menengah yang berguna untuk tool calling dan dokumen | M4, 24 atau 32 GB |
| Menjalankan model kelas 30B dengan cepat, di samping pekerjaan lain | M4 Pro atau M5 Pro, 48 GB |
| Menjalankan model 70B | M4 Pro atau M5 Pro, 64 GB |
Untuk model lokal, memori lebih besar mengalahkan chip lebih cepat. M4 32 GB menjalankan model yang tidak bisa dimuat M4 Pro 24 GB. Jika memorinya sama, chip Pro dan generasi yang lebih baru menjawab lebih cepat.
Memulai
Cara paling sederhana adalah Ollama. Ollama mengunduh model, menjalankannya, dan memberi agen Anda API lokal. Di Apple silicon, Ollama bisa memakai framework MLX dari Apple, yang dibuat untuk chip ini.
brew install ollama
ollama serve &
ollama run qwen3.5:9bTag model berubah, jadi periksa nama persisnya di library Ollama sebelum Anda melakukan pull.
Pilihan bagus lainnya:
- LM Studio, jika Anda lebih suka aplikasi dengan jendela.
- mlx-lm, tool milik Apple sendiri, untuk hasil tercepat dan untuk eksperimen fine-tuning.
Memakai model lokal di dalam agen
Model lokal jarang menggantikan model cloud terbesar. Model lokal paling efektif bila dipakai bersamanya.
Pola yang umum:
- 1Model lokal membaca setiap permintaan yang masuk.Model itu menentukan jenis permintaannya, mengekstrak datanya, dan menangani sendiri permintaan rutin.
- 2Hanya permintaan sulit yang dikirim ke model cloud.Laporan, keputusan yang butuh pertimbangan, penalaran panjang.
Sebagian besar permintaan di agen sungguhan bersifat rutin, jadi sebagian besar tidak pernah keluar dari Mac. Tagihan cloud menyusut, dan jawaban sederhana kembali lebih cepat.
OpenClaw mendukung Ollama sebagai penyedia, dan sebagian besar framework agen bisa berkomunikasi dengan API lokalnya di http://127.0.0.1:11434.
Jaga port itu tetap privat. Secara bawaan, Ollama hanya mendengarkan di Mac itu sendiri. Jangan mengubahnya agar mendengarkan di setiap antarmuka jaringan pada mesin yang bisa dijangkau dari internet. Jangkau lewat tunnel SSH sebagai gantinya.
- Chat dengan aplikasi akuntansi Anda di WhatsApp, pembagian yang sama, di produksi
Mengapa Mac mini yang di-hosting untuk model lokal
- Selalu menyala. Model sudah dimuat dan siap kapan saja, tanpa laptop yang harus dibangunkan.
- Semua ukuran memori, tanpa membeli satu pun. Coba M4 24 GB selama sehari, lalu pindah ke M5 Pro 64 GB saat kebutuhan Anda melampauinya.
- Data Anda tetap di Mac Anda. Permintaan yang dijawab model lokal tidak pernah dikirim ke penyedia AI.
- Di-hosting di Uni Eropa.
Tersedia hari ini
Mac ini sudah ada di rak sekarang. Pilih satu, lihat apa saja yang termasuk, dan buat akun Anda hanya saat memesan.
Memeriksa rak
Mac mini milik Anda sendiri
Pilih konfigurasi. Jika belum tersedia, tinggalkan email Anda dan kami kabari pada hari Mac itu terpasang di rak.
Tahunan: setidaknya 19% lebih murah daripada membayar bulanan
Berikutnya