Panduan
Cluster Mac mini lewat Thunderbolt 4
2 sampai 8 Mac mini M4 atau M6 dalam satu rak, terhubung lewat Thunderbolt 4, dengan unified memory gabungan untuk inferensi terdistribusi, build farm, dan rendering.
Diperbarui 2026-10-08
Satu Mac mini menjalankan model yang muat di memorinya. Hubungkan beberapa Mac mini lewat Thunderbolt 4 dan Anda mendapat sesuatu yang tidak bisa diberikan satu mesin berapa pun harganya: unified memory yang bertambah, dengan koneksi yang cukup cepat sehingga mesin-mesin itu bekerja seperti satu mesin.
MacDuty membangunnya sebagai cluster yang sudah dikonfigurasi di rak kami di Uni Eropa: 2 sampai 8 node, sudah dikabel, diuji, dan diserahkan siap dijalankan.
Mengapa Thunderbolt dan bukan sekadar jaringan
Inferensi terdistribusi dibatasi oleh bandwidth. Setiap token harus melewati koneksi antar node, jadi interkoneksi yang menentukan apakah sebuah cluster cepat atau hanya besar.
Thunderbolt 4 memberi setiap koneksi 40 Gb/s di kedua arah, empat puluh kali gigabit Ethernet, dan cukup agar mesin-mesin berhenti saling menunggu. Itulah satu-satunya alasan untuk mengabel sebuah cluster, alih-alih menaruh Mac di switch dan berharap.
Alasan kedua adalah memori. Apple Silicon berbagi memori antara CPU dan GPU, sehingga seluruh RAM sebuah node tersedia untuk model. Di sebuah cluster, memori itu digabungkan:
| Cluster | Node | Unified memory gabungan |
|---|---|---|
| Pasangan | 2 | hingga 64 GB |
| Empat | 4 | hingga 128 GB |
| Delapan | 8 | hingga 256 GB |
Total pastinya tergantung konfigurasi per node yang Anda pilih dari mesin M4 dan M6, masing-masing hingga 32 GB.
Apa yang dijalankan orang di sana
Inferensi LLM terdistribusi
Model yang terlalu besar untuk satu mesin, di-shard ke beberapa node dengan MLX distributed, EXO, atau llama.cpp RPC. Di sinilah koneksi Thunderbolt benar-benar berguna, dan tanpa cluster, di sinilah Anda harus menyewa GPU pusat data per jam.
Build farm paralel
Empat atau delapan mesin dalam satu rak, satu akun, build didistribusikan ke semuanya. Hardware yang sama, pekerjaan yang berbeda.
Rendering dan media
Distribusi frame atau shot ke beberapa node, dengan hasil akhir ditarik kembali lewat koneksi yang sama.
Armada agen
Beberapa agen AI berjalan tanpa pengawasan, masing-masing dengan mesinnya sendiri, berbagi jaringan privat dan satu kontak.
Yang Anda dapatkan
- 2 sampai 8 node Mac mini M4 atau M6 di rak yang sama
- Kabel Thunderbolt 4 antar node, dipasang dan diuji oleh kami
- Jaringan privat antar mesin
- Toolchain Anda terpasang sebelumnya atas permintaan: MLX, EXO, Xcode, agen runner, apa pun yang dibutuhkan beban kerja
- Satu akun, satu faktur, harga paket untuk cluster
- Engineer yang membangun rak menjawab email Anda
Sebelum Anda memesan
Ketahui kebutuhan memori model Anda
Memori gabungan adalah batasan yang menentukan jumlah node. Beri tahu kami model dan kuantisasi yang ingin Anda jalankan, dan kami akan memberi tahu konfigurasi yang pas, bukan menjual node yang tidak Anda butuhkan.
Sharding ada harganya
Cluster adalah jawaban yang tepat saat model tidak muat di satu mesin. Jika muat, satu mesin yang lebih besar akan selalu mengalahkan dua mesin yang lebih kecil, dan kami akan mengatakannya.
Topologi itu penting
Cara node dikabel mengubah throughput. Kami membangun topologi ring untuk inferensi yang di-shard dan susunan hub untuk distribusi job, dan menyiapkannya untuk beban kerja yang Anda jelaskan.
Bicarakan cluster dengan kami
Beri tahu kami apa yang ingin Anda jalankan dan berapa memori yang dibutuhkan. Kami menentukan ukuran cluster, membangunnya, mengujinya, dan menyerahkannya dalam keadaan berfungsi.
Tersedia hari ini
Mac ini sudah ada di rak sekarang. Pilih satu, lihat apa saja yang termasuk, dan buat akun Anda hanya saat memesan.
Memeriksa rak
Mac mini milik Anda sendiri
Pilih konfigurasi. Jika belum tersedia, tinggalkan email Anda dan kami kabari pada hari Mac itu terpasang di rak.
Tahunan: setidaknya 19% lebih murah daripada membayar bulanan
Pertanyaan
- Bisakah Anda membangun cluster Mac mini lewat Thunderbolt?
- Ya. MacDuty membangun cluster yang sudah dikonfigurasi berisi 2 sampai 8 node Mac mini M4 atau M6 di rak kami di Uni Eropa, dikabel lewat Thunderbolt 4 dan diuji sebelum serah terima.
- Berapa banyak memori yang bisa dimiliki cluster Mac mini?
- Unified memory digabungkan antar node: hingga 64 GB pada pasangan, 128 GB pada empat node, dan 256 GB pada delapan, dengan setiap node M4 atau M6 membawa hingga 32 GB.
- Bisakah saya menjalankan large language model di beberapa Mac mini?
- Ya. Model yang terlalu besar untuk satu mesin dapat di-shard ke beberapa node dengan MLX distributed, EXO, atau llama.cpp RPC lewat koneksi Thunderbolt.
- Mengapa Thunderbolt, bukan Ethernet?
- Inferensi terdistribusi dibatasi oleh bandwidth. Thunderbolt 4 membawa 40 Gb/s per koneksi di setiap arah, empat puluh kali gigabit Ethernet, dan itulah yang membuat node tidak saling menunggu.
- Berapa node yang saya butuhkan?
- Tentukan berdasarkan kebutuhan memori dari apa yang Anda jalankan, bukan berdasarkan jumlah node. Beri tahu kami model dan kuantisasinya, dan kami akan menentukan ukurannya.
- Apakah cluster Mac mini lebih murah daripada menyewa GPU?
- Untuk inferensi yang stabil dan selalu menyala, harga bulanan tetap untuk mesin yang Anda pertahankan biasanya lebih murah daripada sewa GPU per jam, dan memorinya digabungkan, bukan diukur pemakaiannya.
Berikutnya