指南
Mac mini 上的本機 AI 模型：各記憶體容量能執行什麼
各記憶體容量的 Mac mini 能放得下哪些開放模型、執行速度多快，以及如何在 AI 代理程式中讓本機模型與雲端模型搭配使用。2026年9月更新。
2026-09-15 更新
Mac mini 可以自己執行語言模型，不需要雲端，也不按請求收費。它能執行什麼，幾乎完全取決於一個數字：記憶體。
本指南說明每款 Mac mini 放得下什麼、適合做什麼，以及如何在 AI 代理程式中使用本機模型。
為什麼 Mac mini 適合做這件事
模型名稱於 2026年9月查核。每隔幾個月就會出現新模型，但下面的記憶體規則不會變。
在大多數電腦上，語言模型必須放進顯示卡的記憶體，而這種記憶體容量小又昂貴。Apple silicon 讓處理器和圖形核心共用同一個記憶體池。一台 48 GB 的 Mac mini 可以載入在其他電腦上需要大容量獨立顯示卡的模型。
有兩個數字很重要：
- 記憶體容量決定哪些模型放得下。
- 記憶體頻寬決定它們回答的速度。Pro 晶片的頻寬遠高於基本款晶片，而且每一代新晶片都更高。
模型需要多少記憶體
模型通常以量化方式執行：參數以較少的位元儲存，縮小體積，品質只略為下降。4-bit 是常見的選擇。
一個實用的規則：在 4-bit 下，模型每 10 億個參數大約需要 0.6 GB，另外還要留空間給對話（上下文）和 macOS 本身。
Where the memory goes, at 4-bit
- 16 GBA 9B model, about 6 GB
- 24 GBA 24B model, about 15 GB
- 48 GBA 35B model, about 21 GB
- 64 GBA 70B model, about 43 GB
The rest is macOS and the conversation. A model that fits with a short chat may not fit with a long document in it.
| 模型規模 | 4-bit 下的大約記憶體用量 |
|---|---|
| 4B | 3 GB |
| 9B | 6 GB |
| 20 至 24B | 13 至 15 GB |
| 31 至 35B | 18 至 21 GB |
| 70B | 43 GB |
有兩件事會改變這個情況：
- 長上下文也會占用記憶體。在短對話下放得下的模型，放進一份 100 頁的文件後可能就放不下了。
- macOS 會把很大一部分記憶體分給圖形核心，但不是全部。請保留餘裕，尤其是在 16 GB 和 24 GB 的機器上。
每款 Mac mini 能執行什麼
| 記憶體 | 可順暢執行的模型規模 | 範例（2026年9月） | 適合 |
|---|---|---|---|
| 8 GB | 最多約 4B | Gemma 4 E2B、E4B | 整理和分類訊息、從文字中擷取欄位 |
| 16 GB | 最多約 9B | Qwen3.5 9B、Gemma 4 E4B | 摘要、簡單的代理程式、請求路由、簡短草稿 |
| 24 GB | 最多約 24B | Mistral Small 3.2 24B、gpt-oss-20b | 工具呼叫、程式設計輔助、文件問答 |
| 32 GB | 最多約 35B | Gemma 4 31B、Qwen3.6 35B-A3B | 更強的推理、寫作，以及涉及圖片的代理程式工作 |
| 48 GB | 搭配長上下文的 35B 模型，或同時執行多個模型 | Gemma 4 31B、Qwen3.6 35B-A3B | 在其他工作負載旁邊，執行一個真正實用的本機助理 |
| 64 GB | 最多約 70B | Llama 3.3 70B | Mac mini 能容納的最大模型 |
關於「A3B」模型。Qwen3.6 35B-A3B 這類名稱代表混合專家（mixture-of-experts）模型：儲存了 350 億個參數，但每產生一個詞只用到約 30 億個。它需要 35B 模型的記憶體，回答速度卻接近小型模型。在 Mac 上，這通常是最划算的取捨。
該選哪款 Mac mini
| 如果您想要 | 選擇 |
|---|---|
| 為主要使用雲端的代理程式加上一個小型本機模型 | M4，16 GB |
| 執行實用的中型模型，用於工具呼叫和文件處理 | M4，24 或 32 GB |
| 在處理其他工作的同時，快速執行 30B 級模型 | M4 Pro 或 M5 Pro，48 GB |
| 執行 70B 模型 | M4 Pro 或 M5 Pro，64 GB |
對本機模型來說，記憶體大比晶片快更重要。32 GB 的 M4 能執行 24 GB 的 M4 Pro 載入不了的模型。記憶體相同時，Pro 晶片和較新一代的晶片回答得更快。
開始使用
最簡單的方式是 Ollama。它會下載並執行模型，並為您的代理程式提供本機 API。在 Apple silicon 上，它可以使用 Apple 專為這些晶片打造的 MLX 框架。
brew install ollama
ollama serve &
ollama run qwen3.5:9b模型標籤會變動，所以下載（pull）之前請先在 Ollama 模型庫確認確切名稱。
其他不錯的選項：
- LM Studio，如果您偏好有視窗的 App。
- mlx-lm，Apple 自己的工具，速度最快，也適合做微調實驗。
在代理程式中使用本機模型
本機模型很少能取代最大的雲端模型，和它們搭配使用效果最好。
一種常見的做法：
- 1本機模型讀取每一個進來的請求。它判斷請求的類型、擷取資料，並自行處理例行請求。
- 2只有困難的請求才交給雲端模型。報告、需要判斷的問題、長篇推理。
實際運作的代理程式收到的請求大多是例行請求，所以大部分請求根本不會離開這台 Mac。雲端帳單變小，簡單的回答也回得更快。
OpenClaw 支援以 Ollama 作為供應商，大多數代理程式框架也能透過 http://127.0.0.1:11434 存取它的本機 API。
不要公開這個連接埠。Ollama 預設只在本機上監聽。在可從網際網路連線的機器上，不要把它改成在所有網路介面上監聽，請改用 SSH 通道存取。
- 在 WhatsApp 上和您的記帳 App 對話, 正式環境中的相同分工
為什麼用代管的 Mac mini 執行本機模型
- 隨時待命。模型已載入，任何時刻都能使用，不必喚醒筆電。
- 每種記憶體容量都能用，不必購買。先用 24 GB 的 M4 試一天，不夠用時再換到 64 GB 的 M5 Pro。
- 您的資料留在您的 Mac 上。由本機模型回答的請求，絕不會傳送給 AI 供應商。
- 代管於歐盟。
今天有現貨
這些 Mac 現在就在機櫃中。挑一台，看看它包含什麼，下單時再建立帳號即可。
正在查看機櫃
屬於您自己的 Mac mini
選擇配置。如果架上沒有，請留下電子郵件，上架當天我們就寫信通知您。
按年：比按月付款至少便宜 19%
下一步