מדריך
מודלי AI מקומיים על Mac mini: מה רץ על כל גודל זיכרון
אילו מודלים פתוחים נכנסים בכל גודל זיכרון של Mac mini, כמה מהר הם רצים, ואיך להשתמש במודל מקומי לצד מודל בענן בסוכן AI. עודכן לספטמבר 2026.
עודכן 2026-09-15
Mac mini יכול להריץ מודלי שפה בעצמו, בלי ענן ובלי עלות לבקשה. מה הוא יכול להריץ תלוי כמעט לגמרי במספר אחד: הזיכרון שלו.
המדריך הזה מראה מה נכנס בכל Mac mini, למה זה טוב, ואיך להשתמש במודל מקומי בתוך סוכן AI.
למה Mac mini טוב בזה
שמות המודלים נבדקו בספטמבר 2026. מודלים חדשים מופיעים כל כמה חודשים, אבל כללי הזיכרון שלמטה נשארים זהים.
ברוב המחשבים, מודל שפה צריך להיכנס לזיכרון של כרטיס המסך, שהוא קטן ויקר. Apple silicon חולק מאגר זיכרון אחד בין המעבד לליבות הגרפיקה. Mac mini עם 48 GB יכול לטעון מודל שבמחשב אחר היה דורש כרטיס מסך ייעודי וגדול.
שני מספרים חשובים:
- גודל הזיכרון קובע אילו מודלים נכנסים בכלל.
- רוחב הפס של הזיכרון קובע כמה מהר הם עונים. הוא גבוה בהרבה בשבבי Pro מאשר בשבבי הבסיס, וגבוה יותר בכל דור חדש.
כמה זיכרון מודל צריך
בדרך כלל מריצים מודלים אחרי קוונטיזציה (quantized): המספרים שלהם נשמרים בפחות ביטים, מה שמקטין את הגודל עם אובדן קטן בלבד באיכות. 4-bit היא הבחירה הנפוצה.
כלל שימושי: ב-4-bit, מודל צריך בערך 0.6 GB לכל מיליארד פרמטרים, ועוד מקום לשיחה (ההקשר, context) ול-macOS עצמו.
Where the memory goes, at 4-bit
- 16 GBA 9B model, about 6 GB
- 24 GBA 24B model, about 15 GB
- 48 GBA 35B model, about 21 GB
- 64 GBA 70B model, about 43 GB
The rest is macOS and the conversation. A model that fits with a short chat may not fit with a long document in it.
| גודל המודל | זיכרון ב-4-bit, בערך |
|---|---|
| 4B | 3 GB |
| 9B | 6 GB |
| 20 עד 24B | 13 עד 15 GB |
| 31 עד 35B | 18 עד 21 GB |
| 70B | 43 GB |
שני דברים משנים את התמונה:
- גם הקשר ארוך צורך זיכרון. מודל שנכנס עם שיחה קצרה עלול לא להיכנס כשיש בה מסמך של 100 עמודים.
- macOS נותן לליבות הגרפיקה נתח גדול מהזיכרון, אבל לא את כולו. השאירו מרווח, במיוחד במחשבים עם 16 ו-24 GB.
מה רץ על כל Mac mini
| זיכרון | גדלי מודלים נוחים | דוגמאות (ספטמבר 2026) | מתאים עבור |
|---|---|---|---|
| 8 GB | עד כ-4B | Gemma 4 E2B, E4B | מיון וסיווג הודעות, חילוץ שדות מטקסט |
| 16 GB | עד כ-9B | Qwen3.5 9B, Gemma 4 E4B | סיכומים, סוכנים פשוטים, ניתוב בקשות, טיוטות קצרות |
| 24 GB | עד כ-24B | Mistral Small 3.2 24B, gpt-oss-20b | קריאה לכלים (tool calling), עזרה בקוד, שאלות על מסמכים |
| 32 GB | עד כ-35B | Gemma 4 31B, Qwen3.6 35B-A3B | חשיבה חזקה יותר, כתיבה, עבודת סוכנים עם תמונות |
| 48 GB | 35B עם הקשר ארוך, או כמה מודלים במקביל | Gemma 4 31B, Qwen3.6 35B-A3B | עוזר מקומי רציני לצד עומסי עבודה אחרים |
| 64 GB | עד כ-70B | Llama 3.3 70B | המודלים הגדולים ביותר ש-Mac mini יכול להכיל |
לגבי מודלים מסוג “A3B”. שמות כמו Qwen3.6 35B-A3B מציינים מודל mixture-of-experts: נשמרים בו 35 מיליארד פרמטרים, אבל רק כ-3 מיליארד מהם בשימוש לכל מילה. הוא צריך את הזיכרון של מודל 35B ועונה במהירות קרובה לזו של מודל קטן. על Mac, זו לרוב הפשרה הטובה ביותר.
איזה Mac mini לבחור
| אם אתם רוצים | בחירה |
|---|---|
| להוסיף מודל מקומי קטן לסוכן שמשתמש בעיקר בענן | M4, 16 GB |
| להריץ מודלים שימושיים בגודל בינוני לקריאה לכלים ולמסמכים | M4, 24 או 32 GB |
| להריץ מהר מודלים בסדר גודל של 30B, לצד עבודה אחרת | M4 Pro או M5 Pro, 48 GB |
| להריץ מודלים של 70B | M4 Pro או M5 Pro, 64 GB |
במודלים מקומיים, יותר זיכרון עדיף על שבב מהיר יותר. M4 עם 32 GB מריץ מודלים ש-M4 Pro עם 24 GB לא יכול לטעון. כשהזיכרון זהה, שבב ה-Pro והדור החדש יותר עונים מהר יותר.
איך מתחילים
הדרך הפשוטה ביותר היא Ollama. היא מורידה מודלים, מריצה אותם ונותנת לסוכן שלכם API מקומי. על Apple silicon היא יכולה להשתמש במסגרת MLX של Apple, שנבנתה עבור השבבים האלה.
brew install ollama
ollama serve &
ollama run qwen3.5:9bהתגיות של המודלים משתנות, אז בדקו את השם המדויק בספריית Ollama לפני ה-pull.
אפשרויות טובות נוספות:
- LM Studio, אם אתם מעדיפים אפליקציה עם חלון.
- mlx-lm, הכלי של Apple עצמה, לתוצאות המהירות ביותר ולניסויי fine-tuning.
שימוש במודל מקומי בתוך סוכן
מודלים מקומיים מחליפים רק לעתים רחוקות את המודלים הגדולים ביותר בענן. הם עובדים הכי טוב לצדם.
דפוס נפוץ:
- 1המודל המקומי קורא כל בקשה נכנסת.הוא מחליט מאיזה סוג הבקשה, מחלץ את הנתונים ומטפל בעצמו בבקשות השגרתיות.
- 2רק בקשות קשות עוברות למודל בענן.דוחות, החלטות שדורשות שיקול דעת, חשיבה ארוכה.
רוב הבקשות בסוכן אמיתי הן שגרתיות, כך שרובן אף פעם לא יוצאות מה-Mac. החשבון על הענן מצטמצם, ותשובות פשוטות חוזרות מהר יותר.
OpenClaw תומך ב-Ollama כספק, ורוב מסגרות הסוכנים יכולות לדבר עם ה-API המקומי שלה בכתובת http://127.0.0.1:11434.
שמרו על הפורט הזה פרטי. כברירת מחדל, Ollama מאזינה רק על ה-Mac. אל תשנו אותה כך שתאזין על כל ממשקי הרשת במחשב שנגיש מהאינטרנט. במקום זאת, גשו אליה דרך מנהרת SSH.
- צ׳אט עם אפליקציית הנהלת החשבונות שלכם ב-WhatsApp, אותה חלוקה, בפרודקשן
למה Mac mini מאוחסן למודלים מקומיים
- פועל תמיד. המודל טעון ומוכן בכל שעה, בלי לפטופ שצריך להעיר.
- כל גודל זיכרון, בלי לקנות אף אחד. נסו M4 עם 24 GB ליום, ועברו ל-M5 Pro עם 64 GB כשהוא כבר לא מספיק לכם.
- הנתונים שלכם נשארים ב-Mac שלכם. בקשות שמודל מקומי עונה עליהן לעולם לא נשלחות לספק AI.
- מאוחסן באיחוד האירופי.
במלאי היום
אלה נמצאים בארון עכשיו. בחרו אחד, ראו מה הוא כולל, ופתחו חשבון רק כשאתם מזמינים.
בודקים את הארונות
Mac mini משלכם
בחרו תצורה. אם היא לא זמינה, השאירו אימייל ונכתוב לכם ביום שהיא מותקנת בארון.
שנתי: לפחות 19% פחות מתשלום חודשי
הבא