Guida

Modelli AI locali su un Mac mini: cosa gira con ogni taglio di memoria

Quali modelli aperti entrano in ogni taglio di memoria del Mac mini, quanto sono veloci e come usare un modello locale accanto a un modello cloud in un agente AI. Aggiornato a settembre 2026.

Aggiornato: 2026-09-15

Un Mac mini può far girare modelli linguistici da solo, senza cloud e senza costi per richiesta. Cosa può far girare dipende quasi del tutto da un numero: la sua memoria.

Questa guida mostra cosa entra in ogni Mac mini, a cosa serve e come usare un modello locale dentro un agente AI.

Perché un Mac mini è adatto a questo

Nomi dei modelli verificati a settembre 2026. Nuovi modelli escono ogni pochi mesi, ma le regole sulla memoria qui sotto restano le stesse.

Sulla maggior parte dei computer un modello linguistico deve entrare nella memoria della scheda grafica, che è piccola e costosa. Apple silicon condivide un'unica riserva di memoria tra processore e core grafici. Un Mac mini con 48 GB può caricare un modello che altrove richiederebbe una scheda grafica dedicata di fascia alta.

Contano due numeri:

  • La quantità di memoria decide quali modelli entrano.
  • La banda di memoria decide quanto velocemente rispondono. È molto più alta sui chip Pro che sui chip base, e cresce a ogni nuova generazione.

Quanta memoria serve a un modello

Di solito i modelli girano quantizzati: i loro numeri sono memorizzati con meno bit, il che riduce le dimensioni con solo una piccola perdita di qualità. La scelta comune è 4 bit.

Una regola utile: a 4 bit un modello richiede circa 0,6 GB per miliardo di parametri, più spazio per la conversazione (il contesto) e per macOS stesso.

Where the memory goes, at 4-bit

  • 16 GBA 9B model, about 6 GB
  • 24 GBA 24B model, about 15 GB
  • 48 GBA 35B model, about 21 GB
  • 64 GBA 70B model, about 43 GB

The rest is macOS and the conversation. A model that fits with a short chat may not fit with a long document in it.

Il modello non è mai l'unico a occupare quella memoria.
Dimensione del modelloMemoria a 4 bit, circa
4B3 GB
9B6 GB
Da 20 a 24BDa 13 a 15 GB
Da 31 a 35BDa 18 a 21 GB
70B43 GB

Due cose cambiano il quadro:

  • Anche un contesto lungo usa memoria. Un modello che entra con una conversazione breve potrebbe non entrare con dentro un documento di 100 pagine.
  • macOS assegna ai core grafici una grossa parte della memoria, ma non tutta. Lascia margine, soprattutto sulle macchine da 16 e 24 GB.

Cosa gira su ogni Mac mini

MemoriaDimensioni di modello comodeEsempi (settembre 2026)Adatto per
8 GBFino a circa 4BGemma 4 E2B, E4BSmistare e classificare messaggi, estrarre campi da un testo
16 GBFino a circa 9BQwen3.5 9B, Gemma 4 E4BRiassunti, agenti semplici, instradamento delle richieste, bozze brevi
24 GBFino a circa 24BMistral Small 3.2 24B, gpt-oss-20bChiamata di strumenti, aiuto nella programmazione, domande sui documenti
32 GBFino a circa 35BGemma 4 31B, Qwen3.6 35B-A3BRagionamento più solido, scrittura, lavoro da agente con immagini
48 GB35B con contesto lungo, o più modelli insiemeGemma 4 31B, Qwen3.6 35B-A3BUn assistente locale serio accanto ad altri carichi di lavoro
64 GBFino a circa 70BLlama 3.3 70BI modelli più grandi che un Mac mini può contenere

A proposito dei modelli «A3B». Nomi come Qwen3.6 35B-A3B indicano un modello mixture-of-experts: 35 miliardi di parametri memorizzati, ma solo circa 3 miliardi usati per ogni parola. Richiede la memoria di un modello 35B e risponde quasi alla velocità di uno piccolo. Su un Mac è spesso il miglior compromesso.

Quale Mac mini scegliere

Se vuoiScegli
Aggiungere un piccolo modello locale a un agente che usa soprattutto il cloudM4, 16 GB
Far girare utili modelli di taglia media per chiamata di strumenti e documentiM4, 24 o 32 GB
Far girare velocemente modelli da 30B, accanto ad altro lavoroM4 Pro o M5 Pro, 48 GB
Far girare modelli da 70BM4 Pro o M5 Pro, 64 GB

Per i modelli locali, più memoria batte un chip più veloce. Un M4 da 32 GB fa girare modelli che un M4 Pro da 24 GB non riesce a caricare. A parità di memoria, il chip Pro e la generazione più recente rispondono più in fretta.

Per iniziare

Il modo più semplice è Ollama. Scarica i modelli, li esegue e dà al tuo agente un'API locale. Su Apple silicon può usare il framework MLX di Apple, creato per questi chip.

ssh
brew install ollama
ollama serve &
ollama run qwen3.5:9b

I tag dei modelli cambiano, quindi controlla il nome esatto nella libreria di Ollama prima del pull.

Altre buone opzioni:

  • LM Studio, se preferisci un'app con una finestra.
  • mlx-lm, lo strumento di Apple, per i risultati più veloci e per esperimenti di fine-tuning.

Usare un modello locale dentro un agente

I modelli locali raramente sostituiscono i modelli cloud più grandi. Rendono al meglio accanto a loro.

Uno schema comune:

  1. 1Il modello locale legge ogni richiesta in arrivo.Decide di che tipo di richiesta si tratta, estrae i dati e gestisce da solo quelle di routine.
  2. 2Solo le richieste difficili vanno a un modello cloud.Report, valutazioni delicate, ragionamenti lunghi.

In un agente reale la maggior parte delle richieste è di routine, quindi la maggior parte non lascia mai il Mac. Il conto del cloud si riduce e le risposte semplici arrivano prima.

OpenClaw supporta Ollama come provider, e la maggior parte dei framework per agenti può parlare con la sua API locale su http://127.0.0.1:11434.

Tieni privata quella porta. Per impostazione predefinita Ollama è in ascolto solo sul Mac. Non cambiarlo per metterlo in ascolto su tutte le interfacce di rete su una macchina raggiungibile da internet. Raggiungilo invece tramite un tunnel SSH.

Perché un Mac mini in hosting per i modelli locali

  • Sempre acceso. Il modello è caricato e pronto a qualsiasi ora, senza un portatile da risvegliare.
  • Ogni taglio di memoria, senza comprarne uno. Prova un M4 da 24 GB per un giorno, passa a un M5 Pro da 64 GB quando non ti basta più.
  • I tuoi dati restano sul tuo Mac. Le richieste a cui risponde un modello locale non vengono mai inviate a un provider di AI.
  • Ospitato nell'UE.

Disponibili oggi

Questi sono già nel rack. Scegline uno, guarda cosa include e crea l'account solo quando ordini.

Controllo dei rack in corso

Un Mac mini tutto tuo

Scegli una configurazione. Se non è disponibile, lasciaci la tua email e ti scriviamo il giorno in cui è nel rack.

Annuale: almeno 19% in meno rispetto al pagamento mensile

  • 16GB

    Memoria unificata, 120 GB/s

    Core
    10 CPU, 10 GPU
    Archiviazione
    Disponibile
    Disponibile
  • Il più scelto
    24GB

    Memoria unificata, 120 GB/s

    Core
    10 CPU, 10 GPU
    Archiviazione
    Disponibile
    Disponibile
  • 32GB

    Memoria unificata, 120 GB/s

    Core
    10 CPU, 10 GPU
    Archiviazione
    Disponibile
    Disponibile
Visa Mastercard Bonifico SEPAPrezzi in EUR, IVA aggiunta al pagamento dove si applica. Minimo un mese, poi disdici in qualsiasi mese.

Avanti