Meta Muse Glimmer: l'AI da 30 miliardi di parametri che gira in locale su Mac e PC

Meta, insieme al manifesto IA di Zuckerberg, ha annunciato anche Muse Glimmer, un modello AI da 30 miliardi di parametri pensato per girare direttamente sul vostro Mac o PC, senza bisogno di connessione internet e senza passare per server cloud. I pesi del modello sono già disponibili su Hugging Face con licenza Apache 2.0, il che significa che chiunque può scaricarlo, modificarlo e usarlo liberamente, anche per scopi commerciali. Che è esattamente quello che auspica Zuckerberg nel suo manifesto.

La cosa interessante non è tanto che esista un modello da 30 miliardi di parametri, ma che Meta abbia lavorato seriamente per farlo girare su hardware consumer: una singola GPU da 24 o 32 GB è sufficiente, e i test di velocità sono stati condotti su MacBook M4 Max, M5 Max e RTX 5090. Sono configurazioni costose, ma comunque accessibili.

Il punto di forza di Muse Glimmer è l'uso come agente locale: un modello che gestisce il calendario, risponde alle email, organizza i file e impara le vostre abitudini, tutto senza mandare dati a nessuno. Per farlo funzionare in locale senza che l'esperienza sia frustrante, Meta ha dovuto risolvere due problemi concreti.

Il primo è la dimensione del modello: a piena precisione, 30 miliardi di parametri occuperebbero oltre 55 GB di memoria, impossibile su qualsiasi GPU consumer. Con la quantizzazione a 4 bit, il modello scende sotto i 20 GB, lasciando spazio sufficiente per la memoria di lavoro e il modulo di comprensione delle immagini. Il secondo problema è la velocità di generazione: Meta ha sviluppato un modello "bozza" chiamato DFlash che propone blocchi interi di testo, mentre il modello principale verifica e corregge in parallelo. Il risultato è una velocità di generazione 3,1 volte superiore su RTX 5090 e 1,8 volte superiore su M5 Max rispetto alla generazione token per token.

Sul fronte delle capacità, Muse Glimmer supporta input multimodali (testo e immagini), gestisce flussi di lavoro multi-step, è addestrato su dati in oltre 100 lingue e include una modalità di recupero dagli errori: se una chiamata a uno strumento fallisce, il modello è addestrato a diagnosticare il problema e riprovare invece di bloccarsi. Supporta anche livelli di ragionamento configurabili, per bilanciare qualità e velocità a seconda del compito.

Nei benchmark pubblicati da Meta, Muse Glimmer si confronta con Gemma4-31B e Qwen3.6-27B, i principali rivali nella stessa fascia di dimensioni, ottenendo risultati competitivi su task agentici, coding e comprensione multimodale. Detto questo, i benchmark li pubblica sempre chi ha interesse a farlo sembrare bello, quindi aspettiamo le valutazioni indipendenti.

Nelle prossime settimane arriveranno le integrazioni ottimizzate per llama.cpp, MLX, ExecuTorch, Ollama e LM Studio, oltre al supporto per il deployment su larga scala con vLLM e SGLang. Meta sta anche lavorando con AMD, Arm, Dell, Intel e NVIDIA per ottimizzare le prestazioni su hardware diverso.

L'idea di un agente AI che vive sul vostro dispositivo, conosce i vostri dati e non li condivide con nessuno è concettualmente solida, e il fatto che Meta la rilasci come open source con licenza permissiva è una mossa che potrebbe accelerare molto lo sviluppo dell'ecosistema. La domanda vera è se le prestazioni in uso reale, su hardware medio e con task quotidiani, reggeranno il confronto con le alternative cloud: e quella risposta la darà la comunità nei prossimi mesi, non il comunicato stampa di lancio.

L'articolo Meta Muse Glimmer: l'AI da 30 miliardi di parametri che gira in locale su Mac e PC sembra essere il primo su Smartworld.