AI locale per il coding e le automazioni: perché spendere migliaia di euro per usare modelli meno potenti del cloud?

Per coding e automazioni, oggi l’AI in locale conviene poco. L’hardware consumer più spinto regge modelli fino a 200 miliardi di parametri. Il miglior modello open weight, Kimi K3, ne ha 2,8 trilioni. Spendere migliaia di euro per far girare in casa un modello meno capace di quelli che uso in cloud significa pagare di più per ottenere un risultato peggiore.

Sempre più professionisti investono cifre importanti in macchine per l’AI locale. Io faccio fatica a capirne il vantaggio, almeno per il lavoro che faccio ogni giorno: programmare e costruire automazioni.

Quanto è grande un modello che l’hardware locale riesce a far girare?

Gli annunci di agosto 2026 danno un’idea precisa dei limiti.

• Apple Mac Studio con M5 Ultra: presentato il 25 agosto 2026, arriva fino a 512 GB di memoria unificata e parte da 5.499 dollari. Apple dice che può far girare "LLM enormi interamente sul dispositivo". La configurazione da 512 GB arriva solo a fine ottobre e il prezzo non è ancora pubblico.
• Xiaomi AI Cube: è un prototipo, non è in vendita. Il chip XRING D100 che monta supporta fino a 160 GB di memoria unificata e modelli fino a 200 miliardi di parametri. L’uso commerciale del chip è previsto per il 2027.

Duecento miliardi di parametri sembrano un numero enorme. Il problema emerge quando lo confronti con i modelli che servono davvero per programmare.

Perché i modelli open weight migliori non entrano in una macchina locale?

Kimi K3 di Moonshot AI è il modello open weight più vicino ai migliori modelli chiusi come Fable 5. Ha 2,8 trilioni di parametri: 14 volte i 200 miliardi supportati dal chip di Xiaomi.

Kimi K3 quindi non gira sull’AI Cube di Xiaomi. Non entra intero nemmeno nella memoria di un singolo Mac Studio da 512 GB, la configurazione che a fine agosto non aveva ancora una data di uscita.

Esistono tecniche per far girare comunque Kimi K3 su Apple Silicon, come lo streaming dei pesi e il pruning degli expert. Le ho raccontate in Kimi K3 in locale su Apple Silicon. Sono esperimenti interessanti, con compromessi su velocità o completezza del modello, e restano lontani da un setup da lavoro quotidiano.

Perché un modello meno capace mi fa perdere tempo?

Per me il vantaggio di usare l’AI è delegare il più lavoro possibile. Un modello meno capace sbaglia più spesso. Se sbaglia più spesso, devo controllare più spesso quello che fa.

Ogni controllo in più è tempo che passo a revisionare il lavoro del mio collega digitale invece di andare avanti. A quel punto il vantaggio di usare l’AI si riduce, proprio nella parte di lavoro dove dovrebbe pesare di più.

Il calcolo diventa questo: decine di migliaia di euro in hardware per ottenere un modello che richiede più supervisione di quello che ho già in cloud.

La privacy giustifica l’AI in locale?

La privacy è la risposta più ovvia, ed è un argomento reale. Ci sono aziende con policy che vietano di mandare dati a servizi cloud americani. In quei casi un modello locale è l’unica strada.

La domanda è quanti professionisti abbiano davvero questa esigenza. Secondo me, oggi, una minoranza.

C’è anche un paradosso. Se voglio usare un modello open weight di prima fascia come Kimi K3, su una singola macchina non riesco a farlo girare in modo pratico. Devo comunque usarlo in cloud, da un provider. E i dati escono comunque dal mio computer.

Cosa uso io per coding e automazioni?

Per il mio lavoro quotidiano uso Claude Code e Codex con i modelli di punta. Pago l’abbonamento e li uso per tutto quello che mi serve.

A me non interessa dove gira l’AI. Mi interessa che produca output, che mi semplifichi il lavoro e che mi permetta di fare più cose nello stesso tempo.

Può darsi che mi stia perdendo qualcosa. Se lavori con modelli locali per programmare o per le automazioni, il tuo caso d’uso è esattamente quello che mi interessa capire: raccontamelo nei commenti dello Short.