Qwen3-30B-A3B in locale senza GPU: risposta giusta dopo 631 secondi

Qwen3-30B-A3B in locale senza GPU: il test sul Ryzen 9 3900X

Il test è stato girato in due video del canale Il Tecnico, a maggio 2026, e il primo tentativo è andato male. Ho provato a eseguire il modello su un vecchio PC con un Ryzen 3 della serie 3000 e 32 GB di RAM, con Windows. La scheda madre partiva con un solo banco di memoria da 16 GB e non con due, mentre al modello ne servono circa 20. Anche un'altra scheda madre ha dato problemi. Nel video lo chiamo per errore «Qwen 3.5»: il modello è Qwen3-30B-A3B, e la correzione sta già nella descrizione.

La prova vera è arrivata sul mio PC precedente, con un Ryzen 9 3900X e 32 GB di RAM, che oggi è un nodo Proxmox. Nessuna GPU usata, solo CPU, sempre con Windows, e il modello girava in modalità thinking, cioè quella che scrive il ragionamento prima della risposta, con il contesto impostato a 32.000 token. Il prompt era un problema di aritmetica con condizioni che cambiano strada facendo, scelto per vedere se il modello salta passaggi o allucina.

Quello che ho visto a schermo: circa 20 GB di RAM occupati, il disco tranquillo e un PC di fatto inutilizzabile finché il modello lavorava. Il ragionamento è durato 631 secondi, oltre dieci minuti, prima della risposta. Risultato finale e ragionamento erano corretti, e anche l'italiano è venuto fuori abbastanza bene. Ho dato lo stesso prompt a ChatGPT gratuito: risposta in pochi secondi, risultato praticamente uguale.

Cosa questa prova non dice

Non ho misurato i token al secondo, non ho provato quantizzazioni diverse e non ho provato nessuna GPU in quel test. È una prova singola, su una macchina e su un solo problema, quindi non dice nulla sulla qualità del modello in generale e niente su come si comporterebbe con la modalità non-thinking. Dice una cosa sola, e precisa: con 32 GB di RAM e senza GPU il modello gira, risponde giusto e occupa il PC per più di dieci minuti.

Prima di questo test avevo provato modelli piccoli su LattePanda e Raspberry Pi. In entrambi i casi i token al secondo erano pochissimi, e come chat quei sistemi non servivano a niente. Il 30B su un Ryzen 9 è un passo avanti nella qualità della risposta e non nella velocità.

Perché un modello MoE in locale funziona su CPU

Qwen3-30B-A3B è un modello a miscela di esperti (MoE), e questo spiega perché abbia senso provarlo senza GPU. Secondo la