Il modello AI più economico che hai messo nell'homelab non ti sta facendo risparmiare un euro: sposta solo il costo dal conto API alle ore perse a capire quale modello serve, per quale task. Il paragone giusto tra modelli AI economici e modello di frontiera non è il prezzo per milione di token, ma quanto costa portare a termine un task specifico — e su quel numero la forbice può ribaltarsi completamente a seconda di cosa stai chiedendo.
Il confronto sbagliato: prezzo del modello contro costo del task
Il dibattito online mette quasi sempre a confronto il prezzo per milione di token tra un modello economico e uno di frontiera, ma quel numero da solo dice poco: quello che conta davvero è il costo per completare un task specifico, dall'inizio alla consegna. Mitchell Hashimoto, co-fondatore di HashiCorp e creatore del terminale Ghostty, lo ha misurato sul campo, non in teoria, testando gli stessi modelli sullo stesso lavoro.
Sul primo test — implementare una feature già nota, del tipo che si scrive cento volte in una carriera — GLM-5.1 (il modello open-weight di Zhipu), GPT-5.5 (OpenAI) e Claude Fable 5 (Anthropic, lanciato il 9 giugno 2026) hanno prodotto risultati che lui stesso definisce ugualmente accettabili. Il conto finale non lo era per niente: GLM-5.1 è costato meno di un dollaro ed è finito in pochi minuti, GPT-5.5 circa un dollaro e mezzo, Fable 5 circa nove dollari in quaranta minuti. Stesso output percepito, prezzo che varia di un ordine di grandezza.
Nove dollari per quaranta minuti di lavoro che un modello da meno di un dollaro chiude in pochi minuti. Sullo stesso identico compito.
Questo è il primo pezzo del confronto: il divario di prezzo tra economico e frontiera esiste, è reale, ed è enorme anche quando l'output è indistinguibile. Il secondo pezzo — quando quel divario smette di contare — arriva solo quando cambia il tipo di task, non il prezzo.
Modelli AI economici: la scommessa che vince quasi sempre
Cosa succede quando il modello ha già incontrato il task mille volte in addestramento, e un pattern collaudato esiste già? I modelli AI economici non solo reggono il confronto: lo vincono su ogni metrica che conta per un homelab o una piccola realtà, dal costo al tempo di risposta. Vale per GLM-5.1, ma vale anche per modelli specializzati molto più piccoli, se allenati sul task giusto.
Un fine-tuning di Gemma 3 270M — un modello da poco più di un quarto di miliardo di parametri, minuscolo per gli standard 2026 — l'ho misurato io stesso e pubblicato come masterclass su questo blog
Agenti AI self-hosted vs cloud: il cervello è lo stesso, cambia solo chi tiene le chiavi
Claude Code vs Hermes di Nous Research: stesso modello cloud, corpo diverso. Perché su una RTX 2070 SUPER 8GB il vero nodo è privacy e lock-in, non la potenza.
: media su 5 ripetizioni con intervallo di confidenza, un router di task a set chiuso passato dal 23% all'89,2% di accuratezza, sopra lo zero-shot di Qwen3-8B (77%), un modello circa 30 volte più grande. Non serve il frontiera per ogni cosa: serve il modello giusto per il task giusto, anche quando il modello giusto è minuscolo.
Va detto con precisione, perché in questo genere di confronti i nomi contano: il modello dell'esperimento di Hashimoto era GLM-5.1, uscito ad aprile 2026, non GLM-5.2 come riportato nel video di Nate B Jones sull'argomento. GLM-5.2 è arrivato dopo, a giugno 2026, con una finestra di contesto estesa a 1 milione di token e un pricing diverso — sono due modelli distinti, e confonderli falsa il confronto.
C'è anche una leva open source dentro questo risultato: GLM-5.1 è a pesi aperti, il che significa che il risparmio non dipende dalla buona volontà di un singolo fornitore cloud, ma da un modello che chiunque può ospitare o interrogare a basso costo.
Il modello di frontiera: quando i quaranta dollari valgono più di un pomeriggio
Il modello di frontiera vale il suo prezzo esattamente quando il task non è mai stato affrontato prima e non esiste un pattern collaudato a cui appoggiarsi — la situazione opposta a quella in cui vincono i modelli AI economici. Hashimoto lo ha verificato affidando ai tre modelli anche un problema di ottimizzazione di codice di sistema mai affrontato in precedenza, ben oltre il territorio della feature ordinaria.
Solo Claude Fable 5 ha prodotto un risultato utilizzabile: due ore di lavoro, quaranta dollari di conto — e un output che lo stesso Hashimoto, esperto di livello mondiale nel suo dominio, dichiara di non poter raggiungere da solo. GLM-5.1 e GPT-5.5, gli stessi modelli che pochi minuti prima pareggiavano il conto sulla feature ordinaria, qui non hanno prodotto nulla di comparabile.
Zero modelli economici. Uno solo, quello di frontiera.
Buona parte del traffico ordinario non richiede un modello di frontiera, e instradarlo su un livello più economico può abbattere la spesa API in modo netto — le stime di settore parlano di tagli tra il 40% e l'85% — senza un calo di qualità percepibile. — pratica di model routing, sintesi di InfoWorld
È una fotografia vera — ma della coda della distribuzione, non della testa. Descrive bene il traffico ordinario: classificazione, estrazione dati, riassunti, boilerplate. Non descrive il momento in cui il task non rientra in nessun pattern noto, ed è esattamente lì che il conto da nove dollari o da meno di uno smette di essere la domanda giusta.
Il concetto accademico di jagged frontier — la frontiera irregolare delle capacità AI — spiega perché non basti guardare alla difficoltà percepita di un task per prevedere se un modello economico basterà: il confine tra dove l'AI eccelle e dove fallisce non segue l'intuizione umana, ma proprietà strutturali di come il modello è stato addestrato. Compiti che sembrano quasi identici possono finire su lati opposti della frontiera. Dentro la frontiera nota, lo studio che ha introdotto il concetto — Navigating the Jagged Technological Frontier, di Dell'Acqua, Mollick e Lakhani (Harvard Business School e BCG) — misura un completamento dei task più alto del 12,2% e una velocità superiore del 25,1%; fuori dalla frontiera, il calo rispetto al controllo umano arriva fino a 19 punti percentuali.
Il conto non finisce lì.
C'è anche un costo nascosto che il confronto prezzo-per-token nasconde bene: l'output costa quasi sempre più dell'input, e la differenza non è cosmetica. GLM-5.2 — il modello successivo a quello testato da Hashimoto — fattura 1,40 dollari per milione di token in input e 4,40 per milione in output: più di tre volte tanto. Un task che genera molto codice, molte righe di risposta, costa sistematicamente di più di quanto suggerisca il prezzo pubblicizzato in home page, a cui si aggiungono rate limit e throughput che frenano proprio i job più lunghi, quelli dove il conto sale più in fretta.
Hashimoto stesso, dopo l'esperimento, non ha scelto un modello unico: usa un flusso a tre stadi, Fable 5 in modalità "xhigh" come pianificatore in sola lettura che individua file e righe esatte, GPT-5.5 "xhigh" che scrive il codice, Fable 5 "xhigh" di nuovo come giudice che cerca edge case non gestiti e scelte di performance scadenti. Il costo di pianificazione e revisione resta nell'ordine di pochi dollari, contro i cinquanta e passa di un round trip fatto interamente col modello di frontiera. Il flusso a tre stadi rende la scelta meno binaria: instrada ogni fase verso il modello giusto per quella fase, non verso un singolo vincitore assoluto.
Vale anche l'onestà intellettuale sul rovescio della medaglia: parte delle ottimizzazioni che il modello di frontiera aveva prodotto sul codice per Apple Silicon è stata poi ritirata per overfitting — il modello aveva ottimizzato per il caso specifico testato, non generalizzato. E il caso più citato di "il frontiera fa miracoli" — la migrazione di una codebase Ruby da 50 milioni di righe in un giorno che Anthropic attribuisce a Stripe — resta un comunicato di marketing non verificato da una fonte indipendente, e dipende quanto (o più) dall'infrastruttura di test e review che Stripe aveva già costruito in anni, quanto dal modello in sé.
Niente di tutto questo è concettualmente nuovo, ed è bene dirlo invece di vendere la scoperta dell'acqua calda: Joel Spolsky lo chiamava "commoditize your complement" già nel 2002 su Joel on Software — quando il prezzo di un complemento scende, la domanda per il prodotto principale sale. Paul David, economista, nel 1990 documentò lo stesso schema sull'elettrificazione delle fabbriche: la produttività non arrivò per decenni, perché le fabbriche mantennero il layout ad albero di trasmissione dell'epoca a vapore, e migliorò solo quando una nuova generazione di manager riprogettò l'edificio attorno ai motori elettrici distribuiti. James March, nel 1991, descriveva la stessa tensione come equilibrio tra exploitation ed exploration organizzativa. Il modello economico che chiude in pochi minuti è l'exploitation quotidiana. Il modello di frontiera da quaranta dollari, quando serve davvero, è l'exploration che nessuna organizzazione dovrebbe smettere di finanziare.
Il vero costo per un homelab: le ore di scouting, non il token
Per chi gestisce un homelab o una piccola realtà, cosa erode davvero il budget AI? Raramente il prezzo per milione di token: quasi sempre le ore di scouting spese a capire quale modello usare, per quale task, prima di trovare l'equilibrio giusto. È un costo invisibile in bolletta, ma pesa quanto — o più di — quello che finisce sulla fattura API.
Secondo stime di settore, il punto di pareggio economico del self-hosting locale (Ollama, vLLM) rispetto alle API cloud si colloca tra le decine e le centinaia di milioni di token al mese per workload sostenuti — una soglia molto più alta del volume tipico di un homelab o di una piccola realtà. Chi self-hosta lo fa quasi sempre per privacy, controllo e prevedibilità del costo elettrico, non per pura convenienza sul token.
Il pattern minimo che funziona in un homelab non è "tutto locale" oppure "tutto cloud": è instradare tra due o tre livelli — un modello piccolo in locale per i task ripetitivi e a bassa posta in gioco, un modello economico via API per il grosso del lavoro ordinario, il frontiera a chiamata singola quando il task è nuovo e sbagliare costa davvero. Ollama più un router semplice, anche manuale, anche solo LiteLLM, bastano per iniziare.
Misurare prima di presumere è la differenza tra sapere e supporre: su un progetto reale con un modello economico locale in produzione (qwen2.5:3b via Ollama su un totem), un turno di conversazione sembrava lento e il sospetto naturale era il parsing JSON del modello. Misurando, il vero collo di bottiglia era la GUI animata del browser che affamava di risorse l'inferenza.
Non era il modello. Era il browser.
La lezione vale anche al contrario: prima di passare a un modello più caro perché "quello economico è lento", conviene controllare cosa sta davvero rallentando la pipeline. Su una RTX 5080 con 16GB di VRAM, misurato con LM Studio, Qwen3 8B gira a circa 106 token al secondo, Gemma 12B a circa 51, gpt-oss 20B ad architettura MoE a circa 176 — numeri che chiariscono quanto in fretta un modello locale possa chiudere un task ripetitivo senza toccare l'API, quando il task rientra nella sua frontiera.
Il criterio pratico non è "quale modello costa meno sulla carta", ma "ho già l'infrastruttura — dati, workflow, test — perché un modello economico faccia la differenza su questo task specifico". Secondo l'OCSE, il 61% delle piccole e medie imprese usa già almeno un'applicazione AI, ma il 76% di queste resta "AI novice": strumenti semplici usati in isolamento, non integrati nei processi. Il routing tra modelli economici e frontiera è un problema che si pone solo dopo aver risolto quello, non prima.
Il video di Nate B Jones da cui parte spesso questo confronto propone una soglia in dollari oltre la quale vale la pena sperimentare senza chiedere permesso a nessuno: un'euristica personale dell'autore, non un dato di mercato verificato. Riscalata su un homelab o una piccola realtà, la soglia realistica è probabilmente un ordine di grandezza più bassa, qualche decina di dollari per domanda: abbastanza per provare il frontiera su un task nuovo, non abbastanza per giustificarlo su quello che il modello economico chiude già in pochi minuti.
Verdetto: quando conviene l'economico, quando vale il frontiera
Il criterio che regge, tolta ogni retorica, è uno solo: se il task è già stato fatto mille volte e un test o una review possono verificarlo in fretta, il modello economico vince quasi sempre, su prezzo e su tempo. Se il task non ha precedenti, se sbagliare costa più del conto stesso, e se non hai un modo rapido per verificare l'output, il conto del frontiera — quaranta, anche cinquanta dollari — è quasi sempre più basso del costo reale di un lavoro fatto male o non fatto affatto.
Chi giura di aver tagliato la bolletta AI passando tutto su un modello economico, di solito, non ha ancora incontrato il task che lo costringerà a tornare, in fretta, a pagare il conto pieno del frontiera.
Domande frequenti
Conviene un modello AI economico o uno di frontiera per un homelab?
Dipende dal task, non dal prezzo del modello. Se il task è già stato fatto mille volte e puoi verificarlo in fretta con un test o una review, il modello economico vince quasi sempre, su costo e su tempo. Se invece il task è nuovo, non esiste un pattern collaudato e sbagliare costa più del conto stesso, il modello di frontiera è quasi sempre più economico del costo reale di un lavoro fatto male.
Quanto costa davvero un task con un modello AI, economico o di frontiera?
Il numero che conta non è il prezzo per milione di token, ma il costo per completare un task specifico. Sullo stesso lavoro ordinario, nel test di Mitchell Hashimoto, GLM-5.1 è costato meno di un dollaro, GPT-5.5 circa un dollaro e mezzo, Claude Fable 5 circa nove dollari — con risultati ugualmente accettabili. Su un problema di ottimizzazione mai affrontato prima, invece, solo il frontiera ha prodotto un risultato utile: circa 40 dollari in due ore.
Un modello AI piccolo può battere uno molto più grande?
Sì, se è specializzato sul task giusto. Un Gemma 3 270M messo a punto con un fine-tuning ha portato un router di ticket a set chiuso dal 23% all'89,2% di accuratezza, superando un Qwen3-8B a zero-shot (77%) — un modello circa 30 volte più grande — sullo stesso compito. Fuori dal suo dominio, però, un modello così piccolo crolla: la specializzazione è tutto.
Quando conviene self-hostare i modelli AI invece delle API cloud?
Il pareggio puramente economico rispetto alle API arriva solo a volumi molto alti — decine o centinaia di milioni di token al mese — ben sopra il traffico tipico di un homelab. Sotto quella soglia si self-hosta soprattutto per privacy, controllo e prevedibilità del costo elettrico, non per risparmiare sul token.
Come evito di bruciare budget in API con l'AI?
Instrada il lavoro tra due o tre livelli: un modello piccolo in locale per i task ripetitivi a bassa posta in gioco, un modello economico via API per il grosso del lavoro ordinario, e il modello di frontiera solo a chiamata singola quando il task è nuovo e verificarlo è difficile. Bastano Ollama e un router semplice, anche solo LiteLLM, per iniziare. E occhio a un costo nascosto: l'output è quasi sempre più caro dell'input.
I dati sull'esperimento di Mitchell Hashimoto vengono da The New Stack e dai suoi post via Digg, le cifre di pricing e rilascio di GLM-5.1 e GLM-5.2 da VentureBeat, la data di lancio di Claude Fable 5 dal comunicato ufficiale Anthropic, il concetto di model routing e i dati sulle richieste instradabili da InfoWorld, il concetto di jagged frontier dalla sintesi accademica su Substack, il video da cui parte il confronto tra modelli economici e frontiera — con la soglia in dollari per sperimentare senza permesso e la confusione iniziale su GLM-5.2 — è di Nate B Jones, il dato OCSE sulle PMI dal report D4SME dell'OCSE, "Strategy Letter V" di Joel Spolsky è su Joel on Software, lo studio di Paul David sull'elettrificazione delle fabbriche su ideas.repec.org.
Resta Aggiornato
Iscriviti alla newsletter per ricevere i migliori articoli direttamente nella tua inbox.
