Tag
#vram
Intelligenza ArtificialeQuanto grande può essere un'AI in locale? Il limite della VRAM sui 16GB
Nei primi due articoli della serie abbiamo installato LM Studio e misurato quanto corre sul mio portatile RTX 5080 16GB. Poi, nel primo bonus, abbiamo visto quanto costa la *memoria* del modello — il contesto. Oggi il secondo dei tre bonus in cui spingo la scheda al limite lungo
Antonio Distefano18 giu 20265 min
HardwareLLM locale costi reali: serve davvero una GPU da 1.700 euro per battere ChatGPT gratis?
Quanto hardware serve per pareggiare i free tier di ChatGPT, Claude e Gemini con un LLM locale? Ho fatto i conti: GPU, VRAM, elettricità, break-even.
Antonio Distefano8 apr 20269 min
