Categoria
HardwareDieci cubetti da venti millimetri, sei rossi e quattro neri: lo strumento di lavoro che una neuropsicologa mi ha chiesto di realizzare per le sue sedute di riabilitazione cognitiva.
Intelligenza ArtificialeHeadroom si installa con pip, si mette davanti al tuo LLM come proxy e comprime gli output rumorosi — log, JSON, chunk RAG — prima che arrivino al modello. Sul mio homelab, davanti a Ollama e LM Studio, ha tagliato in media il 51% dei token. Ma con un asterisco grosso: su un log