Loading article content...
Tema · SYS.LOCAL
Modelli locali per la GenAI
Eseguire modelli generativi aperti sul proprio hardware: panorama dei pesi aperti, quantizzazione, formati come GGUF. Cosa serve sapere per portare un modello dalla model card alla propria GPU.
01Leggi l'articolo →
modelli apertihugging faceinferenza locale
Il panorama dei modelli aperti eseguibili in locale
Osservatorio Evolutivo · 2 min di lettura
Loading article content...
02Leggi l'articolo →
quantizzazionegptqawqmemoria gpu
Quantizzazione: far entrare un modello nella tua GPU
Osservatorio Evolutivo · 3 min di lettura
Loading article content...
03Leggi l'articolo →
ggufllama.cppk-quantsinferenza locale
GGUF e llama.cpp: il formato dei pesi per l'inferenza locale
Osservatorio Evolutivo · 2 min di lettura
Loading article content...