IA personale: portatili, workstation e le loro capacità (parte 2)
Aggiornamento: 7 giorni fa
Nella prima parte di questo articolo abbiamo analizzato i compiti per gli LLM locali e le architetture di computer adatte, confrontato le loro prestazioni e spiegato come processore e memoria influiscono sulla velocità.
Nella seconda parte vedremo quali modelli LLM possono essere ospitati interamente nella memoria del computer e cosa possono fare. Confronteremo poi portatili e workstation disponibili con architetture diverse, proposti dai produttori per lavorare con LLM locali.
Quali modelli LLM sono adatti ai computer con 32-768GB di memoria
Le promesse pubblicitarie di eseguire modelli con centinaia di miliardi di parametri vanno lette insieme alle condizioni: AMD pubblicizza 300B su Ryzen AI Halo con 192GB di memoria, ma con quantizzazione a 4 bit. Si tratta di circa 150GB per i soli pesi, senza memoria aggiuntiva, mentre la versione completa BF16/FP16 richiede 4 volte più memoria: 600GB! Ancora più chiaro è l'esempio di Framework: per un computer con 64GB, l'azienda consiglia Qwen3.5-122B-A10B con quantizzazione a 3 bit Q3_K_S e indica un consumo di memoria di 52.5GB, mentre i soli pesi BF16/FP16 richiederebbero circa 244GB. Valutate con attenzione queste promesse, perché una quantizzazione aggressiva a 2-3 bit può peggiorare notevolmente le risposte e il comportamento del modello.
Nell'articolo ci concentriamo su computer con almeno 128GB di memoria per lavorare professionalmente con grandi modelli capaci di sostituire soluzioni cloud in molte attività lavorative. Per compiti di programmazione semplici va bene anche un computer con meno memoria. Per questo il confronto include anche il modello denso Qwen3.8-27B.
Il riferimento principale per i sistemi con 128GB+ sono i moderni modelli MoE aperti Qwen3.8-Flash-Next e GLM-5.3-Flash. Qwen3.8 Flash è una versione cloud, mentre Flash-Next è una versione aperta per l'esecuzione locale.
Quando elabora ogni token, un modello MoE utilizza solo una parte dei parametri, riducendo il calcolo necessario. Tuttavia, in memoria deve essere caricato l'intero insieme dei pesi, quindi una grande capacità rimane importante.
La quantizzazione dei pesi e della cache KV ne riduce la dimensione grazie a una rappresentazione più compatta dei numeri. L'effetto sulla qualità dipende dal modello, dal compito e dal grado di compressione: Q4 può essere accettabile per lavorare, mentre Q8 è spesso vicina alla qualità del modello originale. Di seguito sono indicate le specifiche versioni GGUF pubblicate e la dimensione totale di tutti i file dei pesi di ciascuna versione.
I modelli da eseguire in locale si trovano su Hugging Face, dove vengono pubblicati pesi originali, istruzioni e versioni quantizzate pronte. Prima di scaricare, controllate autore, licenza, dimensioni dei file e compatibilità con il programma scelto: llama.cpp richiede di solito il formato GGUF, mentre MLX su Mac richiede una versione compatibile con MLX. Potete anche cercare e scaricare modelli direttamente da LM Studio oppure scegliere un pacchetto pronto nella libreria di Ollama.
Il peso dei file del modello non coincide con il consumo totale di memoria: serve una riserva per sistema operativo, buffer di lavoro e cache KV, la cui dimensione dipende dalla lunghezza del contesto.
Se un computer o un cluster dispone di sufficiente memoria libera, può ospitare più copie dello stesso modello oppure modelli diversi da usare contemporaneamente.
Su Windows e Linux, per iniziare è comodo usare LM Studio con interfaccia grafica oppure Ollama; per impostazioni più flessibili e un'API locale è adatto llama.cpp. Sui Mac con Apple Silicon sono disponibili gli stessi strumenti, oltre a MLX LM, sviluppato per questa piattaforma; l'accelerazione GPU utilizza Metal. Su DGX Spark con DGX OS, un Linux basato su Ubuntu, si possono eseguire build CUDA di llama.cpp e, per gestire più richieste, usare vLLM seguendo le istruzioni NVIDIA; la build del programma o il container deve supportare ARM64 e la GPU GB10.
Memoria | Criteri di scelta | |||
|---|---|---|---|---|
32GB | Q4 + riserva non entrano | Q4 + riserva non entrano | Qwen27B: un contesto di 32K entra; 64K è al limite; 128K+ non entra. | |
64GB | Q4 + riserva non entrano | Q4 + riserva non entrano | Qwen27B: entra fino a 256K di contesto. | |
128GB | Q4 + riserva non entrano | Qwen27B: fino a 256K. Flash-Next: 32K/64K entrano; 128K è al limite. | ||
192GB | Q4 + riserva non entrano | Qwen27B e Flash-Next: fino a 256K. | ||
256GB | Entra un contesto fino a 256K. | |||
512GB | Contesto fino a 256K. Per un cluster di 4 nodi servono altri 36GB per Qwen27B, 60GB per Flash-Next e 72GB per GLM Flash: sistema operativo e buffer servono su ciascun nodo. | |||
768GB | Contesto fino a 256K. Per un cluster di 4 nodi servono altri 36GB per Qwen27B, 60GB per Flash-Next e 72GB per GLM Flash: sistema operativo e buffer servono su ciascun nodo. |
Confronto dei modelli con le stesse versioni dei test
I valori seguenti sono percentuali tratte dalle pubblicazioni degli sviluppatori delle versioni originali, non risultati delle versioni GGUF quantizzate selezionate.
I risultati dipendono anche dall'ambiente agentico (harness) e dalle impostazioni: versioni identiche dei test non implicano condizioni identiche. Ad esempio, Qwen3.8-27B è stato testato in SWE-bench Pro e DeepSWE 1.1 con l'ambiente agentico Claude Code e un contesto di 256K.
Oltre ai modelli aperti, la tabella riporta come riferimento i valori dei benchmark di noti modelli cloud.
Alcuni benchmark popolari:
SWE-bench Pro e DeepSWE mostrano il lavoro con il codice;
Terminal-Bench 2.1: attività di esecuzione autonoma con agenti;
GPQA Diamond e HLE with tools: domande complesse e ragionamento, nel secondo caso con strumenti.
Modello e fonte | SWE-bench Pro | Terminal-Bench 2.1 | DeepSWE v1.1 | GPQA Diamond | HLE with tools |
|---|---|---|---|---|---|
61.7 | 73.0 | 42.2 | 89.2 | Valore non disponibile | |
62.5 | Valore non disponibile | 58.7 | 91.7 | Valore non disponibile | |
Valore non disponibile | 84.3 | 63.4 | Valore non disponibile | 55.3 | |
Valore non disponibile | 90.6 | 74.2 | 90.9 | 63.9 | |
Valore non disponibile | Valore non disponibile | Valore non disponibile | Valore non disponibile | 64.5 | |
Valore non disponibile | Valore non disponibile | Valore non disponibile | 89.9 | 49.0 | |
Valore non disponibile | 88.8 | 72.7 | Valore non disponibile | 64.5 | |
53.4 | Valore non disponibile | Valore non disponibile | 91.3 | Valore non disponibile | |
Valore non disponibile | 85.0 | 58.0 | Valore non disponibile | 57.9 |
Computer disponibili per modelli di IA locali
Le tabelle seguenti elencano famiglie di computer, con particolare attenzione alle configurazioni con 128GB di memoria o più.
Per ogni famiglia sono indicati separatamente i requisiti di alimentazione: potenza dell'adattatore e protocollo di ricarica supportato.
Notebook e workstation con NVIDIA RTX Spark N1X
Portatile | Modello, chip e intervallo di memoria | Ricarica con adattatore USB-C (PD) | Documentazione e negozio |
|---|---|---|---|
❌ | Acer SFF RTX Spark | N1X | fino a 128GB | - | |
✅ | ASUS ProArt P16 H7607 | N1X | 32-128GB | PD3.1, 140W | |
✅ | ASUS ProArt P14 H7407 | N1X | 32-128GB | PD3.1, 140W | |
❌ | ASUS ProArt GR1X | N1X | 64/128GB | USB-C EPR PD 3.1(180W); alimentatore da 240W incluso | |
❌ | Dell Creator Edition Desktop | N1X | fino a 128GB | - | |
✅ | Dell XPS 16 Creator Edition | N1X | 128GB | Power Delivery è dichiarato su tre porte USB-C 4.0 | |
✅ | HP OmniBook Ultra 16, 16-bk0000 | N1X | 32-128GB | PD3.2 USB-C 140W | |
✅ | HP OmniBook X 14 | N1X | fino a 128GB | USB PD 3.2; USB-C GaN alimentatore 140W | |
✅ | Lenovo Yoga Pro 9n / Pro 9n 15 Gen 11 | N1X | 32-128GB | USB-C PD 3.0; USB-C alimentatore 140W | |
✅ | Lenovo Yoga 9n 2-in-1 Gen 11 16" | N1X | 32-64GB | USB-C PD 3.0; USB-C alimentatore 140W | |
✅ | Microsoft Surface Laptop Ultra | N1X | 24-128GB | USB PD 3.1, minimo 115W | |
❌ | Microsoft Surface RTX Spark Dev Box | N1X | 128GB | - | |
❌ | MSI EdgeMesa N AI+ | N1X | fino a 128GB | USB-C PD IN; alimentatore 240W | |
✅ | MSI Prestige N16 Flip AI+ | N1X | 32-128GB | PD3.1, 65W(20V3.25A)-140W(28V5A) |
Workstation NVIDIA GB10 / DGX Spark
Modello, chip e intervallo di memoria | Ricarica con adattatore USB-C (PD) | Documentazione e negozio |
|---|---|---|
Acer Veriton GN100 | GB10 | 128GB | Alimentatore USB-C incluso da 240W | |
ASUS Ascent GX10 | GB10 | 64/128GB | PD3.1 EPR. La scheda tecnica indica un ingresso fino a 180W; alimentatore incluso da 240W | |
CyberGeek DGX Spark Compact AI Workstation | GB10 |128GB | Alimentatore USB-C da 240W incluso; usare l'adattatore in dotazione | |
Dell Pro Precision with GB10 (in precedenza Dell Pro Max with GB10) | 64/128GB | Alimentatore USB-C incluso FCM1253 280W, (profili di uscita: 5V3A, 9V3A, 15V3A, 20V6.5A, 28V5.89A, 36V5.83A, 48V5.83A); La versione PD non è indicata. Nell'intervallo 20-48V, questi profili PD utilizzano intensità di corrente non standard! | |
GIGABYTE AI TOP ATOM | GB10 | 128GB | USB-C PD IN; alimentatore da 240W incluso; la potenza richiesta in ingresso, il profilo di tensione e la versione PD non sono indicati. | |
HP ZGX Nano G1n AI | GB10 | 128GB | Ingresso USB-C dedicato, alimentatore da 240W. | |
Lenovo ThinkStation PGX | GB10 | 128GB | Ingresso USB-C dedicato con USB PD 3.1; alimentatore incluso da 240W | |
MSI EdgeXpert AI | GB10 | 64/128GB | Alimentatore di serie USB PD 3.1 240W, 48V5A | |
NVIDIA DGX Spark | GB10 | 128GB | USB-C PD3.1 240W di serie | |
PNY NVIDIA DGX Spark | GB10 | 128GB | Alimentatore incluso; potenza e modalità PD non indicate |
Notebook e workstation con Ryzen AI Max+ 395/495
I modelli Ryzen AI Max 385/390 e Ryzen AI Max PRO 485/490 con GPU Radeon 8050S non sono considerati a causa della loro «obsolescenza».
Portatile | Modello, chip e intervallo di memoria | Ricarica con adattatore USB-C (PD) | Documentazione e negozio |
|---|---|---|---|
❌ | Acer Veriton RA110 | Max+ 395 | 64/128GB | - | |
❌ | AMD Ryzen AI Halo | Max+ 395 | 128GB | Ingresso USB-C dedicato alla ricarica con l'alimentatore di serie | |
❌ | AMD Ryzen AI Halo | Max+ PRO 495 | 192GB di memoria unificata | Ingresso di alimentazione USB-C | |
❌ | ACEMAGIC F9A | Max+ PRO 495 | 192GB | - | |
✅ | ASUS ProArt PX13 HN7306 | Max+ 395 | 128GB | Supporta USB PD 45-100W | |
✅ | ASUS ROG Flow Z13 GZ302 | Max+ 395 nella versione superiore | 32-128GB | USB PD 3.0, 45-100W | |
❌ | Beelink GTR9 Pro | Max+ 395 | 128GB | - | |
❌ | CORSAIR AI Workstation 300 | Max+ 395 | 64/128GB | - | |
❌ | Framework Desktop | Max+ 395: 64/128GB, Max+ PRO 495: 192GB | - | |
❌ | GEEKOM A9 Mega | AMD Ryzen AI Max+ 395 | 128GB di memoria condivisa | - | |
❌ | GMKtec EVO-X2 | Max+ 395 | 64-128GB | - | |
❌ | GMKtec EVO-X3 | Max+ 395 | 128GB | - | |
❌ | GMKtec EVO-X5 Pro | Ryzen AI Max+ PRO 495 | 192GB di memoria unificata | - | |
❌ | HP Z2 Mini G1a | Max+ PRO 395 nella versione superiore | 16-128GB | - | |
✅ | HP ZBook Ultra 14 G1a | Max+ PRO 395 nella versione superiore | 16-128GB | USB-C 140W | |
✅ | HP ZBook Ultra G3a 16 | Ryzen AI Max+ PRO 495 | fino a 192GB di memoria unificata | Ingresso USB-C; alimentatore consigliato 180W, alternativa 140W | |
❌ | Lenovo ThinkCentre X Ultra | Ryzen AI Max+ PRO 495 | fino a 128GB di memoria unificata | - | |
❌ | MINISFORUM MS-S1 MAX | Max+ 395 | 64/128GB | - | |
❌ | MINISFORUM MS-S1 MAX-P495 | Max+ PRO 495 | 192GB di memoria unificata | - | |
❌ | MINISFORUM N5 MAX-P495 | Max+ PRO 495 | 192GB | - | |
❌ | MSI PRO MAX EDGE AI+ 11M | Max+ 395 | 128GB | - |
Notebook e workstation con Apple Silicon: le due generazioni più recenti
Per MacBook Pro si considerano M5 Max e M4 Max con GPU a 40 core e 128GB. Per Mac Studio, la generazione M5 Max / M5 Ultra e la precedente M4 Max / M3 Ultra. Apple aveva annunciato la versione M3 Ultra da 512GB al lancio, ma la pagina attuale delle specifiche mostra un massimo di 256GB.
Portatile | Modello, chip e intervallo di memoria | Ricarica con adattatore USB-C (PD) | Documentazione e negozio |
|---|---|---|---|
✅ | MacBook Pro 14" (2024) | M4 Max | 36-128GB; 128GB richiede una GPU a 40 core | PD3.0 (<100W) | |
✅ | MacBook Pro 16" (2024) | M4 Max | 36-128GB; 128GB richiede una GPU a 40 core | PD3.1 (140W) | |
✅ | MacBook Pro 14" | M5 Max | 36-128GB; 128GB richiede una GPU a 40 core | PD3.0 (<100W) | |
✅ | MacBook Pro 16" | M5 Max | 36-128GB; 128GB richiede una GPU a 40 core | PD3.1 (140W) | |
❌ | Mac Studio (2025) | M4 Max | 36-128GB; 128GB richiede una GPU a 40 core | - | |
❌ | Mac Studio (2025) | M3 Ultra | 96-256GB nella specifica attuale; 512GB al lancio | - | |
❌ | Mac Studio | M5 Ultra | 96/256/512GB; 512GB: consegne più avanti a ottobre 2026 | - | |
❌ | Mac Studio | M5 Max | 36-128GB; 128GB richiede una GPU a 40 core | - | Specifiche | Amazon.com(36GB) |
MagSafe 3 sui MacBook è un connettore proprietario sul lato del portatile, che riceve alimentazione da un adattatore USB-C tramite il cavo corrispondente.
Come garantire un'alimentazione affidabile del computer
Verificate il contenuto della confezione: alcune configurazioni sono vendute senza adattatore, soprattutto in Europa; altre lo includono.
Per lavorare ogni giorno per molte ore con un modello di IA locale serve un alimentatore affidabile, capace di erogare a lungo la potenza richiesta senza interruzioni.
Verificate tensione, corrente, protocollo e cavo ammesso nella documentazione della macchina specifica. Se il produttore richiede un alimentatore proprietario o una modalità non standard, la presenza di un connettore USB-C non giustifica la sostituzione con un qualsiasi caricatore potente.
Se prevedete di collegare più dispositivi a un alimentatore con più porte, verificate la potenza di una singola porta e la sua ridistribuzione quando vengono collegati altri dispositivi.