Personlig AI: bärbara datorer, arbetsstationer och deras möjligheter (del 2)
Uppdaterat: för 7 dagar sedan
I den första delen av den här artikeln gick vi igenom uppgifter för lokala LLM-modeller och lämpliga datorarkitekturer, jämförde deras prestanda och förklarade hur processor och minne påverkar hastigheten.
I den andra delen tittar vi på vilka LLM-modeller som helt kan rymmas i datorns minne och vad de kan göra. Sedan jämför vi färdiga bärbara datorer och arbetsstationer med olika arkitekturer som tillverkarna erbjuder för lokala LLM-modeller.
Vilka LLM-modeller passar datorer med 32-768GB minne
Reklamlöften om att köra modeller med hundratals miljarder parametrar bör läsas tillsammans med villkoren: AMD marknadsför 300B på Ryzen AI Halo med 192GB minne, men med 4-bitars kvantisering. Det innebär ungefär 150GB enbart för vikterna utan övrig minnesåtgång, medan den fullständiga BF16/FP16-versionen kräver 4 gånger så mycket minne: 600GB! Ännu tydligare är Frameworks exempel: För en dator med 64GB rekommenderar företaget Qwen3.5-122B-A10B med 3-bitars kvantisering Q3_K_S och anger en minnesåtgång på 52.5GB, medan enbart BF16/FP16-vikterna skulle kräva cirka 244GB. Var uppmärksam på sådana löften, eftersom aggressiv kvantisering till 2-3 bitar kan försämra modellens svar och beteende avsevärt.
Artikeln fokuserar på datorer med minst 128GB minne för professionellt arbete med stora modeller som kan ersätta molnlösningar i många arbetsuppgifter. För enklare programmering passar även en dator med mindre minne. Därför ingår också dense-modellen Qwen3.8-27B i jämförelsen.
Den huvudsakliga utgångspunkten för system med 128GB+ är moderna öppna MoE-modeller Qwen3.8-Flash-Next och GLM-5.3-Flash. Qwen3.8 Flash är en molnversion, medan Flash-Next är en öppen version för lokal körning.
När varje token bearbetas använder en MoE-modell bara en del av parametrarna, vilket minskar mängden beräkningar. Hela uppsättningen vikter måste dock rymmas i minnet, så stor minneskapacitet är fortfarande viktig.
Kvantisering av vikter och KV-cache minskar deras storlek genom en mer kompakt representation av tal. Effekten på kvaliteten beror på modellen, uppgiften och komprimeringsgraden: Q4 kan vara acceptabelt för arbete, medan Q8 ofta ligger nära originalmodellens kvalitet. Nedan anges specifika publicerade GGUF-versioner och den totala storleken på alla viktfiler för varje version.
Modeller för lokal körning finns på Hugging Face, där originalvikter, instruktioner och färdiga kvantiserade versioner publiceras. Kontrollera upphovsperson, licens, filstorlek och kompatibilitet med det valda programmet före nedladdning: llama.cpp behöver vanligtvis formatet GGUF, medan MLX på Mac behöver en kompatibel MLX-version. Du kan också söka efter och ladda ned modeller direkt i LM Studio eller välja ett färdigt paket i Ollamas bibliotek.
Observera att storleken på modellens viktfiler inte motsvarar den totala minnesåtgången: Det behövs en reserv för operativsystemet, arbetsbuffertar och KV-cache, vars storlek beror på kontextlängden.
Om datorn eller klustret har tillräckligt med ledigt minne kan flera kopior av samma modell eller olika modeller läsas in för samtidig användning.
På Windows och Linux är det enkelt att börja med LM Studio med grafiskt gränssnitt eller Ollama; för flexiblare inställningar och ett lokalt API passar llama.cpp. På Mac med Apple Silicon finns samma verktyg samt MLX LM, som utvecklats för plattformen; GPU-accelerationen använder Metal. På DGX Spark med DGX OS, en Ubuntu-baserad Linux-distribution, kan du köra CUDA-byggen av llama.cpp och för att hantera flera förfrågningar använda vLLM enligt NVIDIAs färdiga instruktioner; programbygget eller containern måste stödja ARM64 och GB10-GPU:n.
Minne | Villkor för val | |||
|---|---|---|---|---|
32GB | Q4 + reserv får inte plats | Q4 + reserv får inte plats | Qwen27B: 32K kontext får plats; 64K är på gränsen; 128K+ får inte plats. | |
64GB | Q4 + reserv får inte plats | Q4 + reserv får inte plats | Qwen27B: upp till 256K kontext får plats. | |
128GB | Q4 + reserv får inte plats | Qwen27B: upp till 256K. Flash-Next: 32K/64K får plats; 128K är på gränsen. | ||
192GB | Q4 + reserv får inte plats | Qwen27B och Flash-Next: upp till 256K. | ||
256GB | Upp till 256K kontext får plats. | |||
512GB | Kontext upp till 256K. För ett kluster med 4 noder behövs ytterligare 36GB för Qwen27B, 60GB för Flash-Next och 72GB för GLM Flash: operativsystem och buffertar behövs på varje nod. | |||
768GB | Kontext upp till 256K. För ett kluster med 4 noder behövs ytterligare 36GB för Qwen27B, 60GB för Flash-Next och 72GB för GLM Flash: operativsystem och buffertar behövs på varje nod. |
Modelljämförelse med samma testversioner
Värdena nedan är procenttal från originalversionernas utvecklares publikationer, inte resultat för de valda kvantiserade GGUF-versionerna.
Resultaten beror även på agentmiljön (harness) och inställningarna: samma testversioner innebär inte nödvändigtvis samma förhållanden. Qwen3.8-27B testades till exempel i SWE-bench Pro och DeepSWE 1.1 med Claude Code som agentmiljö och en kontext på 256K.
Utöver öppna modeller visar tabellen benchmarkvärden för välkända molnmodeller som referens.
Några populära benchmarktester:
SWE-bench Pro och DeepSWE visar arbete med kod;
Terminal-Bench 2.1 - agentuppgifter som utförs självständigt;
GPQA Diamond och HLE with tools - komplexa frågor och resonemang, i det andra fallet med verktyg.
Modell och källa | SWE-bench Pro | Terminal-Bench 2.1 | DeepSWE v1.1 | GPQA Diamond | HLE with tools |
|---|---|---|---|---|---|
61.7 | 73.0 | 42.2 | 89.2 | Inget värde | |
62.5 | Inget värde | 58.7 | 91.7 | Inget värde | |
Inget värde | 84.3 | 63.4 | Inget värde | 55.3 | |
Inget värde | 90.6 | 74.2 | 90.9 | 63.9 | |
Inget värde | Inget värde | Inget värde | Inget värde | 64.5 | |
Inget värde | Inget värde | Inget värde | 89.9 | 49.0 | |
Inget värde | 88.8 | 72.7 | Inget värde | 64.5 | |
53.4 | Inget värde | Inget värde | 91.3 | Inget värde | |
Inget värde | 85.0 | 58.0 | Inget värde | 57.9 |
Färdiga datorer för lokala AI-modeller
Tabellerna nedan visar datorfamiljer med fokus på konfigurationer med 128GB minne eller mer.
Strömkraven anges separat för varje familj: adapterns effekt och det laddningsprotokoll som stöds.
Bärbara datorer och arbetsstationer med NVIDIA RTX Spark N1X
Bärbar dator | Modell, chip och minnesintervall | Laddning med USB-C-adapter (PD) | Dokumentation och butik |
|---|---|---|---|
❌ | Acer SFF RTX Spark | N1X | upp till 128GB | - | |
✅ | ASUS ProArt P16 H7607 | N1X | 32-128GB | PD3.1, 140W | |
✅ | ASUS ProArt P14 H7407 | N1X | 32-128GB | PD3.1, 140W | |
❌ | ASUS ProArt GR1X | N1X | 64/128GB | USB-C EPR PD 3.1(180W); adapter på 240W medföljer | |
❌ | Dell Creator Edition Desktop | N1X | upp till 128GB | - | |
✅ | Dell XPS 16 Creator Edition | N1X | 128GB | Power Delivery anges för tre USB-C 4.0-portar | |
✅ | HP OmniBook Ultra 16, 16-bk0000 | N1X | 32-128GB | PD3.2 USB-C 140W | |
✅ | HP OmniBook X 14 | N1X | upp till 128GB | USB PD 3.2; USB-C GaN nätadapter 140W | |
✅ | Lenovo Yoga Pro 9n / Pro 9n 15 Gen 11 | N1X | 32-128GB | USB-C PD 3.0; USB-C adapter 140W | |
✅ | Lenovo Yoga 9n 2-in-1 Gen 11 16" | N1X | 32-64GB | USB-C PD 3.0; USB-C adapter 140W | |
✅ | Microsoft Surface Laptop Ultra | N1X | 24-128GB | USB PD 3.1, minst 115W | |
❌ | Microsoft Surface RTX Spark Dev Box | N1X | 128GB | - | |
❌ | MSI EdgeMesa N AI+ | N1X | upp till 128GB | USB-C PD IN; nätadapter 240W | |
✅ | MSI Prestige N16 Flip AI+ | N1X | 32-128GB | PD3.1, 65W(20V3.25A)-140W(28V5A) |
NVIDIA GB10 / DGX Spark arbetsstationer
Modell, chip och minnesintervall | Laddning med USB-C-adapter (PD) | Dokumentation och butik |
|---|---|---|
Acer Veriton GN100 | GB10 | 128GB | Medföljande USB-C-nätadapter på 240W | |
ASUS Ascent GX10 | GB10 | 64/128GB | PD3.1 EPR. Databladet anger ingång upp till 180W; medföljande nätadapter är på 240W | |
CyberGeek DGX Spark Compact AI Workstation | GB10 |128GB | Medföljande USB-C-nätadapter på 240W; använd den medföljande adaptern | |
Dell Pro Precision with GB10 (tidigare Dell Pro Max with GB10) | 64/128GB | Medföljande USB-C-nätadapter FCM1253 280W, (utgångsprofiler: 5V3A, 9V3A, 15V3A, 20V6.5A, 28V5.89A, 36V5.83A, 48V5.83A); PD-versionen anges inte. I intervallet 20-48V använder dessa PD-profiler strömstyrkor utanför standarden! | |
GIGABYTE AI TOP ATOM | GB10 | 128GB | USB-C PD IN; adapter på 240W medföljer; erforderlig ineffekt, spänningsprofil och PD-version anges inte. | |
HP ZGX Nano G1n AI | GB10 | 128GB | Separat USB-C-ingång, nätadapter på 240W. | |
Lenovo ThinkStation PGX | GB10 | 128GB | Dedikerad USB-C-ingång med USB PD 3.1; medföljande nätadapter på 240W | |
MSI EdgeXpert AI | GB10 | 64/128GB | Medföljande USB PD 3.1-nätadapter på 240W, 48V5A | |
NVIDIA DGX Spark | GB10 | 128GB | Medföljande USB-C PD3.1 240W | |
PNY NVIDIA DGX Spark | GB10 | 128GB | Nätadapter ingår, effekt och PD-läge anges inte |
Bärbara datorer och arbetsstationer med Ryzen AI Max+ 395/495
Modeller med Ryzen AI Max 385/390 och Ryzen AI Max PRO 485/490 med Radeon 8050S-GPU tas inte med på grund av deras "föråldring".
Bärbar dator | Modell, chip och minnesintervall | Laddning med USB-C-adapter (PD) | Dokumentation och butik |
|---|---|---|---|
❌ | Acer Veriton RA110 | Max+ 395 | 64/128GB | - | |
❌ | AMD Ryzen AI Halo | Max+ 395 | 128GB | Separat USB-C-ingång för laddning med den medföljande nätadaptern | |
❌ | AMD Ryzen AI Halo | Max+ PRO 495 | 192GB gemensamt minne | USB-C-strömingång | |
❌ | ACEMAGIC F9A | Max+ PRO 495 | 192GB | - | |
✅ | ASUS ProArt PX13 HN7306 | Max+ 395 | 128GB | Stöder USB PD 45-100W | |
✅ | ASUS ROG Flow Z13 GZ302 | Max+ 395 i högsta versionen | 32-128GB | USB PD 3.0, 45-100W | |
❌ | Beelink GTR9 Pro | Max+ 395 | 128GB | - | |
❌ | CORSAIR AI Workstation 300 | Max+ 395 | 64/128GB | - | |
❌ | Framework Desktop | Max+ 395: 64/128GB, Max+ PRO 495: 192GB | - | |
❌ | GEEKOM A9 Mega | AMD Ryzen AI Max+ 395 | 128GB delat minne | - | |
❌ | GMKtec EVO-X2 | Max+ 395 | 64-128GB | - | |
❌ | GMKtec EVO-X3 | Max+ 395 | 128GB | - | |
❌ | GMKtec EVO-X5 Pro | Ryzen AI Max+ PRO 495 | 192GB gemensamt minne | - | |
❌ | HP Z2 Mini G1a | Max+ PRO 395 i högsta versionen | 16-128GB | - | |
✅ | HP ZBook Ultra 14 G1a | Max+ PRO 395 i högsta versionen | 16-128GB | USB-C 140W | |
✅ | HP ZBook Ultra G3a 16 | Ryzen AI Max+ PRO 495 | upp till 192GB gemensamt minne | USB-C-ingång; rekommenderad adapter 180W, alternativ 140W | |
❌ | Lenovo ThinkCentre X Ultra | Ryzen AI Max+ PRO 495 | upp till 128GB gemensamt minne | - | |
❌ | MINISFORUM MS-S1 MAX | Max+ 395 | 64/128GB | - | |
❌ | MINISFORUM MS-S1 MAX-P495 | Max+ PRO 495 | 192GB gemensamt minne | - | |
❌ | MINISFORUM N5 MAX-P495 | Max+ PRO 495 | 192GB | - | |
❌ | MSI PRO MAX EDGE AI+ 11M | Max+ 395 | 128GB | - |
Bärbara datorer och arbetsstationer med Apple silicon: de två senaste generationerna
För MacBook Pro behandlas M5 Max och M4 Max med 40-kärnig GPU och 128GB. För Mac Studio behandlas generationen M5 Max / M5 Ultra och föregående M4 Max / M3 Ultra. Apple angav en M3 Ultra-version med 512GB vid lanseringen, men den aktuella specifikationssidan visar högst 256GB.
Bärbar dator | Modell, chip och minnesintervall | Laddning med USB-C-adapter (PD) | Dokumentation och butik |
|---|---|---|---|
✅ | MacBook Pro 14" (2024) | M4 Max | 36-128GB; 128GB kräver 40-kärnig GPU | PD3.0 (<100W) | |
✅ | MacBook Pro 16" (2024) | M4 Max | 36-128GB; 128GB kräver 40-kärnig GPU | PD3.1 (140W) | |
✅ | MacBook Pro 14" | M5 Max | 36-128GB; 128GB kräver 40-kärnig GPU | PD3.0 (<100W) | |
✅ | MacBook Pro 16" | M5 Max | 36-128GB; 128GB kräver 40-kärnig GPU | PD3.1 (140W) | |
❌ | Mac Studio (2025) | M4 Max | 36-128GB; 128GB kräver 40-kärnig GPU | - | |
❌ | Mac Studio (2025) | M3 Ultra | 96-256GB enligt aktuell specifikation; 512GB vid lanseringen | - | |
❌ | Mac Studio | M5 Ultra | 96/256/512GB; 512GB: leveranser senare i oktober 2026 | - | |
❌ | Mac Studio | M5 Max | 36-128GB; 128GB kräver 40-kärnig GPU | - | Specifikationer | Amazon.com(36GB) |
MagSafe 3 på MacBook är en egenutvecklad kontakt på datorns sida som får ström från en USB-C-adapter via rätt kabel.
Så ordnar du tillförlitlig strömförsörjning till datorn
Kontrollera vad som medföljer: vissa konfigurationer säljs utan adapter, särskilt i Europa; för andra ingår den.
Dagligt arbete i många timmar med en lokal AI-modell kräver en tillförlitlig strömförsörjning som kan leverera nödvändig effekt under lång tid utan avbrott.
Kontrollera spänning, ström, protokoll och godkänd kabel mot dokumentationen för den aktuella datorn. Om tillverkaren kräver ett eget nätaggregat eller ett icke-standardiserat läge är en USB-C-kontakt inte skäl nog att ersätta det med valfri kraftfull laddare.
Om du ska ansluta flera enheter till en strömförsörjning med flera portar, kontrollera effekten från en port och hur den omfördelas när andra enheter ansluts.