Personlig KI: bærbare datamaskiner, arbeidsstasjoner og mulighetene deres (del 2)
Oppdatert: for 7 døgn siden
I første del av denne artikkelen gikk vi gjennom oppgaver for lokale LLM-er og egnede datamaskinarkitekturer, sammenlignet ytelsen og forklarte hvordan prosessor og minne påvirker hastigheten.
I andre del ser vi på hvilke LLM-modeller som kan få plass helt i datamaskinens minne, og hva de kan gjøre. Deretter sammenligner vi ferdige bærbare datamaskiner og arbeidsstasjoner med ulike arkitekturer som produsentene tilbyr for lokale LLM-er.
Hvilke LLM-modeller passer til datamaskiner med 32-768GB minne
Reklameløfter om å kjøre modeller med hundrevis av milliarder parametere bør leses sammen med vilkårene: AMD reklamerer med 300B på Ryzen AI Halo med 192GB minne, men med 4-bits kvantisering. Det tilsvarer omtrent 150GB bare til vektene uten ekstra minnebruk, mens den fullstendige BF16/FP16-versjonen krever 4 ganger så mye minne: 600GB! Enda tydeligere er Frameworks eksempel: For en datamaskin med 64GB anbefaler selskapet Qwen3.5-122B-A10B med 3-bits kvantisering Q3_K_S og oppgir et minneforbruk på 52.5GB, mens bare BF16/FP16-vektene ville kreve rundt 244GB. Vær kritisk til slike løfter, siden aggressiv kvantisering til 2-3 bit kan svekke modellens svar og oppførsel betydelig.
Artikkelen fokuserer på datamaskiner med minst 128GB minne for profesjonelt arbeid med store modeller som kan erstatte skyløsninger i mange arbeidsoppgaver. En datamaskin med mindre minne kan også håndtere enklere programmering. Derfor omfatter sammenligningen også dense-modellen Qwen3.8-27B.
Hovedreferansen for systemer med 128GB+ er moderne åpne MoE-modeller Qwen3.8-Flash-Next og GLM-5.3-Flash. Qwen3.8 Flash er en skyutgivelse, mens Flash-Next er en åpen utgivelse for lokal kjøring.
Når hvert token behandles, bruker en MoE-modell bare en del av parameterne, noe som reduserer beregningsmengden. Likevel må hele settet med vekter få plass i minnet, så stor minnekapasitet er fortsatt viktig.
Kvantisering av vekter og KV-cache reduserer størrelsen ved å representere tall mer kompakt. Virkningen på kvaliteten avhenger av modell, oppgave og komprimeringsgrad: Q4 kan være akseptabelt til arbeid, mens Q8 ofte ligger nær originalmodellens kvalitet. Nedenfor oppgis konkrete publiserte GGUF-versjoner og samlet størrelse på alle vektfilene for hver versjon.
Modeller for lokal kjøring finner du på Hugging Face, der originale vekter, instruksjoner og ferdige kvantiserte versjoner publiseres. Før nedlasting bør du kontrollere opphavsperson, lisens, filstørrelse og kompatibilitet med programmet du har valgt: llama.cpp trenger vanligvis formatet GGUF, mens MLX på Mac trenger en kompatibel MLX-versjon. Du kan også finne og laste ned modeller direkte i LM Studio eller velge en ferdig pakke i Ollama-biblioteket.
Merk at størrelsen på modellens vektfiler ikke er det samme som totalt minneforbruk: Det trengs en reserve til operativsystemet, arbeidsbuffere og KV-cache, som varierer med kontekstlengden.
Hvis datamaskinen eller klyngen har nok ledig minne, kan flere kopier av samme modell eller ulike modeller lastes inn for samtidig bruk.
På Windows og Linux er det enkelt å komme i gang med LM Studio med grafisk grensesnitt eller Ollama; for mer fleksible innstillinger og et lokalt API passer llama.cpp. På Mac med Apple Silicon finnes de samme verktøyene samt MLX LM, utviklet for plattformen; GPU-akselerasjon bruker Metal. På DGX Spark med DGX OS, en Ubuntu-basert Linux-distribusjon, kan du kjøre CUDA-bygg av llama.cpp og bruke vLLM etter NVIDIAs ferdige instruksjoner for å håndtere flere forespørsler; programbygget eller containeren må støtte ARM64 og GB10-GPU-en.
Minne | Betingelser for valg | |||
|---|---|---|---|---|
32GB | Q4 + reserve får ikke plass | Q4 + reserve får ikke plass | Qwen27B: 32K kontekst får plass; 64K er på grensen; 128K+ får ikke plass. | |
64GB | Q4 + reserve får ikke plass | Q4 + reserve får ikke plass | Qwen27B: opptil 256K kontekst får plass. | |
128GB | Q4 + reserve får ikke plass | Qwen27B: opptil 256K. Flash-Next: 32K/64K får plass; 128K er på grensen. | ||
192GB | Q4 + reserve får ikke plass | Qwen27B og Flash-Next: opptil 256K. | ||
256GB | Kontekst opptil 256K får plass. | |||
512GB | Kontekst opptil 256K. En klynge med 4 noder trenger ytterligere 36GB for Qwen27B, 60GB for Flash-Next og 72GB for GLM Flash: operativsystem og buffere trengs på hver node. | |||
768GB | Kontekst opptil 256K. En klynge med 4 noder trenger ytterligere 36GB for Qwen27B, 60GB for Flash-Next og 72GB for GLM Flash: operativsystem og buffere trengs på hver node. |
Sammenligning av modeller med samme testversjoner
Verdiene nedenfor er prosenter fra publikasjonene til utviklerne av originalutgivelsene, ikke resultater for de valgte kvantiserte GGUF-versjonene.
Resultatene avhenger også av agentmiljøet (harness) og innstillingene: like testversjoner betyr ikke nødvendigvis like forhold. Qwen3.8-27B ble for eksempel testet i SWE-bench Pro og DeepSWE 1.1 med Claude Code som agentmiljø og en kontekst på 256K.
I tillegg til åpne modeller inneholder tabellen benchmarkverdier for kjente skymodeller som referanse.
Noen populære ytelsestester:
SWE-bench Pro og DeepSWE viser arbeid med kode;
Terminal-Bench 2.1 gjelder agentoppgaver med selvstendig utførelse;
GPQA Diamond og HLE med tools gjelder vanskelige spørsmål og resonnering, i det andre tilfellet med verktøy.
Modell og kilde | SWE-bench Pro | Terminal-Bench 2.1 | DeepSWE v1.1 | GPQA Diamond | HLE with tools |
|---|---|---|---|---|---|
61.7 | 73.0 | 42.2 | 89.2 | Ingen verdi | |
62.5 | Ingen verdi | 58.7 | 91.7 | Ingen verdi | |
Ingen verdi | 84.3 | 63.4 | Ingen verdi | 55.3 | |
Ingen verdi | 90.6 | 74.2 | 90.9 | 63.9 | |
Ingen verdi | Ingen verdi | Ingen verdi | Ingen verdi | 64.5 | |
Ingen verdi | Ingen verdi | Ingen verdi | 89.9 | 49.0 | |
Ingen verdi | 88.8 | 72.7 | Ingen verdi | 64.5 | |
53.4 | Ingen verdi | Ingen verdi | 91.3 | Ingen verdi | |
Ingen verdi | 85.0 | 58.0 | Ingen verdi | 57.9 |
Ferdige datamaskiner for lokale KI-modeller
Tabellene nedenfor viser datamaskinfamilier med vekt på konfigurasjoner med 128GB minne eller mer.
Strømkravene oppgis separat for hver familie: adapterens effekt og støttet ladeprotokoll.
Bærbare datamaskiner og arbeidsstasjoner med NVIDIA RTX Spark N1X
Bærbar datamaskin | Modell, chip og minneområde | Lading med USB-C-adapter (PD) | Dokumentasjon og butikk |
|---|---|---|---|
❌ | Acer SFF RTX Spark | N1X | opptil 128GB | - | |
✅ | ASUS ProArt P16 H7607 | N1X | 32-128GB | PD3.1, 140W | |
✅ | ASUS ProArt P14 H7407 | N1X | 32-128GB | PD3.1, 140W | |
❌ | ASUS ProArt GR1X | N1X | 64/128GB | USB-C EPR PD 3.1(180W); adapter på 240W følger med | |
❌ | Dell Creator Edition Desktop | N1X | opptil 128GB | - | |
✅ | Dell XPS 16 Creator Edition | N1X | 128GB | Power Delivery er oppgitt for tre USB-C 4.0-porter | |
✅ | HP OmniBook Ultra 16, 16-bk0000 | N1X | 32-128GB | PD3.2 USB-C 140W | |
✅ | HP OmniBook X 14 | N1X | opptil 128GB | USB PD 3.2; USB-C GaN strømadapter 140W | |
✅ | Lenovo Yoga Pro 9n / Pro 9n 15 Gen 11 | N1X | 32-128GB | USB-C PD 3.0; USB-C adapter 140W | |
✅ | Lenovo Yoga 9n 2-in-1 Gen 11 16" | N1X | 32-64GB | USB-C PD 3.0; USB-C adapter 140W | |
✅ | Microsoft Surface Laptop Ultra | N1X | 24-128GB | USB PD 3.1, minst 115W | |
❌ | Microsoft Surface RTX Spark Dev Box | N1X | 128GB | - | |
❌ | MSI EdgeMesa N AI+ | N1X | opptil 128GB | USB-C PD IN; strømadapter 240W | |
✅ | MSI Prestige N16 Flip AI+ | N1X | 32-128GB | PD3.1, 65W(20V3.25A)-140W(28V5A) |
NVIDIA GB10 / DGX Spark arbeidsstasjoner
Modell, chip og minneområde | Lading med USB-C-adapter (PD) | Dokumentasjon og butikk |
|---|---|---|
Acer Veriton GN100 | GB10 | 128GB | Medfølgende USB-C-strømforsyning 240W | |
ASUS Ascent GX10 | GB10 | 64/128GB | PD3.1 EPR. Databladet oppgir inngangseffekt opptil 180W; medfølgende strømforsyning 240W | |
CyberGeek DGX Spark Compact AI Workstation | GB10 |128GB | Medfølgende USB-C-strømforsyning på 240W; bruk den medfølgende adapteren | |
Dell Pro Precision with GB10 (tidligere Dell Pro Max with GB10) | 64/128GB | Medfølgende USB-C-strømadapter FCM1253 280W, (utgangsprofiler: 5V3A, 9V3A, 15V3A, 20V6.5A, 28V5.89A, 36V5.83A, 48V5.83A); PD-versjonen er ikke oppgitt. I området 20-48V bruker disse PD-profilene strømstyrker utenfor standarden! | |
GIGABYTE AI TOP ATOM | GB10 | 128GB | USB-C PD IN; adapter på 240W følger med; nødvendig inngangseffekt, spenningsprofil og PD-versjon er ikke oppgitt. | |
HP ZGX Nano G1n AI | GB10 | 128GB | Dedikert USB-C-inngang, strømforsyning 240W. | |
Lenovo ThinkStation PGX | GB10 | 128GB | Dedikert USB-C-inngang med USB PD 3.1; medfølgende strømforsyning 240W | |
MSI EdgeXpert AI | GB10 | 64/128GB | Standard strømforsyning USB PD 3.1 240W, 48V5A | |
NVIDIA DGX Spark | GB10 | 128GB | Standard USB-C PD3.1 240W | |
PNY NVIDIA DGX Spark | GB10 | 128GB | Strømforsyning inkludert, effekt og PD-modus ikke angitt |
Bærbare datamaskiner og arbeidsstasjoner med Ryzen AI Max+ 395/495
Modeller med Ryzen AI Max 385/390 og Ryzen AI Max PRO 485/490 med Radeon 8050S-GPU er ikke tatt med på grunn av deres "foreldelse".
Bærbar datamaskin | Modell, chip og minneområde | Lading med USB-C-adapter (PD) | Dokumentasjon og butikk |
|---|---|---|---|
❌ | Acer Veriton RA110 | Max+ 395 | 64/128GB | - | |
❌ | AMD Ryzen AI Halo | Max+ 395 | 128GB | Dedikert USB-C-inngang for lading med standardstrømforsyningen | |
❌ | AMD Ryzen AI Halo | Max+ PRO 495 | 192GB delt minne | USB-C-strøminngang | |
❌ | ACEMAGIC F9A | Max+ PRO 495 | 192GB | - | |
✅ | ASUS ProArt PX13 HN7306 | Max+ 395 | 128GB | USB PD 45-100W støttes | |
✅ | ASUS ROG Flow Z13 GZ302 | Max+ 395 i toppversjonen | 32-128GB | USB PD 3.0, 45-100W | |
❌ | Beelink GTR9 Pro | Max+ 395 | 128GB | - | |
❌ | CORSAIR AI Workstation 300 | Max+ 395 | 64/128GB | - | |
❌ | Framework Desktop | Max+ 395: 64/128GB, Max+ PRO 495: 192GB | - | |
❌ | GEEKOM A9 Mega | AMD Ryzen AI Max+ 395 | 128GB delt minne | - | |
❌ | GMKtec EVO-X2 | Max+ 395 | 64-128GB | - | |
❌ | GMKtec EVO-X3 | Max+ 395 | 128GB | - | |
❌ | GMKtec EVO-X5 Pro | Ryzen AI Max+ PRO 495 | 192GB delt minne | - | |
❌ | HP Z2 Mini G1a | Max+ PRO 395 i toppversjonen | 16-128GB | - | |
✅ | HP ZBook Ultra 14 G1a | Max+ PRO 395 i toppversjonen | 16-128GB | USB-C 140W | |
✅ | HP ZBook Ultra G3a 16 | Ryzen AI Max+ PRO 495 | opptil 192GB delt minne | USB-C-inngang; anbefalt adapter 180W, alternativ 140W | |
❌ | Lenovo ThinkCentre X Ultra | Ryzen AI Max+ PRO 495 | opptil 128GB delt minne | - | |
❌ | MINISFORUM MS-S1 MAX | Max+ 395 | 64/128GB | - | |
❌ | MINISFORUM MS-S1 MAX-P495 | Max+ PRO 495 | 192GB delt minne | - | |
❌ | MINISFORUM N5 MAX-P495 | Max+ PRO 495 | 192GB | - | |
❌ | MSI PRO MAX EDGE AI+ 11M | Max+ 395 | 128GB | - |
Bærbare datamaskiner og arbeidsstasjoner med Apple Silicon: de to siste generasjonene
For MacBook Pro ser vi på M5 Max og M4 Max med en GPU med 40 kjerner og 128GB. For Mac Studio gjelder det generasjonen M5 Max / M5 Ultra og den forrige M4 Max / M3 Ultra. Apple oppga en M3 Ultra-versjon med 512GB ved lansering, men den nåværende spesifikasjonssiden viser maksimalt 256GB.
Bærbar datamaskin | Modell, chip og minneområde | Lading med USB-C-adapter (PD) | Dokumentasjon og butikk |
|---|---|---|---|
✅ | MacBook Pro 14" (2024) | M4 Max | 36-128GB; 128GB krever en GPU med 40 kjerner | PD3.0 (<100W) | |
✅ | MacBook Pro 16" (2024) | M4 Max | 36-128GB; 128GB krever en GPU med 40 kjerner | PD3.1 (140W) | |
✅ | MacBook Pro 14" | M5 Max | 36-128GB; 128GB krever en GPU med 40 kjerner | PD3.0 (<100W) | |
✅ | MacBook Pro 16" | M5 Max | 36-128GB; 128GB krever en GPU med 40 kjerner | PD3.1 (140W) | |
❌ | Mac Studio (2025) | M4 Max | 36-128GB; 128GB krever en GPU med 40 kjerner | - | |
❌ | Mac Studio (2025) | M3 Ultra | 96-256GB i gjeldende spesifikasjon; 512GB ved lansering | - | |
❌ | Mac Studio | M5 Ultra | 96/256/512GB; 512GB: levering senere i oktober 2026 | - | |
❌ | Mac Studio | M5 Max | 36-128GB; 128GB krever en GPU med 40 kjerner | - | Spesifikasjoner | Amazon.com(36GB) |
MagSafe 3 på MacBook er en proprietær kontakt på datamaskinsiden som får strøm fra en USB-C-adapter gjennom den tilhørende kabelen.
Slik sikrer du pålitelig strømforsyning til datamaskinen
Kontroller hva som følger med: enkelte konfigurasjoner selges uten adapter, særlig i Europa; for andre følger den med.
Daglig arbeid i mange timer med en lokal KI-modell krever en pålitelig strømforsyning som kan levere nødvendig effekt over lang tid uten avbrudd.
Kontroller spenning, strøm, protokoll og tillatt kabel mot dokumentasjonen for den konkrete maskinen. Hvis produsenten krever en proprietær strømforsyning eller en ikke-standard modus, er en USB-C-kontakt ikke grunn nok til å erstatte den med en hvilken som helst kraftig lader.
Hvis du skal koble flere enheter til en strømforsyning med flere porter, må du kontrollere effekten fra én port og hvordan den omfordeles når andre enheter kobles til.