Personlig AI: bærbare computere, arbejdsstationer og deres muligheder (del 2)
Opdateret: for 7 dage siden
I første del af denne artikel gennemgik vi opgaver til lokale LLM'er og egnede computerarkitekturer, sammenlignede deres ydelse og forklarede, hvordan processor og hukommelse påvirker hastigheden.
I anden del ser vi på, hvilke LLM-modeller der kan være fuldt ud i computerens hukommelse, og hvad de kan. Derefter sammenligner vi færdige bærbare computere og arbejdsstationer med forskellige arkitekturer, som producenterne tilbyder til lokale LLM'er.
Hvilke LLM-modeller passer til computere med 32-768GB hukommelse
Reklameløfter om at køre modeller med hundredvis af milliarder parametre bør læses sammen med betingelserne: AMD reklamerer med 300B på Ryzen AI Halo med 192GB hukommelse, men ved 4-bit-kvantisering. Det svarer til cirka 150GB alene til vægtene uden ekstra hukommelsesforbrug, mens den fulde BF16/FP16-version kræver 4 gange så meget hukommelse: 600GB! Endnu tydeligere er Frameworks eksempel: Til en computer med 64GB anbefaler virksomheden Qwen3.5-122B-A10B med 3-bit-kvantisering Q3_K_S og angiver et hukommelsesforbrug på 52.5GB, mens BF16/FP16-vægtene alene ville kræve cirka 244GB. Vær kritisk over for sådanne løfter, da aggressiv kvantisering til 2-3 bit kan forringe modellens svar og adfærd betydeligt.
Artiklen fokuserer på computere med mindst 128GB hukommelse til professionelt arbejde med store modeller, som kan erstatte cloudløsninger i mange arbejdsopgaver. En computer med mindre hukommelse kan også klare enklere programmeringsopgaver. Derfor indeholder sammenligningen også dense-modellen Qwen3.8-27B.
Det primære udgangspunkt for systemer med 128GB+ er moderne åbne MoE-modeller Qwen3.8-Flash-Next og GLM-5.3-Flash. Qwen3.8 Flash er en cloududgivelse, mens Flash-Next er en åben udgivelse til lokal kørsel.
Ved behandlingen af hvert token bruger en MoE-model kun en del af parametrene, hvilket reducerer beregningsmængden. Hele sættet af vægte skal dog være i hukommelsen, så stor hukommelseskapacitet er fortsat vigtig.
Kvantisering af vægte og KV-cache reducerer deres størrelse ved at repræsentere tal mere kompakt. Virkningen på kvaliteten afhænger af modellen, opgaven og komprimeringsgraden: Q4 kan være acceptabel til arbejde, mens Q8 ofte ligger tæt på originalmodellens kvalitet. Nedenfor angives konkrete offentliggjorte GGUF-versioner og den samlede størrelse af alle vægtfiler for hver version.
Modeller til lokal kørsel findes på Hugging Face, hvor oprindelige vægte, vejledninger og færdige kvantiserede versioner offentliggøres. Før download bør du kontrollere forfatter, licens, filstørrelse og kompatibilitet med det valgte program: llama.cpp kræver normalt formatet GGUF, mens MLX på Mac kræver en kompatibel MLX-version. Du kan også søge efter og hente modeller direkte i LM Studio eller vælge en færdig pakke i Ollamas bibliotek.
Bemærk, at størrelsen på modellens vægtfiler ikke svarer til det samlede hukommelsesforbrug: Der skal være en reserve til operativsystemet, arbejdsbuffere og KV-cache, hvis størrelse afhænger af kontekstlængden.
Hvis computeren eller klyngen har tilstrækkelig ledig hukommelse, kan flere kopier af samme model eller forskellige modeller indlæses til samtidig brug.
På Windows og Linux er det nemt at komme i gang med LM Studio med grafisk grænseflade eller Ollama; til mere fleksibel opsætning og en lokal API kan du bruge llama.cpp. På Mac med Apple Silicon findes de samme værktøjer samt MLX LM, som er udviklet til platformen; GPU-acceleration sker via Metal. På DGX Spark med DGX OS, en Ubuntu-baseret Linux-distribution, kan du køre CUDA-builds af llama.cpp og til flere forespørgsler bruge vLLM efter NVIDIAs færdige vejledninger; programbuildet eller containeren skal understøtte ARM64 og GB10-GPU'en.
Hukommelse | Betingelser for valg | |||
|---|---|---|---|---|
32GB | Q4 + reserve kan ikke være der | Q4 + reserve kan ikke være der | Qwen27B: 32K kontekst kan være der; 64K er på grænsen; 128K+ kan ikke være der. | |
64GB | Q4 + reserve kan ikke være der | Q4 + reserve kan ikke være der | Qwen27B: op til 256K kontekst kan være der. | |
128GB | Q4 + reserve kan ikke være der | Qwen27B: op til 256K. Flash-Next: 32K/64K kan være der; 128K er på grænsen. | ||
192GB | Q4 + reserve kan ikke være der | Qwen27B og Flash-Next: op til 256K. | ||
256GB | Kontekst op til 256K kan være der. | |||
512GB | Kontekst op til 256K. Til en klynge med 4 noder skal der bruges yderligere 36GB til Qwen27B, 60GB til Flash-Next og 72GB til GLM Flash: OS og buffere er nødvendige på hver node. | |||
768GB | Kontekst op til 256K. Til en klynge med 4 noder skal der bruges yderligere 36GB til Qwen27B, 60GB til Flash-Next og 72GB til GLM Flash: OS og buffere er nødvendige på hver node. |
Sammenligning af modeller på de samme testversioner
Værdierne nedenfor er procenttal fra publikationer fra udviklerne af originaludgivelserne, ikke resultater for de valgte kvantiserede GGUF-versioner.
Resultaterne afhænger også af agentmiljøet (harness) og indstillingerne: samme testversioner betyder ikke nødvendigvis samme betingelser. Qwen3.8-27B blev for eksempel testet i SWE-bench Pro og DeepSWE 1.1 med Claude Code som agentmiljø og en kontekst på 256K.
Ud over de åbne modeller viser tabellen benchmarkscores for kendte cloudmodeller som reference.
Nogle populære benchmarks:
SWE-bench Pro og DeepSWE viser arbejde med kode;
Terminal-Bench 2.1 viser agentopgaver med selvstændig udførelse;
GPQA Diamond og HLE with tools viser komplekse spørgsmål og ræsonnement, i det andet tilfælde med værktøjer.
Model og kilde | SWE-bench Pro | Terminal-Bench 2.1 | DeepSWE v1.1 | GPQA Diamond | HLE with tools |
|---|---|---|---|---|---|
61.7 | 73.0 | 42.2 | 89.2 | Ingen værdi angivet | |
62.5 | Ingen værdi angivet | 58.7 | 91.7 | Ingen værdi angivet | |
Ingen værdi angivet | 84.3 | 63.4 | Ingen værdi angivet | 55.3 | |
Ingen værdi angivet | 90.6 | 74.2 | 90.9 | 63.9 | |
Ingen værdi angivet | Ingen værdi angivet | Ingen værdi angivet | Ingen værdi angivet | 64.5 | |
Ingen værdi angivet | Ingen værdi angivet | Ingen værdi angivet | 89.9 | 49.0 | |
Ingen værdi angivet | 88.8 | 72.7 | Ingen værdi angivet | 64.5 | |
53.4 | Ingen værdi angivet | Ingen værdi angivet | 91.3 | Ingen værdi angivet | |
Ingen værdi angivet | 85.0 | 58.0 | Ingen værdi angivet | 57.9 |
Færdige computere til lokale AI-modeller
Tabellerne nedenfor viser computerfamilier med fokus på konfigurationer med 128GB hukommelse eller mere.
Strømkravene angives separat for hver familie: adapterens effekt og den understøttede ladeprotokol.
Bærbare computere og arbejdsstationer med NVIDIA RTX Spark N1X
Bærbar computer | Model, chip og hukommelsesinterval | Opladning med USB-C-adapter (PD) | Dokumentation og butik |
|---|---|---|---|
❌ | Acer SFF RTX Spark | N1X | op til 128GB | - | |
✅ | ASUS ProArt P16 H7607 | N1X | 32-128GB | PD3.1, 140W | |
✅ | ASUS ProArt P14 H7407 | N1X | 32-128GB | PD3.1, 140W | |
❌ | ASUS ProArt GR1X | N1X | 64/128GB | USB-C EPR PD 3.1(180W); adapter på 240W medfølger | |
❌ | Dell Creator Edition Desktop | N1X | op til 128GB | - | |
✅ | Dell XPS 16 Creator Edition | N1X | 128GB | Power Delivery er angivet for tre USB-C 4.0-porte | |
✅ | HP OmniBook Ultra 16, 16-bk0000 | N1X | 32-128GB | PD3.2 USB-C 140W | |
✅ | HP OmniBook X 14 | N1X | op til 128GB | USB PD 3.2; USB-C GaN strømadapter 140W | |
✅ | Lenovo Yoga Pro 9n / Pro 9n 15 Gen 11 | N1X | 32-128GB | USB-C PD 3.0; USB-C adapter 140W | |
✅ | Lenovo Yoga 9n 2-in-1 Gen 11 16" | N1X | 32-64GB | USB-C PD 3.0; USB-C adapter 140W | |
✅ | Microsoft Surface Laptop Ultra | N1X | 24-128GB | USB PD 3.1, mindst 115W | |
❌ | Microsoft Surface RTX Spark Dev Box | N1X | 128GB | - | |
❌ | MSI EdgeMesa N AI+ | N1X | op til 128GB | USB-C PD IN; strømadapter 240W | |
✅ | MSI Prestige N16 Flip AI+ | N1X | 32-128GB | PD3.1, 65W(20V3.25A)-140W(28V5A) |
NVIDIA GB10 / DGX Spark arbejdsstationer
Model, chip og hukommelsesinterval | Opladning med USB-C-adapter (PD) | Dokumentation og butik |
|---|---|---|
Acer Veriton GN100 | GB10 | 128GB | Medfølgende USB-C-strømforsyning 240W | |
ASUS Ascent GX10 | GB10 | 64/128GB | PD3.1 EPR. Databladet angiver en indgang på op til 180W; medfølgende strømforsyning 240W | |
CyberGeek DGX Spark Compact AI Workstation | GB10 |128GB | Medfølgende USB-C-strømforsyning 240W; brug den medfølgende adapter | |
Dell Pro Precision with GB10 (tidligere Dell Pro Max with GB10) | 64/128GB | Medfølgende USB-C-strømadapter FCM1253 280W, (udgangsprofiler: 5V3A, 9V3A, 15V3A, 20V6.5A, 28V5.89A, 36V5.83A, 48V5.83A); PD-versionen er ikke angivet. I området 20-48V bruger disse PD-profiler strømstyrker uden for standarden! | |
GIGABYTE AI TOP ATOM | GB10 | 128GB | USB-C PD IN; adapter på 240W medfølger; den nødvendige indgangseffekt, spændingsprofil og PD-version er ikke angivet. | |
HP ZGX Nano G1n AI | GB10 | 128GB | Dedikeret USB-C-indgang, strømforsyning 240W. | |
Lenovo ThinkStation PGX | GB10 | 128GB | Dedikeret USB-C-indgang med USB PD 3.1; medfølgende strømforsyning 240W | |
MSI EdgeXpert AI | GB10 | 64/128GB | Standard strømforsyning USB PD 3.1 240W, 48V5A | |
NVIDIA DGX Spark | GB10 | 128GB | Standard USB-C PD3.1 240W | |
PNY NVIDIA DGX Spark | GB10 | 128GB | Strømforsyning medfølger, effekt og PD-tilstand er ikke angivet |
Bærbare computere og arbejdsstationer med Ryzen AI Max+ 395/495
Modeller med Ryzen AI Max 385/390 og Ryzen AI Max PRO 485/490 med Radeon 8050S-GPU er ikke medtaget på grund af deres "forældelse".
Bærbar computer | Model, chip og hukommelsesinterval | Opladning med USB-C-adapter (PD) | Dokumentation og butik |
|---|---|---|---|
❌ | Acer Veriton RA110 | Max+ 395 | 64/128GB | - | |
❌ | AMD Ryzen AI Halo | Max+ 395 | 128GB | Dedikeret USB-C-indgang til opladning med standardstrømforsyningen | |
❌ | AMD Ryzen AI Halo | Max+ PRO 495 | 192GB fælles hukommelse | USB-C-strømindgang | |
❌ | ACEMAGIC F9A | Max+ PRO 495 | 192GB | - | |
✅ | ASUS ProArt PX13 HN7306 | Max+ 395 | 128GB | USB PD 45-100W understøttes | |
✅ | ASUS ROG Flow Z13 GZ302 | Max+ 395 i den største version | 32-128GB | USB PD 3.0, 45-100W | |
❌ | Beelink GTR9 Pro | Max+ 395 | 128GB | - | |
❌ | CORSAIR AI Workstation 300 | Max+ 395 | 64/128GB | - | |
❌ | Framework Desktop | Max+ 395: 64/128GB, Max+ PRO 495: 192GB | - | |
❌ | GEEKOM A9 Mega | AMD Ryzen AI Max+ 395 | 128GB delt hukommelse | - | |
❌ | GMKtec EVO-X2 | Max+ 395 | 64-128GB | - | |
❌ | GMKtec EVO-X3 | Max+ 395 | 128GB | - | |
❌ | GMKtec EVO-X5 Pro | Ryzen AI Max+ PRO 495 | 192GB fælles hukommelse | - | |
❌ | HP Z2 Mini G1a | Max+ PRO 395 i den største version | 16-128GB | - | |
✅ | HP ZBook Ultra 14 G1a | Max+ PRO 395 i den største version | 16-128GB | USB-C 140W | |
✅ | HP ZBook Ultra G3a 16 | Ryzen AI Max+ PRO 495 | op til 192GB fælles hukommelse | USB-C-indgang; anbefalet adapter 180W, alternativ 140W | |
❌ | Lenovo ThinkCentre X Ultra | Ryzen AI Max+ PRO 495 | op til 128GB fælles hukommelse | - | |
❌ | MINISFORUM MS-S1 MAX | Max+ 395 | 64/128GB | - | |
❌ | MINISFORUM MS-S1 MAX-P495 | Max+ PRO 495 | 192GB fælles hukommelse | - | |
❌ | MINISFORUM N5 MAX-P495 | Max+ PRO 495 | 192GB | - | |
❌ | MSI PRO MAX EDGE AI+ 11M | Max+ 395 | 128GB | - |
Bærbare computere og arbejdsstationer med Apple Silicon: de seneste to generationer
For MacBook Pro ser vi på M5 Max og M4 Max med 40 GPU-kerner og 128GB. For Mac Studio er det generationen M5 Max / M5 Ultra og den foregående M4 Max / M3 Ultra. Apple oplyste om en M3 Ultra-version med 512GB ved lanceringen, men den aktuelle specifikationsside viser højst 256GB.
Bærbar computer | Model, chip og hukommelsesinterval | Opladning med USB-C-adapter (PD) | Dokumentation og butik |
|---|---|---|---|
✅ | MacBook Pro 14" (2024) | M4 Max | 36-128GB; 128GB kræver en GPU med 40 kerner | PD3.0 (<100W) | |
✅ | MacBook Pro 16" (2024) | M4 Max | 36-128GB; 128GB kræver en GPU med 40 kerner | PD3.1 (140W) | |
✅ | MacBook Pro 14" | M5 Max | 36-128GB; 128GB kræver en GPU med 40 kerner | PD3.0 (<100W) | |
✅ | MacBook Pro 16" | M5 Max | 36-128GB; 128GB kræver en GPU med 40 kerner | PD3.1 (140W) | |
❌ | Mac Studio (2025) | M4 Max | 36-128GB; 128GB kræver en GPU med 40 kerner | - | |
❌ | Mac Studio (2025) | M3 Ultra | 96-256GB i den aktuelle specifikation; 512GB ved lanceringen | - | |
❌ | Mac Studio | M5 Ultra | 96/256/512GB; 512GB: levering senere i oktober 2026 | - | |
❌ | Mac Studio | M5 Max | 36-128GB; 128GB kræver en GPU med 40 kerner | - | Specifikationer | Amazon.com(36GB) |
MagSafe 3 på MacBook er et proprietært stik på den bærbares side, som modtager strøm fra en USB-C-adapter via det passende kabel.
Sådan sikrer du pålidelig strømforsyning til computeren
Kontrollér, hvad der følger med: nogle konfigurationer sælges uden adapter, især i Europa; for andre er den inkluderet.
Dagligt arbejde i mange timer med en lokal AI-model kræver en pålidelig strømforsyning, som kan levere den nødvendige effekt i lang tid uden afbrydelser.
Kontrollér spænding, strøm, protokol og det tilladte kabel mod dokumentationen for den konkrete maskine. Hvis producenten kræver en proprietær strømforsyning eller en ikke-standardiseret tilstand, er et USB-C-stik ikke grundlag for at erstatte den med en hvilken som helst kraftig oplader.
Hvis du vil slutte flere enheder til en strømforsyning med flere porte, skal du kontrollere effekten fra én port, og hvordan den omfordeles, når andre enheder tilsluttes.