Osobní AI: notebooky, pracovní stanice a jejich možnosti (část 2)

V první části tohoto článku jsme rozebrali úkoly pro lokální LLM a vhodné architektury počítačů, porovnali jejich výkon a vysvětlili, jak rychlost ovlivňují procesor a paměť.

Ve druhé části se podíváme, které modely LLM lze celé umístit do paměti počítače a co dokážou. Poté porovnáme hotové notebooky a pracovní stanice s různými architekturami, které výrobci nabízejí pro práci s lokálními LLM.

Které modely LLM jsou vhodné pro počítače s 32-768GB paměti

Reklamní sliby o spouštění modelů se stovkami miliard parametrů je třeba číst spolu s podmínkami: AMD propaguje 300B na Ryzen AI Halo se 192GB paměti, ale při 4bitové kvantizaci. To představuje přibližně 150GB samotných vah bez režie, zatímco plná verze BF16/FP16 potřebuje 4krát více paměti: 600GB! Ještě názornější je příklad Framework: pro počítač se 64GB firma doporučuje Qwen3.5-122B-A10B v 3bitové kvantizaci Q3_K_S a uvádí spotřebu paměti 52.5GB, zatímco samotné váhy BF16/FP16 by vyžadovaly asi 244GB. K takovým slibům přistupujte obezřetně, protože agresivní kvantizace na 2-3 bity může výrazně zhoršit odpovědi a chování modelu.

V článku se zaměřujeme na počítače s alespoň 128GB paměti pro profesionální práci s velkými modely, které dokážou v mnoha pracovních úlohách nahradit cloudová řešení. Pro jednodušší programování ale postačí i počítač s menší pamětí. Proto srovnání zahrnuje také dense model Qwen3.8-27B.

Hlavním vodítkem pro systémy se 128GB+ jsou moderní otevřené MoE modely Qwen3.8-Flash-Next a GLM-5.3-Flash. Qwen3.8 Flash je cloudová verze, zatímco Flash-Next je otevřená verze pro lokální provoz.

Při zpracování každého tokenu využívá model MoE pouze část parametrů, což snižuje objem výpočtů. Do paměti však musí být umístěna celá sada vah, takže její velká kapacita zůstává důležitá.

Kvantizace vah a KV cache zmenšuje jejich velikost díky kompaktnějšímu zápisu čísel. Její vliv na kvalitu závisí na modelu, úkolu a míře komprese: Q4 může být pro práci přijatelná a Q8 se kvalitou často blíží původnímu modelu. Níže jsou uvedeny konkrétní zveřejněné verze GGUF a celková velikost všech souborů vah každé verze.

Modely pro lokální provoz najdete na Hugging Face, kde jsou zveřejňovány původní váhy, návody a hotové kvantizované verze. Před stažením ověřte autora, licenci, velikost souborů a kompatibilitu se zvoleným programem: llama.cpp obvykle potřebuje formát GGUF, zatímco MLX na Macu potřebuje kompatibilní verzi pro MLX. Modely lze vyhledávat a stahovat také přímo v LM Studio nebo vybrat hotový balíček v knihovně Ollama.

Upozorňujeme, že velikost souborů s vahami modelu neodpovídá celkové spotřebě paměti: je třeba ponechat rezervu pro OS, pracovní buffery a KV cache, jejíž velikost závisí na délce kontextu.

Pokud má počítač nebo cluster dostatek volné paměti, lze do ní umístit několik kopií jednoho modelu nebo různé modely pro současné používání.

Ve Windows a Linuxu se pro první spuštění hodí LM Studio s grafickým rozhraním nebo Ollama; pro pružnější nastavení a lokální API lze použít llama.cpp. Na Macu s Apple Silicon jsou dostupné stejné nástroje i MLX LM, vyvinutý pro tuto platformu; akcelerace GPU využívá Metal. Na DGX Spark s DGX OS, Linuxem založeným na Ubuntu, lze spouštět sestavení llama.cpp pro CUDA a pro obsluhu více požadavků použít vLLM podle hotových návodů NVIDIA; sestavení programu nebo kontejner musí podporovat ARM64 a GPU GB10.

Paměť	Qwen3.8-27B	Qwen3.8-Flash-Next	GLM-5.3-Flash	Podmínky výběru
32GB	UD-Q4_K_M: 16.46GB vah +15-30GB další paměti (32K-256K)	Q4 + rezerva se nevejde	Q4 + rezerva se nevejde	Qwen27B: kontext 32K se vejde; 64K je na hraně; 128K+ se nevejde.
64GB	Q8_0: 29.05GB vah +15-30GB další paměti (32K-256K)	Q4 + rezerva se nevejde	Q4 + rezerva se nevejde	Qwen27B: vejde se kontext až 256K.
128GB	BF16: 54.66GB vah +15-30GB další paměti (32K-256K)	UD-Q4_K_XL: 111.33GB vah +22-29GB další paměti (32K-256K)	Q4 + rezerva se nevejde	Qwen27B: až 256K. Flash-Next: 32K/64K se vejde; 128K je na hraně.
192GB	BF16: 54.66GB vah +15-30GB další paměti (32K-256K)	UD-Q5_K_XL: 158.29GB vah +22-29GB další paměti (32K-256K)	Q4 + rezerva se nevejde	Qwen27B a Flash-Next: až 256K.
256GB	BF16: 54.66GB vah +15-30GB další paměti (32K-256K)	Q8_0: 188.23GB vah +22-29GB další paměti (32K-256K)	UD-Q4_K_XL: 199.71GB vah +25-30GB další paměti (32K-256K)	Vejde se kontext až 256K.
512GB	BF16: 54.66GB vah +15-30GB další paměti (32K-256K)	BF16: 354.03GB vah +22-29GB další paměti (32K-256K)	Q8_0: 340.98GB vah +25-30GB další paměti (32K-256K)	Kontext až 256K. Pro cluster se 4 uzly je potřeba dalších 36GB u Qwen27B, 60GB u Flash-Next a 72GB u GLM Flash: OS a buffery jsou nutné na každém uzlu.
768GB	BF16: 54.66GB vah +15-30GB další paměti (32K-256K)	BF16: 354.03GB vah +22-29GB další paměti (32K-256K)	BF16: 641.64GB vah +25-30GB další paměti (32K-256K)	Kontext až 256K. Pro cluster se 4 uzly je potřeba dalších 36GB u Qwen27B, 60GB u Flash-Next a 72GB u GLM Flash: OS a buffery jsou nutné na každém uzlu.

Srovnání modelů na stejných verzích testů

Níže uvedené hodnoty jsou procenta z publikací vývojářů původních verzí, nikoli výsledky vybraných kvantizovaných verzí GGUF.

Výsledky závisí také na agentním prostředí (harness) a nastavení: stejné verze testů ještě neznamenají stejné podmínky. Například Qwen3.8-27B byl testován v SWE-bench Pro a DeepSWE 1.1 s agentním prostředím Claude Code a kontextem 256K.

Tabulka kromě otevřených modelů uvádí pro orientaci také benchmarková skóre známých cloudových modelů.

Některé oblíbené benchmarky:

• SWE-bench Pro a DeepSWE ukazují práci s kódem;

• Terminal-Bench 2.1 hodnotí agentní úlohy samostatného vykonávání;

• GPQA Diamond je HLE s nástroji, který hodnotí složité otázky a uvažování, ve druhém případě s nástroji.

Model a zdroj	SWE-bench Pro	Terminal-Bench 2.1	DeepSWE v1.1	GPQA Diamond	HLE with tools
Qwen3.8-27B	61.7	73.0	42.2	89.2	Hodnota není uvedena
Qwen3.8-Flash-Next	62.5	Hodnota není uvedena	58.7	91.7	Hodnota není uvedena
GLM-5.3-Flash	Hodnota není uvedena	84.3	63.4	Hodnota není uvedena	55.3
DeepSeek V4.1 Flash	Hodnota není uvedena	90.6	74.2	90.9	63.9
Claude Sonnet 5.5	Hodnota není uvedena	Hodnota není uvedena	Hodnota není uvedena	Hodnota není uvedena	64.5
Claude Sonnet 4.6	Hodnota není uvedena	Hodnota není uvedena	Hodnota není uvedena	89.9	49.0
GPT-5.6 Sol	Hodnota není uvedena	88.8	72.7	Hodnota není uvedena	64.5
Claude Opus 4.6 Max	53.4	Hodnota není uvedena	Hodnota není uvedena	91.3	Hodnota není uvedena
Claude Opus 4.8	Hodnota není uvedena	85.0	58.0	Hodnota není uvedena	57.9

Hotové počítače pro lokální modely AI

V tabulkách níže jsou uvedeny rodiny počítačů se zaměřením na konfigurace se 128GB paměti a více.

Pro každou rodinu jsou samostatně uvedeny požadavky na napájení: výkon adaptéru a podporovaný nabíjecí protokol.

Notebooky a pracovní stanice s NVIDIA RTX Spark N1X

Notebook	Model, čip a rozsah paměti	Nabíjení adaptérem USB-C (PD)	Dokumentace a obchod
❌	Acer SFF RTX Spark | N1X | až 128GB	-	Oznámení Acer
✅	ASUS ProArt P16 H7607 | N1X | 32-128GB	PD3.1, 140W	Specifikace
✅	ASUS ProArt P14 H7407 | N1X | 32-128GB	PD3.1, 140W	Specifikace
❌	ASUS ProArt GR1X | N1X | 64/128GB	USB-C EPR PD 3.1(180W); adaptér 240W v balení	Specifikace |
❌	Dell Creator Edition Desktop | N1X | až 128GB	-	Oznámení Dell | Specifikace
✅	Dell XPS 16 Creator Edition | N1X | 128GB	U tří portů USB-C 4.0 je uvedena podpora Power Delivery	Oznámení Dell XPS 16 Creator Edition
✅	HP OmniBook Ultra 16, 16-bk0000 | N1X | 32-128GB	PD3.2 USB-C 140W	Specifikace
✅	HP OmniBook X 14 | N1X | až 128GB	USB PD 3.2; USB-C GaN adaptér 140W	Specifikace | Oznámení
✅	Lenovo Yoga Pro 9n / Pro 9n 15 Gen 11 | N1X | 32-128GB	USB-C PD 3.0; USB-C adaptér 140W	Specifikace | Oznámení
✅	Lenovo Yoga 9n 2-in-1 Gen 11 16" | N1X | 32-64GB	USB-C PD 3.0; USB-C adaptér 140W	Specifikace | Oznámení
✅	Microsoft Surface Laptop Ultra | N1X | 24-128GB	USB PD 3.1, minimálně 115W	Specifikace | Amazon.de (48GB)
❌	Microsoft Surface RTX Spark Dev Box | N1X | 128GB	-	Oznámení Microsoft | Předobjednávky a dodávky
❌	MSI EdgeMesa N AI+ | N1X | až 128GB	USB-C PD IN; adaptér 240W	Specifikace | Napájení
✅	MSI Prestige N16 Flip AI+ | N1X | 32-128GB	PD3.1, 65W(20V3.25A)-140W(28V5A)	Specifikace | Amazon.de

Pracovní stanice NVIDIA GB10 / DGX Spark

Model, čip a rozsah paměti	Nabíjení adaptérem USB-C (PD)	Dokumentace a obchod
Acer Veriton GN100 | GB10 | 128GB	Přiložený USB-C napájecí zdroj 240W	Specifikace | Amazon.de
ASUS Ascent GX10 | GB10 | 64/128GB	PD3.1 EPR. Technický list uvádí vstup až 180W; přiložený napájecí zdroj 240W	Dokumentace  | Specifikace | Amazon.com
CyberGeek DGX Spark Compact AI Workstation | GB10 |128GB	Přiložený USB-C napájecí adaptér 240W; používejte dodaný adaptér	Specifikace DGX Spark (NVIDIA) | Napájení | Amazon.com
Dell Pro Precision with GB10 (dříve Dell Pro Max with GB10) | 64/128GB	Dodávaný napájecí adaptér USB-C FCM1253 280W, (výstupní profily: 5V3A, 9V3A, 15V3A, 20V6.5A, 28V5.89A, 36V5.83A, 48V5.83A); Verze PD není uvedena. V rozsahu 20-48V mají tyto profily PD nestandardní hodnoty proudu!	Příručka | Amazon.de(64GB)
GIGABYTE AI TOP ATOM | GB10 | 128GB	USB-C PD IN; adaptér 240W v balení; požadovaný vstupní příkon, napěťový profil a verze PD nejsou uvedeny.	Specifikace  | Amazon.de
HP ZGX Nano G1n AI | GB10 | 128GB	Vyhrazený USB-C vstup, napájecí zdroj 240W.	Specifikace | Amazon.com | Amazon.de
Lenovo ThinkStation PGX | GB10 | 128GB	Vyhrazený vstup USB-C s USB PD 3.1; přiložený napájecí zdroj 240W	Specifikace | Amazon.de
MSI EdgeXpert AI | GB10 | 64/128GB	Standardní napájecí zdroj USB PD 3.1 240W, 48V5A	Příručka | Amazon.com Amazon.de
NVIDIA DGX Spark | GB10 | 128GB	Standardní USB-C PD3.1 240W	Specifikace | Amazon.com
PNY NVIDIA DGX Spark | GB10 | 128GB	Napájecí zdroj je součástí balení, výkon a režim PD nejsou uvedeny	Specifikace | Amazon.de

Notebooky a pracovní stanice s Ryzen AI Max+ 395/495

Modely Ryzen AI Max 385/390 a Ryzen AI Max PRO 485/490 s GPU Radeon 8050S nejsou zahrnuty kvůli jejich „zastarávání“.

Notebook	Model, čip a rozsah paměti	Nabíjení adaptérem USB-C (PD)	Dokumentace a obchod
❌	Acer Veriton RA110 | Max+ 395 | 64/128GB	-	Specifikace
❌	AMD Ryzen AI Halo | Max+ 395 | 128GB	Vyhrazený USB-C vstup pro nabíjení standardním napájecím zdrojem	Příručka | Amazon.com
❌	AMD Ryzen AI Halo | Max+ PRO 495 | 192GB sdílené paměti	Napájecí vstup USB-C	Specifikace
❌	ACEMAGIC F9A | Max+ PRO 495 | 192GB	-	Specifikace
✅	ASUS ProArt PX13 HN7306 | Max+ 395 | 128GB	Podporuje USB PD 45-100W	Specifikace | Amazon.de(64GB)
✅	ASUS ROG Flow Z13 GZ302 | Max+ 395 v nejvyšší verzi | 32-128GB	USB PD 3.0, 45-100W	Specifikace | Amazon.com  | Amazon.de
❌	Beelink GTR9 Pro | Max+ 395 | 128GB	-	Specifikace | Amazon.com
❌	CORSAIR AI Workstation 300 | Max+ 395 | 64/128GB	-	Specifikace
❌	Framework Desktop | Max+ 395: 64/128GB, Max+ PRO 495: 192GB	-	Specifikace | Verze 192GB
❌	GEEKOM A9 Mega | AMD Ryzen AI Max+ 395 | 128GB sdílené paměti	-	Specifikace | Amazon.com
❌	GMKtec EVO-X2 | Max+ 395 | 64-128GB	-	Specifikace | Amazon.com
❌	GMKtec EVO-X3 | Max+ 395 | 128GB	-	Specifikace |Amazon.com
❌	GMKtec EVO-X5 Pro | Ryzen AI Max+ PRO 495 | 192GB sdílené paměti	-	Specifikace a obchod GMKtec
❌	HP Z2 Mini G1a | Max+ PRO 395 v nejvyšší verzi | 16-128GB	-	Specifikace | Amazon.de
✅	HP ZBook Ultra 14 G1a | Max+ PRO 395 v nejvyšší verzi | 16-128GB	USB-C 140W	Specifikace | Amazon.com
✅	HP ZBook Ultra G3a 16 | Ryzen AI Max+ PRO 495 | až 192GB sdílené paměti	Vstup USB-C; doporučený adaptér 180W, alternativní 140W	Specifikace | Oznámení
❌	Lenovo ThinkCentre X Ultra | Ryzen AI Max+ PRO 495 | až 128GB sdílené paměti	-	Oznámení a specifikace
❌	MINISFORUM MS-S1 MAX | Max+ 395 | 64/128GB	-	Specifikace | Amazon.de
❌	MINISFORUM MS-S1 MAX-P495 | Max+ PRO 495 | 192GB sdílené paměti	-	Oznámení | Specifikace
❌	MINISFORUM N5 MAX-P495 | Max+ PRO 495 | 192GB	-	Oznámení | Architektura paměti
❌	MSI PRO MAX EDGE AI+ 11M | Max+ 395 | 128GB	-	Specifikace | Amazon.com

Notebooky a pracovní stanice s Apple Silicon: poslední dvě generace

U MacBooku Pro zvažujeme M5 Max a M4 Max se 40jádrovou GPU a 128GB. U Mac Studia jde o generaci M5 Max / M5 Ultra a předchozí M4 Max / M3 Ultra. Verzi M3 Ultra s 512GB Apple uváděl při uvedení na trh, současná stránka specifikací však ukazuje maximum 256GB.

Notebook	Model, čip a rozsah paměti	Nabíjení adaptérem USB-C (PD)	Dokumentace a obchod
✅	MacBook Pro 14" (2024) | M4 Max | 36-128GB; 128GB vyžaduje 40jádrovou GPU	PD3.0 (<100W)	Specifikace | Amazon.com(36GB)
✅	MacBook Pro 16" (2024) | M4 Max | 36-128GB; 128GB vyžaduje 40jádrovou GPU	PD3.1 (140W)	Specifikace | Amazon.com(64GB)
✅	MacBook Pro 14" | M5 Max | 36-128GB; 128GB vyžaduje 40jádrovou GPU	PD3.0 (<100W)	Specifikace | Amazon.com(128GB)
✅	MacBook Pro 16" | M5 Max | 36-128GB; 128GB vyžaduje 40jádrovou GPU	PD3.1 (140W)	Specifikace | Amazon.com
❌	Mac Studio (2025) | M4 Max | 36-128GB; 128GB vyžaduje 40jádrovou GPU	-	Specifikace | Amazon.com(64GB)
❌	Mac Studio (2025) | M3 Ultra | 96-256GB v současné specifikaci; 512GB při uvedení	-	Specifikace | Amazon.com(256GB)
❌	Mac Studio | M5 Ultra | 96/256/512GB; 512GB: dodávky později v říjnu 2026	-	Specifikace | Termíny dodání
❌	Mac Studio | M5 Max | 36-128GB; 128GB vyžaduje 40jádrovou GPU	-	Specifikace | Amazon.com(36GB)

MagSafe 3 u MacBook je vlastní konektor na straně notebooku, který přijímá napájení z USB-C adaptéru přes odpovídající kabel.

Jak zajistit spolehlivé napájení počítače

Zkontrolujte obsah balení: některé konfigurace se prodávají bez adaptéru, zejména v Evropě; u jiných je součástí balení.

Pro každodenní mnohahodinovou práci s lokálním modelem AI je potřeba spolehlivý napájecí zdroj, který dokáže dlouhodobě a bez výpadků dodávat požadovaný výkon.

Ověřte napětí, proud, protokol a přípustný kabel podle dokumentace konkrétního stroje. Pokud výrobce vyžaduje vlastní napájecí zdroj nebo nestandardní režim, přítomnost USB-C konektoru neopravňuje k jeho nahrazení libovolnou výkonnou nabíječkou.

Pokud plánujete k napájecímu zdroji s více porty připojit několik zařízení, ověřte výkon jednoho portu a jeho přerozdělení při připojení dalších zařízení.

🔍 Katalog TinkerVault obsahuje nabíjecí adaptéry PD3.1 testované pod zátěží včetně modelů schopných dodávat více než 140W přes jeden port.

🔍 Katalog testovaných USB-C kabelů PD s podporou výkonu 240W.