Osobista AI: laptopy, stacje robocze i ich możliwości (część 2)

W pierwszej części tego artykułu omówiliśmy zadania dla lokalnych LLM i odpowiednie architektury komputerów, porównaliśmy ich wydajność i wyjaśniliśmy, jak procesor i pamięć wpływają na szybkość.

W drugiej części przyjrzymy się temu, które modele LLM można w całości umieścić w pamięci komputera i jakie mają możliwości. Następnie porównamy gotowe laptopy i stacje robocze o różnych architekturach, które producenci oferują do pracy z lokalnymi LLM.

Które modele LLM pasują do komputerów z 32-768GB pamięci

Reklamowe obietnice uruchamiania modeli z setkami miliardów parametrów należy czytać wraz z warunkami: AMD reklamuje 300B na Ryzen AI Halo ze 192GB pamięci, ale przy kwantyzacji 4-bitowej. Oznacza to około 150GB samych wag bez dodatkowego narzutu, podczas gdy pełna wersja BF16/FP16 wymaga 4 razy więcej pamięci: 600GB! Jeszcze bardziej wymowny jest przykład Framework: dla komputera z 64GB firma zaleca Qwen3.5-122B-A10B w kwantyzacji 3-bitowej Q3_K_S i podaje zużycie pamięci 52.5GB, podczas gdy same wagi BF16/FP16 wymagałyby około 244GB. Do takich obietnic podchodź ostrożnie, ponieważ agresywna kwantyzacja do 2-3 bitów może znacznie pogorszyć odpowiedzi i zachowanie modelu.

W artykule skupiamy się na komputerach z co najmniej 128GB pamięci do profesjonalnej pracy z dużymi modelami, które mogą zastąpić rozwiązania chmurowe w wielu zadaniach zawodowych. Do prostszych zadań programistycznych nadaje się też komputer z mniejszą pamięcią. Dlatego porównanie obejmuje również model dense Qwen3.8-27B.

Głównym punktem odniesienia dla systemów ze 128GB+ są nowoczesne otwarte modele MoE Qwen3.8-Flash-Next i GLM-5.3-Flash. Qwen3.8 Flash to wydanie chmurowe, natomiast Flash-Next jest otwartym wydaniem do uruchamiania lokalnie.

Podczas przetwarzania każdego tokenu model MoE wykorzystuje tylko część parametrów, co zmniejsza ilość obliczeń. W pamięci trzeba jednak umieścić cały zestaw wag, dlatego jej duża pojemność pozostaje ważna.

Kwantyzacja wag i pamięci podręcznej KV zmniejsza ich rozmiar dzięki bardziej zwartej reprezentacji liczb. Jej wpływ na jakość zależy od modelu, zadania i stopnia kompresji: Q4 może być akceptowalna w pracy, a Q8 często jest bliska oryginalnemu modelowi pod względem jakości. Poniżej podano konkretne opublikowane wersje GGUF oraz łączny rozmiar wszystkich plików wag każdej wersji.

Modele do lokalnego uruchamiania można znaleźć na Hugging Face, gdzie publikowane są oryginalne wagi, instrukcje i gotowe wersje skwantyzowane. Przed pobraniem sprawdź autora, licencję, rozmiar plików i zgodność z wybranym programem: llama.cpp zwykle wymaga formatu GGUF, a MLX na Macu wymaga zgodnej wersji MLX. Modele można też wyszukiwać i pobierać bezpośrednio w LM Studio lub wybrać gotowy pakiet z biblioteki Ollama.

Pamiętaj, że rozmiar plików wag modelu nie jest równy całkowitemu zużyciu pamięci: potrzebna jest rezerwa na system operacyjny, bufory robocze i pamięć podręczną KV, której rozmiar zależy od długości kontekstu.

Jeśli komputer lub klaster ma wystarczająco dużo wolnej pamięci, można umieścić w niej kilka kopii jednego modelu lub różne modele do jednoczesnego wykorzystania.

W Windows i Linux na początek wygodnie użyć LM Studio z interfejsem graficznym albo Ollama; do bardziej elastycznej konfiguracji i lokalnego API nadaje się llama.cpp. Na Macach z Apple Silicon dostępne są te same narzędzia oraz MLX LM, opracowany dla tej platformy; przyspieszanie GPU działa przez Metal. Na DGX Spark z DGX OS, Linuksem opartym na Ubuntu, można uruchamiać kompilacje llama.cpp dla CUDA, a do obsługi wielu zapytań wykorzystać vLLM według gotowych instrukcji NVIDIA; kompilacja programu lub kontener musi obsługiwać ARM64 i GPU GB10.

Pamięć	Qwen3.8-27B	Qwen3.8-Flash-Next	GLM-5.3-Flash	Warunki wyboru
32GB	UD-Q4_K_M: 16.46GB wag +15-30GB dodatkowej pamięci (32K-256K)	Q4 + zapas nie mieści się	Q4 + zapas nie mieści się	Qwen27B: kontekst 32K mieści się; 64K - na granicy; 128K+ nie mieszczą się.
64GB	Q8_0: 29.05GB wag +15-30GB dodatkowej pamięci (32K-256K)	Q4 + zapas nie mieści się	Q4 + zapas nie mieści się	Qwen27B: mieści się kontekst do 256K.
128GB	BF16: 54.66GB wag +15-30GB dodatkowej pamięci (32K-256K)	UD-Q4_K_XL: 111.33GB wag +22-29GB dodatkowej pamięci (32K-256K)	Q4 + zapas nie mieści się	Qwen27B: do 256K. Flash-Next: 32K/64K mieszczą się; 128K - na granicy.
192GB	BF16: 54.66GB wag +15-30GB dodatkowej pamięci (32K-256K)	UD-Q5_K_XL: 158.29GB wag +22-29GB dodatkowej pamięci (32K-256K)	Q4 + zapas nie mieści się	Qwen27B i Flash-Next: do 256K.
256GB	BF16: 54.66GB wag +15-30GB dodatkowej pamięci (32K-256K)	Q8_0: 188.23GB wag +22-29GB dodatkowej pamięci (32K-256K)	UD-Q4_K_XL: 199.71GB wag +25-30GB dodatkowej pamięci (32K-256K)	Mieści się kontekst do 256K.
512GB	BF16: 54.66GB wag +15-30GB dodatkowej pamięci (32K-256K)	BF16: 354.03GB wag +22-29GB dodatkowej pamięci (32K-256K)	Q8_0: 340.98GB wag +25-30GB dodatkowej pamięci (32K-256K)	Kontekst do 256K. Dla klastra z 4 węzłami potrzeba dodatkowo 36GB dla Qwen27B, 60GB dla Flash-Next i 72GB dla GLM Flash: system operacyjny i bufory są potrzebne na każdym węźle.
768GB	BF16: 54.66GB wag +15-30GB dodatkowej pamięci (32K-256K)	BF16: 354.03GB wag +22-29GB dodatkowej pamięci (32K-256K)	BF16: 641.64GB wag +25-30GB dodatkowej pamięci (32K-256K)	Kontekst  do 256K. Dla klastra z 4 węzłami potrzeba dodatkowo 36GB dla Qwen27B, 60GB dla Flash-Next i 72GB dla GLM Flash: system operacyjny i bufory są potrzebne na każdym węźle.

Porównanie modeli w tych samych wersjach testów

Poniższe wartości to procenty z publikacji twórców oryginalnych wersji, a nie wyniki wybranych skwantyzowanych wersji GGUF.

Wyniki zależą również od środowiska agenta (harness) i ustawień: identyczne wersje testów nie oznaczają jeszcze identycznych warunków. Na przykład Qwen3.8-27B testowano w SWE-bench Pro i DeepSWE 1.1 ze środowiskiem agenta Claude Code i kontekstem 256K.

Oprócz modeli otwartych tabela podaje dla orientacji wyniki benchmarków znanych modeli chmurowych.

Niektóre popularne benchmarki:

• SWE-bench Pro i DeepSWE pokazują pracę z kodem;

• Terminal-Bench 2.1 - zadania agentowe wykonywane autonomicznie;

• GPQA Diamond i HLE with tools - trudne pytania i rozumowanie, w drugim przypadku z narzędziami.

Model i źródło	SWE-bench Pro	Terminal-Bench 2.1	DeepSWE v1.1	GPQA Diamond	HLE with tools
Qwen3.8-27B	61.7	73.0	42.2	89.2	Brak wartości
Qwen3.8-Flash-Next	62.5	Brak wartości	58.7	91.7	Brak wartości
GLM-5.3-Flash	Brak wartości	84.3	63.4	Brak wartości	55.3
DeepSeek V4.1 Flash	Brak wartości	90.6	74.2	90.9	63.9
Claude Sonnet 5.5	Brak wartości	Brak wartości	Brak wartości	Brak wartości	64.5
Claude Sonnet 4.6	Brak wartości	Brak wartości	Brak wartości	89.9	49.0
GPT-5.6 Sol	Brak wartości	88.8	72.7	Brak wartości	64.5
Claude Opus 4.6 Max	53.4	Brak wartości	Brak wartości	91.3	Brak wartości
Claude Opus 4.8	Brak wartości	85.0	58.0	Brak wartości	57.9

Gotowe komputery do lokalnych modeli AI

W poniższych tabelach wymieniono rodziny komputerów z naciskiem na konfiguracje ze 128GB pamięci i więcej.

Dla każdej rodziny oddzielnie podano wymagania dotyczące zasilania: moc zasilacza i obsługiwany protokół ładowania.

Laptopy i stacje robocze z NVIDIA RTX Spark N1X

Laptop	Model, układ i zakres pamięci	Ładowanie adapterem USB-C (PD)	Dokumentacja i sklep
❌	Acer SFF RTX Spark | N1X | do 128GB	-	Zapowiedź Acer
✅	ASUS ProArt P16 H7607 | N1X | 32-128GB	PD3.1, 140W	Specyfikacja
✅	ASUS ProArt P14 H7407 | N1X | 32-128GB	PD3.1, 140W	Specyfikacja
❌	ASUS ProArt GR1X | N1X | 64/128GB	USB-C EPR PD 3.1(180W); zasilacz 240W w zestawie	Specyfikacja |
❌	Dell Creator Edition Desktop | N1X | do 128GB	-	Zapowiedź Dell | Specyfikacja
✅	Dell XPS 16 Creator Edition | N1X | 128GB	Dla trzech portów USB-C 4.0 zadeklarowano Power Delivery	Zapowiedź Dell XPS 16 Creator Edition
✅	HP OmniBook Ultra 16, 16-bk0000 | N1X | 32-128GB	PD3.2 USB-C 140W	Specyfikacja
✅	HP OmniBook X 14 | N1X | do 128GB	USB PD 3.2; USB-C GaN zasilacz 140W	Specyfikacja | Zapowiedź
✅	Lenovo Yoga Pro 9n / Pro 9n 15 Gen 11 | N1X | 32-128GB	USB-C PD 3.0; USB-C zasilacz 140W	Specyfikacja | Zapowiedź
✅	Lenovo Yoga 9n 2-in-1 Gen 11 16" | N1X | 32-64GB	USB-C PD 3.0; USB-C zasilacz 140W	Specyfikacja | Zapowiedź
✅	Microsoft Surface Laptop Ultra | N1X | 24-128GB	USB PD 3.1, minimum 115W	Specyfikacja | Amazon.de (48GB)
❌	Microsoft Surface RTX Spark Dev Box | N1X | 128GB	-	Zapowiedź Microsoft | Zamówienia przedpremierowe i dostawy
❌	MSI EdgeMesa N AI+ | N1X | do 128GB	USB-C PD IN; zasilacz 240W	Specyfikacja | Zasilanie
✅	MSI Prestige N16 Flip AI+ | N1X | 32-128GB	PD3.1, 65W(20V3.25A)-140W(28V5A)	Specyfikacja | Amazon.de

Stacje robocze NVIDIA GB10 / DGX Spark

Model, układ i zakres pamięci	Ładowanie adapterem USB-C (PD)	Dokumentacja i sklep
Acer Veriton GN100 | GB10 | 128GB	Zasilacz USB-C 240W w zestawie	Specyfikacja | Amazon.de
ASUS Ascent GX10 | GB10 | 64/128GB	PD3.1 EPR. Karta techniczna podaje wejście do 180W; zasilacz w zestawie 240W	Dokumentacja  | Specyfikacja | Amazon.com
CyberGeek DGX Spark Compact AI Workstation | GB10 |128GB	Dołączony zasilacz USB-C 240W; używać dostarczonego zasilacza	Specyfikacja DGX Spark (NVIDIA) | Zasilanie | Amazon.com
Dell Pro Precision with GB10 (wcześniej Dell Pro Max with GB10) | 64/128GB	Dołączony zasilacz USB-C FCM1253 280W, (profile wyjściowe: 5V3A, 9V3A, 15V3A, 20V6.5A, 28V5.89A, 36V5.83A, 48V5.83A); Wersja PD nie została podana. W zakresie 20-48V te profile PD wykorzystują niestandardowe natężenia prądu!	Instrukcja | Amazon.de(64GB)
GIGABYTE AI TOP ATOM | GB10 | 128GB	USB-C PD IN; zasilacz 240W w zestawie; wymagana moc wejściowa, profil napięcia i wersja PD nie są podane.	Specyfikacja  | Amazon.de
HP ZGX Nano G1n AI | GB10 | 128GB	Osobne wejście USB-C, zasilacz 240W.	Specyfikacja | Amazon.com | Amazon.de
Lenovo ThinkStation PGX | GB10 | 128GB	Dedykowane wejście USB-C z USB PD 3.1; dołączony zasilacz 240W	Specyfikacja | Amazon.de
MSI EdgeXpert AI | GB10 | 64/128GB	Fabryczny zasilacz USB PD 3.1 240W, 48V5A	Instrukcja | Amazon.com Amazon.de
NVIDIA DGX Spark | GB10 | 128GB	Fabryczny USB-C PD3.1 240W	Specyfikacja | Amazon.com
PNY NVIDIA DGX Spark | GB10 | 128GB	Zasilacz w zestawie, moc i tryb PD nie są podane	Specyfikacja | Amazon.de

Laptopy i stacje robocze z Ryzen AI Max+ 395/495

Modele Ryzen AI Max 385/390 i Ryzen AI Max PRO 485/490 z GPU Radeon 8050S nie są uwzględniane ze względu na ich „starzenie się”.

Laptop	Model, układ i zakres pamięci	Ładowanie adapterem USB-C (PD)	Dokumentacja i sklep
❌	Acer Veriton RA110 | Max+ 395 | 64/128GB	-	Specyfikacja
❌	AMD Ryzen AI Halo | Max+ 395 | 128GB	Osobne wejście USB-C do ładowania fabrycznym zasilaczem	Instrukcja | Amazon.com
❌	AMD Ryzen AI Halo | Max+ PRO 495 | 192GB pamięci współdzielonej	Wejście zasilania USB-C	Specyfikacja
❌	ACEMAGIC F9A | Max+ PRO 495 | 192GB	-	Specyfikacja
✅	ASUS ProArt PX13 HN7306 | Max+ 395 | 128GB	Obsługa USB PD 45-100W	Specyfikacja | Amazon.de(64GB)
✅	ASUS ROG Flow Z13 GZ302 | Max+ 395 w najwyższej wersji | 32-128GB	USB PD 3.0, 45-100W	Specyfikacja | Amazon.com  | Amazon.de
❌	Beelink GTR9 Pro | Max+ 395 | 128GB	-	Specyfikacja | Amazon.com
❌	CORSAIR AI Workstation 300 | Max+ 395 | 64/128GB	-	Specyfikacja
❌	Framework Desktop | Max+ 395: 64/128GB, Max+ PRO 495: 192GB	-	Specyfikacja | Wersja 192GB
❌	GEEKOM A9 Mega | AMD Ryzen AI Max+ 395 | 128GB pamięci współdzielonej	-	Specyfikacja | Amazon.com
❌	GMKtec EVO-X2 | Max+ 395 | 64-128GB	-	Specyfikacja | Amazon.com
❌	GMKtec EVO-X3 | Max+ 395 | 128GB	-	Specyfikacja |Amazon.com
❌	GMKtec EVO-X5 Pro | Ryzen AI Max+ PRO 495 | 192GB pamięci współdzielonej	-	Specyfikacja i sklep GMKtec
❌	HP Z2 Mini G1a | Max+ PRO 395 w najwyższej wersji | 16-128GB	-	Specyfikacja | Amazon.de
✅	HP ZBook Ultra 14 G1a | Max+ PRO 395 w najwyższej wersji | 16-128GB	USB-C 140W	Specyfikacja | Amazon.com
✅	HP ZBook Ultra G3a 16 | Ryzen AI Max+ PRO 495 | do 192GB pamięci współdzielonej	Wejście USB-C; zalecany zasilacz 180W, alternatywny 140W	Specyfikacja | Zapowiedź
❌	Lenovo ThinkCentre X Ultra | Ryzen AI Max+ PRO 495 | do 128GB pamięci współdzielonej	-	Zapowiedź i specyfikacja
❌	MINISFORUM MS-S1 MAX | Max+ 395 | 64/128GB	-	Specyfikacja | Amazon.de
❌	MINISFORUM MS-S1 MAX-P495 | Max+ PRO 495 | 192GB pamięci współdzielonej	-	Zapowiedź | Specyfikacja
❌	MINISFORUM N5 MAX-P495 | Max+ PRO 495 | 192GB	-	Zapowiedź | Architektura pamięci
❌	MSI PRO MAX EDGE AI+ 11M | Max+ 395 | 128GB	-	Specyfikacja | Amazon.com

Laptopy i stacje robocze z Apple silicon: dwa najnowsze pokolenia

Dla MacBooka Pro uwzględniono M5 Max i M4 Max z 40-rdzeniową GPU i 128GB. Dla Mac Studio - generacji M5 Max / M5 Ultra i poprzedniej M4 Max / M3 Ultra. Wersję M3 Ultra z 512GB Apple deklarowało przy premierze, ale obecna strona specyfikacji pokazuje maksymalnie 256GB.

Laptop	Model, układ i zakres pamięci	Ładowanie adapterem USB-C (PD)	Dokumentacja i sklep
✅	MacBook Pro 14" (2024) | M4 Max | 36-128GB; 128GB wymaga 40-rdzeniowej GPU	PD3.0 (<100W)	Specyfikacja | Amazon.com(36GB)
✅	MacBook Pro 16" (2024) | M4 Max | 36-128GB; 128GB wymaga 40-rdzeniowej GPU	PD3.1 (140W)	Specyfikacja | Amazon.com(64GB)
✅	MacBook Pro 14" | M5 Max | 36-128GB; 128GB wymaga 40-rdzeniowej GPU	PD3.0 (<100W)	Specyfikacja | Amazon.com(128GB)
✅	MacBook Pro 16" | M5 Max | 36-128GB; 128GB wymaga 40-rdzeniowej GPU	PD3.1 (140W)	Specyfikacja | Amazon.com
❌	Mac Studio (2025) | M4 Max | 36-128GB; 128GB wymaga 40-rdzeniowej GPU	-	Specyfikacja | Amazon.com(64GB)
❌	Mac Studio (2025) | M3 Ultra | 96-256GB w obecnej specyfikacji; 512GB przy premierze	-	Specyfikacja | Amazon.com(256GB)
❌	Mac Studio | M5 Ultra | 96/256/512GB; 512GB: dostawy później w październiku 2026	-	Specyfikacja | Terminy dostaw
❌	Mac Studio | M5 Max | 36-128GB; 128GB wymaga 40-rdzeniowej GPU	-	Specyfikacja | Amazon.com(36GB)

MagSafe 3 w MacBooku to firmowe złącze po stronie laptopa, które otrzymuje zasilanie z adaptera USB-C przez odpowiedni kabel.

Jak zapewnić niezawodne zasilanie komputera

Sprawdź zawartość zestawu: niektóre konfiguracje są sprzedawane bez zasilacza, zwłaszcza w Europie; w innych jest on dołączony.

Do codziennej, wielogodzinnej pracy z lokalnym modelem AI potrzebny jest niezawodny zasilacz, który potrafi długotrwale dostarczać wymaganą moc bez zakłóceń.

Porównaj napięcie, natężenie, protokół i dopuszczalny kabel z dokumentacją konkretnej maszyny. Jeśli producent wymaga firmowego zasilacza lub niestandardowego trybu, obecność złącza USB-C nie uzasadnia zastąpienia go dowolną mocną ładowarką.

Jeśli planujesz podłączyć kilka urządzeń do zasilacza z wieloma portami, sprawdź moc jednego portu i jej ponowny podział po podłączeniu innych urządzeń.

🔍 W katalogu TinkerVault znajdują się adaptery do ładowania PD3.1 przetestowane pod obciążeniem, w tym modele dostarczające ponad 140W przez jeden port.

🔍 Katalog przetestowanych kabli USB-C PD obsługujących moc 240W.