Персональный ИИ: ноутбуки, рабочие станции и их возможности (часть 2)
Обновлено: 7 дней назад
В первой части этой статьи мы разобрали задачи для локальных LLM и подходящие архитектуры компьютеров, сравнили их производительность и объяснили, как на скорость влияют процессор и память.
Во второй части рассмотрим, какие LLM-модели можно полностью разместить в памяти компьютера и на что они способны. Затем сравним готовые ноутбуки и рабочие станции на разных архитектурах, которые производители предлагают для работы с локальными LLM.
Какие LLM-модели подойдут для компьютеров с 32-768GB памяти
Рекламные обещания запуска моделей на сотни миллиардов параметров стоит читать вместе с условиями: AMD рекламирует 300B на Ryzen AI Halo с 192GB памяти, но речь идет о 4-битной квантизации: одни веса занимают примерно 150GB без накладных расходов. В версии BF16/FP16 для тех же весов потребовалось бы в 4 раза больше памяти - 600GB. Ещё нагляднее пример Framework: для компьютера с 64GB компания рекомендует Qwen3.5-122B-A10B в трёхбитной квантизации Q3_K_S и указывает расход памяти 52.5GB, тогда как одни веса в BF16/FP16 потребовали бы около 244GB. Будьте внимательны к таким обещаниям, поскольку агрессивная квантизация до 2-3 бит может значительно ухудшать ответы и поведение модели.
В статье мы ориентируемся на компьютеры как минимум с 128GB памяти для профессиональной работы с крупными моделями, способными заменить облачные решения во многих рабочих задачах. Но для несложных задач программирования подойдет и компьютер с меньшим объемом памяти. Поэтому в сравнении есть и dense-модель Qwen3.8-27B.
Основной ориентир для систем с 128GB+ - это современные открытые MoE-модели Qwen3.8-Flash-Next и GLM-5.3-Flash. Qwen3.8 Flash - облачный релиз, а Flash-Next - открытый релиз для локального запуска.
При обработке каждого токена MoE-модель использует лишь часть параметров, что сокращает объем вычислений. Однако в памяти нужно разместить весь набор весов, поэтому ее большой объем остается важным.
Квантизация весов и KV-кэша уменьшает их размер за счет более компактного представления чисел. Ее влияние на качество зависит от модели, задачи и степени сжатия: Q4 может быть приемлемой для работы, а Q8 часто близка к исходной модели по качеству. Ниже указаны конкретные опубликованные GGUF-версии и суммарный размер всех файлов весов каждой версии.
Модели для локального запуска можно найти на Hugging Face, где публикуются исходные веса, инструкции и готовые квантизованные версии. Перед скачиванием проверьте автора, лицензию, размер файлов и совместимость с выбранной программой: для llama.cpp обычно нужен формат GGUF, для MLX на Mac - совместимая MLX-версия. Искать и загружать модели можно и прямо из LM Studio или выбрать готовую сборку в библиотеке Ollama.
Обратите внимание, что размер файлов весов модели не равен общему расходу памяти: нужен резерв для ОС, рабочих буферов и KV-кэша, объем которого зависит от длины контекста.
Если у компьютера или кластера достаточно свободной памяти, можно разместить несколько копий одной модели или разные модели для одновременного использования.
На Windows и Linux для первого запуска удобно использовать LM Studio с графическим интерфейсом или Ollama; для более гибкой настройки и локального API подойдёт llama.cpp. На Mac с Apple Silicon доступны те же инструменты, а также MLX LM, разработанный для этой платформы; ускорение GPU работает через Metal. На DGX Spark с DGX OS (Linux на базе Ubuntu) можно запускать CUDA-версии llama.cpp, а для обслуживания нескольких запросов - vLLM по готовым инструкциям NVIDIA; сборка программы или контейнер должны поддерживать ARM64 и GPU GB10.
Память | Условия выбора | |||
|---|---|---|---|---|
32GB | Q4 + резерв не помещается | Q4 + резерв не помещается | Qwen27B: 32K контекста помещается; 64K - погранично; 128K+ не помещаются. | |
64GB | Q4 + резерв не помещается | Q4 + резерв не помещается | Qwen27B: вплоть до 256K контекста помещается. | |
128GB | Q4 + резерв не помещается | Qwen27B: до 256K. Flash-Next: 32K/64K помещаются; 128K - погранично. | ||
192GB | Q4 + резерв не помещается | Qwen27B и Flash-Next: до 256K. | ||
256GB | Контекст до 256K помещается. | |||
512GB | Контекст до 256K. Для кластера из 4 узлов нужно еще 36GB у Qwen27B, 60GB у Flash-Next и 72GB у GLM Flash: ОС и буферы нужны на каждом узле. | |||
768GB | Контекст до 256K. Для кластера из 4 узлов нужно еще 36GB у Qwen27B, 60GB у Flash-Next и 72GB у GLM Flash: ОС и буферы нужны на каждом узле. |
Сравнение моделей на одинаковых версиях тестов
Значения ниже - проценты из публикаций разработчиков исходных релизов, а не результаты выбранных квантизованных GGUF-версий.
Результаты зависят и от агентной оболочки (harness), и от настроек: одинаковые версии тестов еще не означают одинаковые условия. Например, Qwen3.8-27B тестировали в SWE-bench Pro и DeepSWE 1.1 с агентной оболочкой Claude Code и контекстом 256K.
В таблице помимо открытых моделей даны значения бенчмарков известных облачных моделей для ориентира.
Некоторые популярные бенчмарки:
SWE-bench Pro и DeepSWE показывают работу с кодом;
Terminal-Bench 2.1 - агентные задачи автономного исполнения;
GPQA Diamond и HLE with tools - сложные вопросы и рассуждение, во втором случае с инструментами.
Модель и источник | SWE-bench Pro | Terminal-Bench 2.1 | DeepSWE v1.1 | GPQA Diamond | HLE with tools |
|---|---|---|---|---|---|
61.7 | 73.0 | 42.2 | 89.2 | Нет значения | |
62.5 | Нет значения | 58.7 | 91.7 | Нет значения | |
Нет значения | 84.3 | 63.4 | Нет значения | 55.3 | |
Нет значения | 90.6 | 74.2 | 90.9 | 63.9 | |
Нет значения | Нет значения | Нет значения | Нет значения | 64.5 | |
Нет значения | Нет значения | Нет значения | 89.9 | 49.0 | |
Нет значения | 88.8 | 72.7 | Нет значения | 64.5 | |
53.4 | Нет значения | Нет значения | 91.3 | Нет значения | |
Нет значения | 85.0 | 58.0 | Нет значения | 57.9 |
Готовые компьютеры для локальных ИИ-моделей
В таблицах ниже перечислены семейства компьютеров с акцентом на конфигурации со 128GB памяти и больше.
Для каждого семейства отдельно указаны требования к питанию: мощность адаптера и поддерживаемый протокол зарядки.
Ноутбуки и рабочие станции на NVIDIA RTX Spark N1X
Ноутбук | Модель, чип и диапазон памяти | Зарядка адаптером USB-C (PD) | Документация и магазин |
|---|---|---|---|
❌ | Acer SFF RTX Spark | N1X | до 128GB | - | |
✅ | ASUS ProArt P16 H7607 | N1X | 32-128GB | PD3.1, 140W | |
✅ | ASUS ProArt P14 H7407 | N1X | 32-128GB | PD3.1, 140W | |
❌ | ASUS ProArt GR1X | N1X | 64/128GB | USB-C EPR PD 3.1(180W); адаптер 240W в комплекте | |
❌ | Dell Creator Edition Desktop | N1X | до 128GB | - | |
✅ | Dell XPS 16 Creator Edition | N1X | 128GB | На трех USB-C 4.0 заявлена Power Delivery | |
✅ | HP OmniBook Ultra 16, 16-bk0000 | N1X | 32-128GB | PD3.2 USB-C 140W | |
✅ | HP OmniBook X 14 | N1X | до 128GB | USB PD 3.2; USB-C GaN адаптер 140W | |
✅ | Lenovo Yoga Pro 9n / Pro 9n 15 Gen 11 | N1X | 32-128GB | USB-C PD 3.0; адаптер USB-C 140W | |
✅ | Lenovo Yoga 9n 2-in-1 Gen 11 16" | N1X | 32-64GB | USB-C PD 3.0; адаптер USB-C 140W | |
✅ | Microsoft Surface Laptop Ultra | N1X | 24-128GB | USB PD 3.1, минимум 115W | |
❌ | Microsoft Surface RTX Spark Dev Box | N1X | 128GB | - | |
❌ | MSI EdgeMesa N AI+ | N1X | до 128GB | USB-C PD IN; адаптер 240W | |
✅ | MSI Prestige N16 Flip AI+ | N1X | 32-128GB | PD3.1, 65W(20V3.25A)-140W(28V5A) |
Рабочие станции NVIDIA GB10 / DGX Spark
Модель, чип и диапазон памяти | Зарядка адаптером USB-C (PD) | Документация и магазин |
|---|---|---|
Acer Veriton GN100 | GB10 | 128GB | Комплектный USB-C БП 240W | |
ASUS Ascent GX10 | GB10 | 64/128GB | PD3.1 EPR. В техническом листе указан вход до 180W; комплектный БП 240W | |
CyberGeek DGX Spark Compact AI Workstation | GB10 |128GB | Комплектный USB-C БП 240W; использовать штатный адаптер | |
Dell Pro Precision with GB10 (ранее Dell Pro Max with GB10) | 64/128GB | Штатный USB-C БП FCM1253 280W, (выходные профили: 5V3A, 9V3A, 15V3A, 20V6.5A, 28V5.89A, 36V5.83A, 48V5.83A); версия PD не указана. В диапазоне 20-48V - нестандартные PD профили по силе тока! | |
GIGABYTE AI TOP ATOM | GB10 | 128GB | USB-C PD IN; адаптер 240W в комплекте; требуемая мощность входа, профиль напряжения и версия PD не указаны. | |
HP ZGX Nano G1n AI | GB10 | 128GB | Выделенный USB-C-вход, БП 240W. | |
Lenovo ThinkStation PGX | GB10 | 128GB | Выделенный USB-C-вход USB PD 3.1; комплектный БП 240W | |
MSI EdgeXpert AI | GB10 | 64/128GB | Штатный БП USB PD 3.1 240W, 48V5A | |
NVIDIA DGX Spark | GB10 | 128GB | Штатный USB-C PD3.1 240W | |
PNY NVIDIA DGX Spark | GB10 | 128GB | БП в наборе, мощность и режим PD не указаны |
Ноутбуки и рабочие станции Ryzen AI Max+ 395/495
Модели Ryzen AI Max 385/390 и Ryzen AI Max PRO 485/490 с GPU Radeon 8050S не рассматриваются вследствие их «устаревания».
Ноутбук | Модель, чип и диапазон памяти | Зарядка адаптером USB-C (PD) | Документация и магазин |
|---|---|---|---|
❌ | Acer Veriton RA110 | Max+ 395 | 64/128GB | - | |
❌ | AMD Ryzen AI Halo | Max+ 395 | 128GB | Выделенный USB-C-вход для зарядки штатным БП | |
❌ | AMD Ryzen AI Halo | Max+ PRO 495 | 192GB | USB-C-вход для питания | |
❌ | ACEMAGIC F9A | Max+ PRO 495 | 192GB | - | |
✅ | ASUS ProArt PX13 HN7306 | Max+ 395 | 128GB | Поддерживается USB PD 45-100W | |
✅ | ASUS ROG Flow Z13 GZ302 | Max+ 395| 32-128GB | USB PD 3.0, 45-100W | |
❌ | Beelink GTR9 Pro | Max+ 395 | 128GB | - | |
❌ | CORSAIR AI Workstation 300 | Max+ 395 | 64/128GB | - | |
❌ | Framework Desktop | Max+ 395: 64/128GB, Max+ PRO 495: 192GB | - | |
❌ | GEEKOM A9 Mega | AMD Ryzen AI Max+ 395 | 128GB | - | |
❌ | GMKtec EVO-X2 | Max+ 395 | 64-128GB | - | |
❌ | GMKtec EVO-X3 | Max+ 395 | 128GB | - | |
❌ | GMKtec EVO-X5 Pro | Ryzen AI Max+ PRO 495 | 192GB | - | |
❌ | HP Z2 Mini G1a | Max+ PRO 395 в старшей версии | 16-128GB | - | |
✅ | HP ZBook Ultra 14 G1a | Max+ PRO 395 в старшей версии | 16-128GB | USB-C 140W | |
✅ | HP ZBook Ultra G3a 16 | Ryzen AI Max+ PRO 495 | до 192GB | USB-C-вход; рекомендованный адаптер 180W, альтернативный 140W | |
❌ | Lenovo ThinkCentre X Ultra | Ryzen AI Max+ PRO 495 | до 128GB | - | |
❌ | MINISFORUM MS-S1 MAX | Max+ 395 | 64/128GB | - | |
❌ | MINISFORUM MS-S1 MAX-P495 | Max+ PRO 495 | 192GB | - | |
❌ | MINISFORUM N5 MAX-P495 | Max+ PRO 495 | 192GB | - | |
❌ | MSI PRO MAX EDGE AI+ 11M | Max+ 395 | 128GB | - |
Ноутбуки и рабочие станции Apple Silicon: два последних поколения
Для MacBook Pro рассматриваются M5 Max и M4 Max с 40-ядерным GPU и 128GB. Для Mac Studio - поколение M5 Max / M5 Ultra и предыдущее M4 Max / M3 Ultra. Версию M3 Ultra на 512GB Apple заявляла при выпуске, но текущая страница характеристик показывает максимум 256GB.
Ноутбук | Модель, чип и диапазон памяти | Зарядка адаптером USB-C (PD) | Документация и магазин |
|---|---|---|---|
✅ | MacBook Pro 14" (2024) | M4 Max | 36-128GB; 128GB требует 40-ядерного GPU | PD3.0 (<100W) | |
✅ | MacBook Pro 16" (2024) | M4 Max | 36-128GB; 128GB требует 40-ядерного GPU | PD3.1 (140W) | |
✅ | MacBook Pro 14" | M5 Max | 36-128GB; 128GB требует 40-ядерного GPU | PD3.0 (<100W) | |
✅ | MacBook Pro 16" | M5 Max | 36-128GB; 128GB требует 40-ядерного GPU | PD3.1 (140W) | |
❌ | Mac Studio (2025) | M4 Max | 36-128GB; 128GB требует 40-ядерного GPU | - | |
❌ | Mac Studio (2025) | M3 Ultra | 96-256GB в текущей спецификации; 512GB при выпуске | - | |
❌ | Mac Studio | M5 Ultra | 96/256/512GB; 512GB: поставки позднее в октябре 2026 | - | |
❌ | Mac Studio | M5 Max | 36-128GB; 128GB требует 40-ядерного GPU | - |
MagSafe 3 у MacBook - фирменный разъем на стороне ноутбука, который получает питание от USB-C-адаптера через соответствующий кабель.
Как обеспечить надежное питание компьютера
Проверьте комплект поставки: некоторые конфигурации продаются без адаптера, особенно в Европе; у других он входит в комплект.
Для ежедневной многочасовой работы с локальной ИИ-моделью нужен надежный блок питания, способный длительно выдавать требуемую мощность без сбоев.
Сверяйте напряжение, ток, протокол и допустимый кабель с документацией конкретной машины. Если производитель требует фирменный БП или нестандартный режим, наличие USB-C-разъема не дает основания заменить его любым мощным зарядным устройством.
Если планируете подключать к многопортовому блоку питания несколько устройств, проверьте мощность одного порта и ее перераспределение при подключении других устройств.