Kişisel yapay zeka: dizüstü bilgisayarlar, iş istasyonları ve sundukları olanaklar (bölüm 2)
Güncelleme tarihi: 7 gün önce
Bu makalenin ilk bölümünde yerel LLM'lere uygun görevleri ve bilgisayar mimarilerini ele aldık, performanslarını karşılaştırdık ve işlemci ile belleğin hızı nasıl etkilediğini açıkladık.
İkinci bölümde hangi LLM modellerinin bilgisayar belleğine tamamen sığabileceğini ve neler yapabildiklerini inceleyeceğiz. Ardından üreticilerin yerel LLM'lerle çalışmak için sunduğu farklı mimarilerdeki hazır dizüstü bilgisayarları ve iş istasyonlarını karşılaştıracağız.
32-768GB belleğe sahip bilgisayarlara hangi LLM modelleri uygundur
Yüz milyarlarca parametreli modelleri çalıştırmaya yönelik reklam vaatleri koşullarıyla birlikte okunmalıdır: AMD, 192GB belleğe sahip Ryzen AI Halo üzerinde 300B reklamı yapıyor, ancak bu 4 bit nicelemeyle mümkün. Bu, ek bellek giderleri hariç yalnızca ağırlıklar için yaklaşık 150GB demek; tam BF16/FP16 sürümü ise 4 kat daha fazla bellek gerektiriyor: 600GB! Daha da açıklayıcı olan Framework örneği: şirket, 64GB belleğe sahip bilgisayar için 3 bit Q3_K_S nicelemeli Qwen3.5-122B-A10B öneriyor ve bellek kullanımını 52.5GB olarak belirtiyor; oysa yalnızca BF16/FP16 ağırlıkları yaklaşık 244GB gerektirirdi. Bu tür vaatleri dikkatle değerlendirin; çünkü 2-3 bit düzeyinde agresif niceleme, modelin yanıtlarını ve davranışını ciddi ölçüde bozabilir.
Bu yazıda, birçok iş görevinde bulut çözümlerinin yerini alabilecek büyük modellerle profesyonel çalışma için en az 128GB belleğe sahip bilgisayarlara odaklanıyoruz. Ancak basit programlama görevleri için daha az belleğe sahip bir bilgisayar da uygundur. Bu nedenle karşılaştırmada yoğun model Qwen3.8-27B de yer alıyor.
128GB+ sistemler için ana referans, modern açık MoE modelleri olan Qwen3.8-Flash-Next ve GLM-5.3-Flash. Qwen3.8 Flash bir bulut sürümüdür; Flash-Next ise yerel çalıştırma için açık bir sürümdür.
MoE modeli her token'ı işlerken parametrelerin yalnızca bir bölümünü kullanır; bu da hesaplama miktarını azaltır. Ancak ağırlıkların tamamı belleğe yerleştirilmelidir, dolayısıyla büyük bellek kapasitesi önemini korur.
Ağırlıkların ve KV önbelleğinin kuantizasyonu, sayıların daha kompakt temsil edilmesiyle boyutlarını küçültür. Kaliteye etkisi modele, göreve ve sıkıştırma derecesine bağlıdır: Q4 iş için kabul edilebilir olabilir; Q8 ise kalite bakımından genellikle özgün modele yakındır. Aşağıda belirli yayımlanmış GGUF sürümleri ve her sürümün tüm ağırlık dosyalarının toplam boyutu belirtilmiştir.
Yerel çalıştırma için modelleri Hugging Face üzerinde bulabilirsiniz; özgün ağırlıklar, talimatlar ve hazır nicelenmiş sürümler burada yayımlanır. İndirmeden önce yazarı, lisansı, dosya boyutunu ve seçilen programla uyumluluğu kontrol edin: llama.cpp için genellikle GGUF biçimi, Mac'te MLX için ise uyumlu bir MLX sürümü gerekir. Modelleri doğrudan LM Studio içinden de arayıp indirebilir veya Ollama kütüphanesinden hazır bir paket seçebilirsiniz.
Modelin ağırlık dosyalarının boyutunun toplam bellek kullanımıyla aynı olmadığını unutmayın: işletim sistemi, çalışma arabellekleri ve boyutu bağlam uzunluğuna göre değişen KV önbelleği için pay ayırmak gerekir.
Bilgisayar veya kümede yeterli boş bellek varsa aynı modelin birden fazla kopyası ya da farklı modeller eşzamanlı kullanım için belleğe yerleştirilebilir.
Windows ve Linux'ta ilk kullanım için grafik arayüzlü LM Studio veya Ollama uygundur; daha esnek yapılandırma ve yerel API için llama.cpp kullanılabilir. Apple Silicon Mac'lerde aynı araçların yanı sıra bu platform için geliştirilen MLX LM de bulunur; GPU hızlandırması Metal üzerinden çalışır. DGX Spark üzerinde Ubuntu tabanlı bir Linux olan DGX OS ile llama.cpp'nin CUDA derlemelerini çalıştırabilir, birden fazla isteğe hizmet vermek için NVIDIA'nın hazır talimatlarına göre vLLM kullanabilirsiniz; program derlemesi veya konteyner ARM64 ve GB10 GPU desteğine sahip olmalıdır.
Bellek | Seçim koşulları | |||
|---|---|---|---|---|
32GB | Q4 + ek pay sığmıyor | Q4 + ek pay sığmıyor | Qwen27B: 32K bağlama sığıyor; 64K sınırda; 128K+ sığmıyor. | |
64GB | Q4 + ek pay sığmıyor | Q4 + ek pay sığmıyor | Qwen27B: 256K'ya kadar bağlam sığıyor. | |
128GB | Q4 + ek pay sığmıyor | Qwen27B: 256K'ya kadar. Flash-Next: 32K/64K sığıyor; 128K sınırda. | ||
192GB | Q4 + ek pay sığmıyor | Qwen27B ve Flash-Next: 256K'ya kadar. | ||
256GB | 256K'ya kadar bağlama sığıyor. | |||
512GB | 256K'ya kadar bağlam. 4 düğümlü kümede Qwen27B için ek 36GB, Flash-Next için 60GB ve GLM Flash için 72GB gerekir: işletim sistemi ve tamponlar her düğümde gereklidir. | |||
768GB | Bağlam 256K'ya kadar. 4 düğümlü kümede Qwen27B için ek 36GB, Flash-Next için 60GB ve GLM Flash için 72GB gerekir: işletim sistemi ve tamponlar her düğümde gereklidir. |
Aynı test sürümlerinde model karşılaştırması
Aşağıdaki değerler, seçilen kuantize GGUF sürümlerinin sonuçları değil, özgün sürümlerin geliştiricilerinin yayımladığı yüzdelerdir.
Sonuçlar, ajan ortamına (harness) ve ayarlara da bağlıdır: test sürümlerinin aynı olması koşulların aynı olduğu anlamına gelmez. Örneğin Qwen3.8-27B, SWE-bench Pro ve DeepSWE 1.1'de Claude Code ajan ortamı ve 256K bağlamla test edilmiştir.
Tabloda açık modellerin yanı sıra referans olması için tanınmış bulut modellerinin benchmark değerleri de verilmiştir.
Bazı popüler kıyaslama testleri:
SWE-bench Pro ve DeepSWE kodlama performansını gösterir;
Terminal-Bench 2.1, özerk yürütme gerektiren ajan görevlerini ölçer;
GPQA Diamond ve HLE with tools karmaşık soruları ve akıl yürütmeyi ölçer; ikincisinde araçlar da kullanılır.
Model ve kaynak | SWE-bench Pro | Terminal-Bench 2.1 | DeepSWE v1.1 | GPQA Diamond | HLE with tools |
|---|---|---|---|---|---|
61.7 | 73.0 | 42.2 | 89.2 | Değer yok | |
62.5 | Değer yok | 58.7 | 91.7 | Değer yok | |
Değer yok | 84.3 | 63.4 | Değer yok | 55.3 | |
Değer yok | 90.6 | 74.2 | 90.9 | 63.9 | |
Değer yok | Değer yok | Değer yok | Değer yok | 64.5 | |
Değer yok | Değer yok | Değer yok | 89.9 | 49.0 | |
Değer yok | 88.8 | 72.7 | Değer yok | 64.5 | |
53.4 | Değer yok | Değer yok | 91.3 | Değer yok | |
Değer yok | 85.0 | 58.0 | Değer yok | 57.9 |
Yerel yapay zeka modelleri için hazır bilgisayarlar
Aşağıdaki tablolarda, 128GB ve üzeri belleğe sahip yapılandırmalara odaklanılarak bilgisayar aileleri listelenmiştir.
Her aile için güç gereksinimleri ayrı belirtilmiştir: adaptör gücü ve desteklenen şarj protokolü.
NVIDIA RTX Spark N1X tabanlı dizüstü bilgisayarlar ve iş istasyonları
Dizüstü bilgisayar | Model, çip ve bellek aralığı | USB-C adaptörle şarj (PD) | Belgeler ve mağaza |
|---|---|---|---|
❌ | Acer SFF RTX Spark | N1X | 128GB'a kadar | - | |
✅ | ASUS ProArt P16 H7607 | N1X | 32-128GB | PD3.1, 140W | |
✅ | ASUS ProArt P14 H7407 | N1X | 32-128GB | PD3.1, 140W | |
❌ | ASUS ProArt GR1X | N1X | 64/128GB | USB-C EPR PD 3.1(180W); 240W adaptör dahildir | |
❌ | Dell Creator Edition Desktop | N1X | 128GB'a kadar | - | |
✅ | Dell XPS 16 Creator Edition | N1X | 128GB | Üç USB-C 4.0 bağlantı noktası için Power Delivery belirtilmiştir | |
✅ | HP OmniBook Ultra 16, 16-bk0000 | N1X | 32-128GB | PD3.2 USB-C 140W | |
✅ | HP OmniBook X 14 | N1X | 128GB'a kadar | USB PD 3.2; USB-C GaN adaptör 140W | |
✅ | Lenovo Yoga Pro 9n / Pro 9n 15 Gen 11 | N1X | 32-128GB | USB-C PD 3.0; USB-C adaptör 140W | |
✅ | Lenovo Yoga 9n 2-in-1 Gen 11 16" | N1X | 32-64GB | USB-C PD 3.0; USB-C adaptör 140W | |
✅ | Microsoft Surface Laptop Ultra | N1X | 24-128GB | USB PD 3.1, en az 115W | |
❌ | Microsoft Surface RTX Spark Dev Box | N1X | 128GB | - | |
❌ | MSI EdgeMesa N AI+ | N1X | 128GB'a kadar | USB-C PD IN; adaptör 240W | |
✅ | MSI Prestige N16 Flip AI+ | N1X | 32-128GB | PD3.1, 65W(20V3.25A)-140W(28V5A) |
NVIDIA GB10 / DGX Spark iş istasyonları
Model, çip ve bellek aralığı | USB-C adaptörle şarj (PD) | Belgeler ve mağaza |
|---|---|---|
Acer Veriton GN100 | GB10 | 128GB | Kutudaki USB-C güç adaptörü 240W | |
ASUS Ascent GX10 | GB10 | 64/128GB | PD3.1 EPR. Teknik föyde giriş gücü 180W'a kadar belirtilmiş; kutudaki güç adaptörü 240W | |
CyberGeek DGX Spark Compact AI Workstation | GB10 |128GB | Birlikte verilen 240W USB-C güç adaptörü; birlikte verilen adaptörü kullanın | |
Dell Pro Precision with GB10 (eski adıyla Dell Pro Max with GB10) | 64/128GB | Birlikte verilen USB-C güç adaptörü FCM1253 280W, (çıkış profilleri: 5V3A, 9V3A, 15V3A, 20V6.5A, 28V5.89A, 36V5.83A, 48V5.83A); PD sürümü belirtilmemiştir. 20-48V aralığında bu PD profilleri standart dışı akım değerleri kullanır! | |
GIGABYTE AI TOP ATOM | GB10 | 128GB | USB-C PD IN; 240W adaptör dahildir; gerekli giriş gücü, voltaj profili ve PD sürümü belirtilmemiştir. | |
HP ZGX Nano G1n AI | GB10 | 128GB | Özel USB-C güç girişi, 240W güç adaptörü. | |
Lenovo ThinkStation PGX | GB10 | 128GB | USB PD 3.1 destekli özel USB-C girişi; kutuya dahil güç adaptörü 240W | |
MSI EdgeXpert AI | GB10 | 64/128GB | Standart güç adaptörü USB PD 3.1 240W, 48V5A | |
NVIDIA DGX Spark | GB10 | 128GB | Standart USB-C PD3.1 240W | |
PNY NVIDIA DGX Spark | GB10 | 128GB | Güç adaptörü dahil, güç ve PD modu belirtilmemiş |
Ryzen AI Max+ 395/495 tabanlı dizüstü bilgisayarlar ve iş istasyonları
Radeon 8050S GPU içeren Ryzen AI Max 385/390 ve Ryzen AI Max PRO 485/490 modelleri, "eskimiş" olmaları nedeniyle ele alınmıyor.
Dizüstü bilgisayar | Model, çip ve bellek aralığı | USB-C adaptörle şarj (PD) | Belgeler ve mağaza |
|---|---|---|---|
❌ | Acer Veriton RA110 | Max+ 395 | 64/128GB | - | |
❌ | AMD Ryzen AI Halo | Max+ 395 | 128GB | Standart güç adaptörüyle şarj için özel USB-C girişi | |
❌ | AMD Ryzen AI Halo | Max+ PRO 495 | 192GB birleşik bellek | USB-C güç girişi | |
❌ | ACEMAGIC F9A | Max+ PRO 495 | 192GB | - | |
✅ | ASUS ProArt PX13 HN7306 | Max+ 395 | 128GB | USB PD 45-100W desteklenir | |
✅ | ASUS ROG Flow Z13 GZ302 | üst sürümde Max+ 395 | 32-128GB | USB PD 3.0, 45-100W | |
❌ | Beelink GTR9 Pro | Max+ 395 | 128GB | - | |
❌ | CORSAIR AI Workstation 300 | Max+ 395 | 64/128GB | - | |
❌ | Framework Desktop | Max+ 395: 64/128GB, Max+ PRO 495: 192GB | - | |
❌ | GEEKOM A9 Mega | AMD Ryzen AI Max+ 395 | 128GB paylaşımlı bellek | - | |
❌ | GMKtec EVO-X2 | Max+ 395 | 64-128GB | - | |
❌ | GMKtec EVO-X3 | Max+ 395 | 128GB | - | |
❌ | GMKtec EVO-X5 Pro | Ryzen AI Max+ PRO 495 | 192GB birleşik bellek | - | |
❌ | HP Z2 Mini G1a | üst sürümde Max+ PRO 395 | 16-128GB | - | |
✅ | HP ZBook Ultra 14 G1a | üst sürümde Max+ PRO 395 | 16-128GB | USB-C 140W | |
✅ | HP ZBook Ultra G3a 16 | Ryzen AI Max+ PRO 495 | en fazla 192GB birleşik bellek | USB-C girişi; önerilen adaptör 180W, alternatif 140W | |
❌ | Lenovo ThinkCentre X Ultra | Ryzen AI Max+ PRO 495 | en fazla 128GB birleşik bellek | - | |
❌ | MINISFORUM MS-S1 MAX | Max+ 395 | 64/128GB | - | |
❌ | MINISFORUM MS-S1 MAX-P495 | Max+ PRO 495 | 192GB birleşik bellek | - | |
❌ | MINISFORUM N5 MAX-P495 | Max+ PRO 495 | 192GB | - | |
❌ | MSI PRO MAX EDGE AI+ 11M | Max+ 395 | 128GB | - |
Apple Silicon tabanlı dizüstü bilgisayarlar ve iş istasyonları: son iki nesil
MacBook Pro için 40 çekirdekli GPU ve 128GB içeren M5 Max ve M4 Max ele alınmıştır. Mac Studio için M5 Max / M5 Ultra nesli ve önceki M4 Max / M3 Ultra ele alınmıştır. Apple, M3 Ultra'nın 512GB sürümünü piyasaya çıkışta duyurmuştu; ancak güncel özellikler sayfası en fazla 256GB gösteriyor.
Dizüstü bilgisayar | Model, çip ve bellek aralığı | USB-C adaptörle şarj (PD) | Belgeler ve mağaza |
|---|---|---|---|
✅ | MacBook Pro 14" (2024) | M4 Max | 36-128GB; 128GB için 40 çekirdekli GPU gerekir | PD3.0 (<100W) | |
✅ | MacBook Pro 16" (2024) | M4 Max | 36-128GB; 128GB için 40 çekirdekli GPU gerekir | PD3.1 (140W) | |
✅ | MacBook Pro 14" | M5 Max | 36-128GB; 128GB için 40 çekirdekli GPU gerekir | PD3.0 (<100W) | |
✅ | MacBook Pro 16" | M5 Max | 36-128GB; 128GB için 40 çekirdekli GPU gerekir | PD3.1 (140W) | |
❌ | Mac Studio (2025) | M4 Max | 36-128GB; 128GB için 40 çekirdekli GPU gerekir | - | |
❌ | Mac Studio (2025) | M3 Ultra | güncel özelliklerde 96-256GB; piyasaya çıkışta 512GB | - | |
❌ | Mac Studio | M5 Ultra | 96/256/512GB; 512GB: teslimatlar Ekim 2026'nın ilerleyen günlerinde | - | |
❌ | Mac Studio | M5 Max | 36-128GB; 128GB için 40 çekirdekli GPU gerekir | - | Teknik özellikler | Amazon.com(36GB) |
MacBook'taki MagSafe 3, dizüstü bilgisayar tarafında bulunan ve uygun kablo üzerinden USB-C adaptörden güç alan özel bir bağlantıdır.
Bilgisayara güvenilir güç nasıl sağlanır
Kutu içeriğini kontrol edin: özellikle Avrupa'da bazı yapılandırmalar adaptörsüz satılır; diğerlerinde adaptör dahildir.
Yerel bir yapay zeka modeliyle her gün saatlerce çalışmak için gerekli gücü uzun süre kesintisiz verebilen güvenilir bir güç kaynağı gerekir.
Gerilimi, akımı, protokolü ve izin verilen kabloyu bilgisayarın kendi belgeleriyle karşılaştırın. Üretici özel bir güç adaptörü veya standart dışı bir mod istiyorsa USB-C bağlantısının bulunması, adaptörü herhangi bir güçlü şarj cihazıyla değiştirmek için yeterli değildir.
Çok portlu bir güç kaynağına birden fazla cihaz bağlamayı planlıyorsanız tek portun gücünü ve diğer cihazlar bağlandığında gücün nasıl yeniden dağıtıldığını kontrol edin.