Sabitlenmiş Tweet
Mart 2026 itibarıyla yerel LLM'ler (Ollama, llama.cpp, LM Studio vb. ile) için donanım önerileri büyük ölçüde VRAM miktarı ve bellek bant genişliği etrafında dönüyor. En kritik faktör: Ne kadar büyük modeli hızlı ve stabil çalıştırmak istiyorsun? (7B, 13B, 30-70B quantized, vs.)
Genel Kural (2026 Gerçeği)
VRAM / Unified Memory = Kral. Quantized modellerde (Q4_K_M, Q5_K vb.) bile büyük modeller çok yer kaplıyor.
NVIDIA → Hız ve ekosistem (CUDA, vLLM, exllama) için en iyisi.
Apple Silicon → Verimlilik ve büyük unified memory için çok güçlü (özellikle Mac Studio / MacBook Pro).
CPU-only → Artık pratik değil (sadece çok küçük modellerde).
Özet: Quantized modellerde bile büyükler çok VRAM yiyor. NVIDIA hız için, Apple verimlilik + büyük context için öne çıkıyor.
Bütçe ve senaryolara göre öneriler:
Giriş (~15-30 bin TL): Laptop RTX 4060 Ti/4070 16GB veya used RTX 3090 24GB → 7B-13B hızlı, 30-34B quantized (sıkışık) → 40-80 tok/s
Orta (~40-80 bin TL): RTX 4090 24GB veya 2× RTX 3090 48GB → 30-70B quantized rahat, 120B MoE tight → 80-150+ tok/s
Üst seviye (~100-200 bin TL+): RTX 5090 32GB GDDR7 veya dual 5090 → 70B+ quantized çok hızlı, 100-200B MoE mümkün → 150-250+ tok/s (Blackwell ile en hızlı tüketici)
Verimlilik / Büyük context (~150 bin TL+): Mac Studio M4 Ultra (128-192 GB unified) → 70B-235B quantized, çok uzun context (1M+) → 50-120 tok/s (sessiz, az elektrik)
Türkçe
