# Llama\-modchip: 284B DeepSeek, 64GB RAM üzerinde, GPU olmadan

- HackerByte sayfası: <https://hackerbyte.net/tr/stories/gpu-gerektirmeden-standart-64gb-ram-e-sahip-bir-bilgisayarda-284-milyar-parametr-50411961>
- Orijinal kaynak: <https://github.com/synchopate/llama-modchip>
- Hacker News tartışması: <https://news.ycombinator.com/item?id=50411961>
- Hacker News paylaşım tarihi: 2026-11-08T10:22:04.000Z

GPU gerektirmeden, standart 64GB RAM'e sahip bir bilgisayarda 284 milyar parametreli DeepSeek LLM modelini çalıştırmayı sağlayan bir proje.

## Yapay zekâ özeti

llama\-modchip, 284 milyar parametreye sahip DeepSeek\-V4\-Flash ve 30 milyar parametreli MoE modellerini, GPU'ya ihtiyaç duymadan saf 64 GB sistem RAM'inde 256K bağlam uzunluğunda çalıştırmayı sağlayan bir optimizasyon projesidir. Proje, özel kuantizasyon teknikleri ve çekirdek yamaları ile model boyutunu küçültüp performansı artırarak bu büyük modelleri daha erişilebilir hale getiriyor.

## Önemli noktalar

- DeepSeek\-V4\-Flash 284B modelini 64 GB RAM'e sığdırmak için kuantizasyon oranı 1.71 bpw'ye düşürüldü.
- Performansı %77'ye kadar artıran CPU ön doldurma \(prefill\) ve %53'e kadar hızlandıran kod çözme \(decode\) için çekirdek yamaları.
- Anında ajan bağlamı geri yüklemesi için kendi kendine spekülatif drafting özelliği.
- Model, 16 ila 128 GB RAM'e sahip çeşitli donanım sınıfları için optimize edilmiştir.
- Windows, macOS, Linux ve ARM64 platformlarında çalışabilir, GPU gerektirmez.