HackerByte

JustFit: Qwen 27B'yi 24 GB Mac'te tam 256K bağlamıyla hızlı çalıştırın

Qwen 27B dil modelini düşük bellekli bir sistemde (24 GB Mac) hızlı bir şekilde çalıştırmayı sağlayan bir optimizasyon aracı.

Hacker News paylaşan: yuhuabill

Hacker News paylaşım tarihi:

Orijinal kaynak Hacker News tartışması