120B parametreli MoE modellerini 16 GB'ın altında, 32 GB M1 Max üzerinde çalıştırdım
Kullanıcı, 32GB M1 Max Mac bilgisayarında 120 milyar parametreli Mixture-of-Experts (MoE) modellerini düşük bellek kullanımıyla çalıştırdığını paylaşıyor.
Hacker News paylaşan: tarassenkov
Hacker News paylaşım tarihi: