Show HN: Maple – Sub-2-BPW Moe Pruning ile Gemma 4 26B'yi 6GB GPU'da 45 TPS'de Çalıştırma
Görsel işlemcilerde (GPU) büyük dil modellerinin (LLM) verimliliğini artıran bir teknik.
Hacker News paylaşan: AmSach
Hacker News paylaşım tarihi:
Görsel işlemcilerde (GPU) büyük dil modellerinin (LLM) verimliliğini artıran bir teknik.
Hacker News paylaşan: AmSach
Hacker News paylaşım tarihi: