HackerByte

Show HN: Maple – Sub-2-BPW Moe Pruning ile Gemma 4 26B'yi 6GB GPU'da 45 TPS'de Çalıştırma

Görsel işlemcilerde (GPU) büyük dil modellerinin (LLM) verimliliğini artıran bir teknik.

Hacker News paylaşan: AmSach

Hacker News paylaşım tarihi:

Orijinal kaynak Hacker News tartışması