HackerByte

Show HN: Maple – 6GB Laptop GPU'da Gemma 4 26B modelini 45 TPS ile (Sub-2-BPW) çalıştırma

Düşük VRAM'e sahip dizüstü bilgisayar GPU'larında gelişmiş AI modellerini (Gemma 4 26B) verimli bir şekilde çalıştırmayı sağlayan bir teknik.

Hacker News paylaşan: AmSach

Hacker News paylaşım tarihi:

Orijinal kaynak Hacker News tartışması