# JustVugg/colibri

- HackerByte sayfası: <https://hackerbyte.net/tr/projects/justvugg-colibri-1286080397>
- GitHub: <https://github.com/JustVugg/colibri>
- Programlama dili: C

A hierarchical inference engine for frontier MoE models: hot experts on the GPU \(CUDA, Vulkan\), warm ones in RAM, cold ones streamed from NVMe. Written in C, runs on the hardware you already own.

## Yapay zekâ özeti

Colibri, çok büyük Mixture\-of\-Experts \(MoE\) modellerini, donanımınızın elverdiği ölçüde \(GPU, RAM veya NVMe'den akıtarak\) çalıştırmanıza olanak tanıyan saf C dilinde yazılmış bir çıkarım motorudur. Proje, özellikle mevcut donanımlarla en büyük yapay zeka modellerini erişilebilir kılmayı hedefler.

## Önemli noktalar

- Çeşitli MoE modellerini \(dil, görüntü, karar verme\) destekler.
- Modelleri GPU, RAM ve NVMe arasında hiyerarşik olarak yönetir.
- Saf C ile yazılmıştır ve bağımlılıkları minimumda tutar.
- 8 GB RAM ve 22 GB disk alanı ile başlangıç yapabilir.
- CPU, Vulkan \(çoğu GPU için\) ve CUDA \(NVIDIA\) desteği sunar.