ranxianglei/billion-context
Billion-Context: Uzun Sohbet Oturumları İçin Bağlam Sıkıştırma Eklentisi
A context-compression plugin for month-long single sessions (billions of tokens) ,small context windows (a 100K context is enough) and token savings (5x fewer tokens) .上下文压缩插件，月级长会话会话， 兼顾小窗口(100k上下文足矣)省token(省5倍token) . billion-context is all you need
Yapay zekâ özeti
Billion-context, büyük dil modelleriyle (LLM) çalışırken karşılaşılan bağlam penceresi sınırlamalarını aşmak için tasarlanmış bir eklentidir. Bu araç, konuşma geçmişini sıkıştırarak daha uzun oturumların ve token tasarrufunun önünü açar. Özellikle kodlama ajanları için aylarca sürebilecek tekil oturumlar sunmayı hedefler.
Programlama dili: TypeScript