KV Cache被压成常数!OCR开源新王:页数没上限,缓存砍96%
要点导读
- KV Cache压缩为常数
- OCR页数无上限
- 缓存减少96%
内容摘要
OCR 3.0时代到来,KV Cache被压缩为常数,页数无上限,缓存减少96%。
阅读原文
原文来源:量子位(qbitai.com)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。
OCR 3.0时代到来,KV Cache被压缩为常数,页数无上限,缓存减少96%。
原文来源:量子位(qbitai.com)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。