【小米MiMo-V2.5推理成本暴降99%！全链路优化揭秘：KVCache压缩至1/7】
小米5月30日公布MiMo-V2.5推理系统全栈优化方案，基于Hybrid SWA+MoE+多模态复合架构，重构KVCache管理、分级与前缀缓存、调度策略及Prefill/Decode流程，实现KVCache存储仅达同行约1/7，显著降低长序列推理成本。此前5月27日已对API实施永久降价，最高降幅99%，且不限输入长度。
-----
5月30日，小米正式发布MiMo-V2.5系列模型的推理系统全链路优化成果 。
此次升级并非局部调优，而是以Hybrid SWA（混合软权重平均）、MoE（专家混合）与多模态能力深度融合为底座，对整个推理栈进行系统性重铸 。
从底层KVCache高效压缩与动态分级缓存，到前缀复用机制、智能调度策略，再到Prefill与Decode双阶段协同优化，每一环均针对性突破 。
实测显示，KVCache内存占用压缩至行业同级方案的约七分之一，尤其在万级token长文本场景下，显存压力与计算开销大幅收敛 。
这一技术跃迁直接支撑了5月27日启动的API永久降价——最高降幅达99%，且价格策略完全不依赖输入长度，真正实现普惠式AI服务降本增效 。
科技妈咪烈焰童子说科技先锋官
