AI发展进入加速阶段,“打破内存墙”成为确定的技术趋势:1)在训练侧,CheckPoint可以保障模型训练的可持续性,却因低速存入造成算力闲置;2)在推理侧,影响计算效率的核心是访存,提高访存效率极为关键。全球持续探索“打破内存墙”技术路径,目前主要分为算法压缩、存内计算/存算一体、系统级互连与池化、以存换算等不同技术路径;伴随内存技术升级,AI训练端和推理端或迎来加速发展,推理端的快速成长有望进一步显著提升内存需求。
AI发展进入加速阶段,“打破内存墙”成为确定的技术趋势:1)在训练侧,Check
一哥柚子之旅
2026-03-29 15:42:52
0
阅读:1