【闪迪CTO称“拼内存”时代开启】近日，闪迪首席技术官阿尔珀·伊尔克巴哈尔表示，随着AI大模型、KV缓存（键值缓存）以及专家混合模型（MoE）等技术的发展，全球AI竞赛正日益“以内存为中心”。客户争相签署长期采购协议的力度，前所未见。 阿尔珀指出，当前AI领域的多个趋势都在将内存推向前所未有的关键位置。 首先，大语言模型变得更大、更智能，运行它们需要显著增加内存容量。其次，像OpenAI的ChatGPT、谷歌的Gemini和Anthropic的Claude这类系统，正越来越依赖所谓的KV缓存。同时，正逐步成为行业主流的“专家混合模型”——在一个大模型内部集成多个小型专家模型，仅针对特定请求调用所需部分——虽然节省了算力，却也带来了更高的内存需求。
