440MB跑大模型？海光这波操作，让手机变翻译神器！兄弟们，今天看到个挺有意思的消息。腾讯刚开源的那个混元Hy-MT2翻译模型，已经被海光的深算DCU给“拿下”了！ 这事儿最让我觉得牛的，不是适配本身，而是这个模型的“体型”。以前咱们聊大模型，动不动就是几百GB的显存占用，那是服务器机房里的事儿。但这次腾讯搞了个极端量化技术，把模型压缩到了440MB！啥概念？就是你现在的手机存储空间稍微腾一腾，就能装下一个专业的多语言翻译AI，而且还能在本地离线跑，不用联网。海光这次的动作很快，直接基于自家的DAS/DTK软件栈完成了深度适配。开发者拿着这个模型，在海光的国产算力平台上几乎是“开箱即用”，不用去改底层代码。对于咱们做边缘计算或者移动端应用的人来说，这绝对是利好。以后出国旅游、看生肉视频，手机本地的AI实时翻译可能比云端还快，关键是数据不出端，隐私更安全。 结合之前和智普、商汤等的适配速度，国产算力和国产模型的联手，确实有点东西！ 科技前沿 海光信息 腾讯混元 AI翻译
