我之前聊过端侧AI的需求正在大爆发,不光是智驾,还有具身,甚至很多人没想到,沉寂了多年的座舱也有需求。我知道的,有巨头在试水几十B的座舱大模型,起码行业马上要大量上的座舱模型就在4B左右,跟着高通8797。
这个背景下,优质的大算力AI芯片真得很稀缺,尤其是满足“架构领先、算力高、能耗控制优”这几个条件的。有家之前进入低谷的芯片公司,就是靠这个占位绝地逆袭,融了一大笔钱。最近,黑芝麻智能的旗舰芯片华山A2000要推出,又是一个命中行业需求的产品。
看下来,A2000核心的竞争力,在于其自研的“九韶”NPU架构。这与业界常见的”多核拼接"路线不同,九韶采用了物理Unique AI运算设计,标量、向量、张量运算和非计算类加速器统一在近存计算的框架之下,各单元之间没有核间调度及同步的开销。这意味着面对参数量日益膨胀的各种端侧大模型,A2000会更有效率优势。就可以说,这是一款更成熟和正统的端侧AI芯片。
在能效与带宽优化上,我得到消息是也相当不错,后续应该会有具体数据披露。
在精度支持方面,A2000支持INT4/INT8/FP8/FP16/FP32混合精度计算。尤其值得强调的是,FP16模型无需量化即可直接部署运行,这在国产芯片中还是不多见的。同时,九韶NPU集成了针对Transformer的硬件加速单元,大幅简化了开发者在量化和部署环节的工作。
今天几个智驾头部公司, 都倾向于搞软硬一体,这让纯算法公司其实都没有安全感,但是这些算法公司,都有各自独特的竞争力,他们也在寻找一些占位更独立的国产芯片,这种行业窗口+技术能力,会是黑芝麻接下来在智驾领域的新机会。
在具身智能领域,黑芝麻也在快速做拓展。目前,黑芝麻智能已与傅利叶等机器人企业及武汉大学院士团队在灵巧手与人形机器人领域达成合作。现在A2000出来后,又是一个利器,这款芯片支持多模态大模型,具备视觉、文本等多类型数据输入以及自然语言对话与生成任务代码能力,能够进一步满足机器人“大小脑”的算力需求。
最近看了太多创业项目的融资历程,经历过23、24年那波低谷,走到今天,不管是团队心态还是能力,都已经变得格外强,就是在等一个产业窗口了。目前看,显然大家都等到了。