“龙虾”之后,AI圈又流行“养马”了,但底层算力谁来撑着? 前阵子全网跟风"养

黑科技就在身边 2026-05-18 19:35:15

“龙虾”之后,AI圈又流行“养马”了,但底层算力谁来撑着? 前阵子全网跟风"养虾",也就是部署OpenClaw智能体,最热的时候,300多人排队等安装,上门费都要500块。现在风头又转了,"养马"成了新顶流,Hermes Agent上线两个月GitHub星标破11万,“虾”也好“马”也好,其实都代表了一件事,那就是AI正在全速迈向智能体时代。 但智能体时代,对于底层算力的要求更加苛刻了,多轮交互、高并发、低时延,不是随便堆几张卡就能撑住的。4月份DeepSeek V4发布,原生支持百万token上下文,把算力压力直接拉到新高度。公开信息显示,DeepSeek V4-Flash在昇腾超节点上甚至实现了低于10毫秒的推理延迟,也激发了国产芯片和模型协同的热潮。 如果说芯片是昇腾的“心脏”,那么CANN就是昇腾的 “灵魂”。事实上,昇腾异构计算架构CANN,也经历了“脱胎换骨”的改造,2025年CANN全面开源开放,华为将原来像麻花团一样团在一起的东西,一块一块结构化的拆开,每一块的能力对外都方便地让人看得到,编程的时候调用到,并且代码全部开源。CANN从一个高效但封闭的黑盒,变成了一个透明、可插拔、可参与的乐高积木。 对于开发者而言,它变得非常易用、好用。日前,在"鲲鹏昇腾创享月"直播中,华为昇腾技术专家团带来了CANN的使用分享。总共有三招: 第一招:极速部署,20分钟搭好环境。 CANN提供Yum、Conda、Run包三种标准化安装方式,可根据芯片型号、系统版本自动匹配。以Run包为例,驱动和Toolkit合并成一个包,一条命令搞定,OPS算子包单独装。过去动辄几小时的部署,现在20-30分钟完事。新手也能快速搭建好开发环境,告别复杂依赖与报错难题。 第二招:开箱即用,免费算力直接开放。个人开发者、学生无需购买昂贵的NPU加速卡,打开浏览器就能直接使用昇腾社区提供的云端免费算力。平台内置WebIDE、编译、调试、性能分析等一站式工具,真正实现零硬件、零部署、零成本上手开发。 第三招:开发进化,CANN全面支持Python风格编程,同时兼容Triton等多种DSL简易开发方式。即使非科班也能上手,轻松编写算子、运行模型、优化性能,让更多开发者无障碍参与到大模型与AI应用开发中来。还有CANN Bot Skills,可接入大模型,用Agent辅助生成算子架构。编译也简化了,以前写一堆配置调半天参数,现在一条命令搞定。 “环境已经不再是门槛,想法才是。”CANN做的事就是:把路铺好,让开发者专注想法,让大模型落地更简单、更普惠。

0 阅读:0
黑科技就在身边

黑科技就在身边

感谢大家的关注