关闭广告

百度智能云公布两款自研AI芯片,昆仑芯比外界想象得更有野心

钛媒体APP2025-11-17 12:00:01838人阅读

李彦宏有些无奈。

“过去,AI产业结构像一个正金字塔,最底层的芯片拿到了绝大部分的价值;芯片之上的模型,赚到的钱可能不到芯片的1/10;模型之上的AI应用,又小了一个数量级。”在百度世界大会上,百度创始人李彦宏说道,“这个产业结构是非常不健康的,是不可持续的,因为芯片并不直接产生价值,应用才能够产生价值。”

但更无奈的是,在当前的宏观和产业环境下,要打破这种倒挂结构,要赚模型层或者应用层十倍以及百倍的价值,最好的办法就是把芯片层重新掌握在自己手里。

百度不得不自研芯片。在英伟达的“芯片铁幕”之下,这不是百度一家公司面临的问题,无论是海外厂商如亚马逊、微软、谷歌以及OpenAI,还是国内企业如阿里、华为、腾讯,都不得不启动自研芯片战略。

百度的昆仑芯团队成立于2011年,很早就参与到了AI计算产业的新周期,在大模型时代有了极大的加速,从早年的AlexNet以及更早的语音识别模型,开始用FPGA做计算加速,再到后来的大型推荐系统流行,昆仑芯开始自己做芯片。

2021年,昆仑芯从百度集团拆分,也赶上了大模型萌芽阶段,着手定义面向大模型的新一代芯片,譬如P800。

本次大会上,百度智能云事业群总裁沈抖公布了两款自研AI芯片,昆仑芯M100和M300,以及天池256和512超节点的相关规划。


大模型之后,芯片更简单还是更难?

以前芯片厂商需要面对不同场景、不同数据、不同算法以及不同应用,很难形成规模和系统的迭代。

Transformer的出现统一了模型架构,把输入输出都统一成Token,统一的框架也带来了计算架构的统一,芯片厂商在做芯片时,可以有非常明确的目标,实现极致的性能,并且可以充分利用整个产业链的供给能力,实现更低让成本做的非常低,更好的计算芯片直接推动应用发展,应用繁荣又能够给计算芯片带来更大的规模,产业由此进入正循环。

新技术带来产业的新变化,从技术可行到产业可行,某种程度而言,做一个为当前大模型定向优化的芯片更容易了。

但是,新的挑战在于技术没有边界,应用也没有边界,所有做算力的团队都无法百分百确定,未来大模型乃至AI产业会朝着什么方向发展,典型如Scaling Law,模型参数从百亿、千亿到万亿级模型,大幅推高算力、能源、基础设施成本,应用的生长也几乎不可预测,

这也意味着,面向未来而做的芯片变得更难了。虽然无法精准预测未来,至少可以确定大方向,算力最终绕不开两个根本问题:效率问题与规模问题。

随着大模型应用全面渗透,人均每天的 Token 消耗动辄数万甚至百万级,几年前一张 GPU 每秒只能处理十几个 Token,现在行业都在追求从算力卡中榨出更多的tokens,直接关乎最企业终的竞争力。

例如降低计算精度:从 BF16 到 FP8、FP4,通过牺牲冗余精度换取数倍算力提升,每一次精度下降,对应算力倍数提升;再如,模型训练方式在变,芯片架构也必须跟着变,不断针对模型架构上优化整个芯片的PPA。

如今做芯片,已经不能只做芯片,系统才是把算力真正释放出来的关键环节,超节点就是一个实证。超节点不是新概念,但在大模型时代终于找到了“刚需场景”。服务器内联数十甚至上百张卡,再到未来的千节点互联,相比单机单卡,这类系统能带来量级上的成本下降。

效率问题人人都能理解,而规模问题只有足够大的规模才能真正感受到。从千卡到几万卡,再到未来可能出现的百万卡集群,系统会在某些阈值上发生“质变”,成百上千的隐性问题会同时涌现。

例如稳定性急剧下降,在千卡规模下,98%的稳定性还能接受;但到了万卡,这个数字会指数式下跌,任何节点的波动都会被放大成系统级故障。训练的精度也难以保障,大量微小差异会在长时间训练后,可能累积成最终精度的大幅偏差,而这样的验证往往需要 2~3 个月,是极其昂贵的学习成本。

当 AI 应用以指数方式增长,算力不再是简单的“堆卡”,而是站上了一条新的工程学和科学探索路线。

昆仑芯的路线

过去几年,昆仑芯已经量产了三代,第一代更多部署在百度内部的数据中心,第二代开始面向市场全面开放,如今已有大量企业用户在大规模使用,第三代则赶上了大模型时代的浪潮,无论推理还是训练,都在互联网、运营商、金融、能源等行业得到了广泛落地。

据悉,目前百度内部绝大多数的大模型推理任务,都由昆仑芯P800支持,百度还基于P800的5000卡单一集群,高性价比地训练出了领先的多模态模型,目前该训练集群已经扩展到万卡以上,可用于训练更大规模的模型。

在本次大会上,M100 与 M300 系列正式亮相。M100针对大规模推理场景做了优化,同时也是一颗全能型芯片,MoE模型的推理性能大幅提升,将在2026年初正式上市。

M300 定位高端,兼具强推理与强训练能力,针对超大规模的多模态模型的训练和推理任务做了深入优化,将于2027年初正式上市。

昆仑芯的软件栈高度兼容主流 CUDA 生态,从编程语法到深度学习框架,都能无缝适配。据透露,昆仑芯的客户不局限于互联网产业,从电信运营商的核心系统,再到能源、电力、金融等行业,都已经有落地项目。

不止是在百度内部广泛使用,昆仑芯也在互联网、金融、能源、制造、交通和教育等多个行业落地,包括招商银行、南方电网、中国钢研、国家管网、吉利汽车以及国内头部互联网大厂和运营商等上百家客户,交付规模从几十卡到数万卡。

沈抖现场也表示, 单芯片的强大是基础条件,现在的大模型训练和推理都不是一颗芯片能完成的,而是多颗芯片协同工作,尤其在MoE模型上,卡与卡之间的通信量急剧增加,需要把几十张、上百张卡组成一个超节点,让它们像“一颗超级芯片”一样紧密连接,大幅提升卡间通信效率。

“超节点”方案非常考验AI infra厂商在芯片、内存、通信、供电、冷却上的全栈协同能力。

2025年4月,百度基于昆仑芯P800上市了32卡和64卡的超节点,在现有超节点的基础上,天池256将256张P800放到同一个节点内,相比4月发布的超节点,单实例的卡间互联总带宽提升4倍,性能提升50%以上。

对比同等卡数的P800集群,天池256超节点在主流大模型的推理任务上,单卡吞吐提升超过3.5倍。

天池512同样基于P800,它在天池256基础上,卡数翻倍,卡间互联总带宽也再翻一倍,单个天池512超节点,就能完成万亿参数模型的训练,这两款超节点产品,将分别在明年上半年和下半年正式上市。

另外,百度也在基于新发布的昆仑芯M系列研发千卡级别的超节点,从27年下半年开始,将陆续推出相应的千卡、四千卡超节点。“未来5年,昆仑芯每年都会推出新产品”,沈抖表示。 (本文作者 | 张帅,编辑 | 盖虹达)

更多对全球市场、跨国公司和中国经济的深度分析与独家洞察,欢迎访问 Barron's巴伦中文网官方网站

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

谁将是下一个劈开海外万亿市场的中国黑马?

虎嗅APP 浏览 197 10-13

HMD Nighthawk 手机规格曝光:1.08 亿主摄、4900mAh 电池

IT之家 浏览 16273 06-25

汪小菲又幸福了!和马筱梅搂腰拥抱好缠绵

疯说时尚 浏览 187 10-19

消息称三星下半年推出Vision Pro竞品,搭载XR2 Plus Gen 2

IT之家 浏览 15473 01-08

“打飞的”半小时畅飞长三角,低空经济“飞入”进博会|聚焦2025进博会

华夏时报 浏览 286 11-09

6岁女童练习"下腰"致截瘫 经营者曾因逃避执行被刑拘

红星新闻 浏览 89 01-02

中信建投:多城放松楼市限政 其他一线城市有望跟进

观点机构 浏览 2656 02-02

宝刀不老,34岁加纳老将乔丹-阿尤献7球7助攻率队直通世界杯

懂球帝 浏览 163 10-13

毛茸茸的冬天,毛孩子们都在想什么?

时尚COSMO 浏览 140 11-30

周末超重磅!特朗普关税突发,ETF净流出近2000亿,央广网:降温不是熄火

看财经show 浏览 56 01-19

抛弃糟糠之妻和6岁儿子,李成儒后悔吗

白面书誏 浏览 146 10-24

被生活锤老实了,他们不再跟着吴京嗷嗷叫

老萧杂说 浏览 58 01-23

8699元学习机成“大板砖”!维修要2499元,家长:交了智商税

北京商报 浏览 260 10-20

与孙继海翻脸!董路:我的对手们甘愿被当枪使,自降身价智商全无

念洲 浏览 93 12-19

鸿蒙智行发布“性能车”预告图,对手锁定小米SU7!

汽车消费网 浏览 52 01-20

偶像的力量!锡安:普尔最爱艾弗森 他的突破有AI的影子

仰卧撑FTUer 浏览 183 10-24

凌晨4点利物浦保卫战!输球=英超5连败+72年之耻 标王缺席

叶青足球世界 浏览 143 11-01

中国对稀土相关技术实施出口管制

财联社 浏览 163 10-09

章子怡带娃参加《酱园弄》杀青宴,贴心亲吻儿子,4岁儿子皮肤白

缘木不求娱 浏览 2726 04-25

以无人机黎巴嫩南部炸死真主党要员 爆炸瞬间腾起浓烟

新京报 浏览 168 10-08

"30年老公厕"被改成咖啡店后又遭封 当地城管部门回应

封面新闻 浏览 168 10-23
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备2023013132号-2