
“P800依然在百度里面得到了充分考证www.kaiyun.com,咱们当前绝大多量的推理任务跑在P800上。”11月13日的百度天下大会上,百度集团实行副总裁、百度智能云职业群总裁沈抖袒露了百度自研芯片在公司里面的操苟且况,并称将来5年昆仑芯每年王人会推出新产物。
P800是百度自研芯片业务昆仑芯的第三代芯片。本年9月,市集有传奇称百度已开动使用自主想象的芯片P800测验新版文心一言(Ernie)AI 模子。在该音问刺激下,百度股价大涨超10%,创下2024年10月以来新高。但那时百度并未复兴。
除了推理任务,沈抖当天还显现自研芯片在模子测验方面的露出。他暗示,百度依然基于一个P800的5000卡单一集群,高性价比地测验出了一个多模态模子;当前测验集群依然膨胀到万卡以上,而况正在测验更大的模子。
不单百度里面,昆仑芯也在互联网金融、动力制造、交通和教育等行业落地。沈抖先容,昆仑芯已有包括招商银行、南边电网、祯祥汽车、Vivo,以及一家互联网大厂和一家超头部运营商等上百家客户,录用限度从几十卡到万卡以上。
百度自研芯片最早追忆到2011年,那时主若是为了深度学习运算的需要。直到2021年,昆仑芯业务独处为“昆仑芯(北京)科技有限公司”,并完成融资。该公司最新一轮融资于本年7月完成,投资方包括上河动量基金、山证投资、国新老本等,天眼查骄横百度持股比例为59.45%。
在专揽方面,本年上半年,百度曾显现顺利点亮国内自研P800万卡集群,可同期承载多个千亿参数大模子测验。8月时,基于昆仑芯的AI工作产物中标中国挪动十亿级集采技俩,为其提供AI通用计算推理型开荒,这亦然国产AI芯片在大型基础武艺技俩中的一次冲破。
百度当天显现了下一代自研芯片的时刻表。其中,昆仑芯M100 针对大限度推理场景优化想象,将于2026年上市;昆仑芯M300面向超大限度多模态模子的测验和推理需求,将于2027年上市。
单颗芯片的雄伟仅仅一个时刻要求,当前大模子的测验和推理王人是多颗芯片协同职责,尤其在当前流行的MoE架构下,卡和卡之间的通讯量会急剧加多,需要把几十张几百张卡构成一个超节点,让这些卡像一个超等芯片相通精细聚会在沿途,大幅度提高卡间的通讯。但“超节点”有蓄意老到AI infra厂商在芯片、内存、通讯、供电、冷却上的全栈协同才略。
当天百度还发布了基于昆仑芯的天池256超节点与天池512超节点,二者将永诀在来岁上半年和下半年素雅上市。其中对比同等卡数的P800集群,天池256超节点在主流大模子的推理任务上,单卡糊涂晋升逾越3.5倍;单个天池512超节点简略完成万亿参数模子测验。
此外,据记者了解,基于百度新发布的昆仑芯M系列,百度也在研发千卡级别的超节点。从2027年开动,百度还将链接推出相应的千卡和4000卡的超节点。松手记者发稿,当天百度港股股价涨超1.27%至127.8港元。
举报 第一财经告白合营,请点击这里此骨子为第一财经原创,著述权归第一财经通盘。未经第一财经籍面授权,不得以任何神色加以使用,包括转载、摘编、复制或竖立镜像。第一财经保留素雅侵权者法律包袱的权益。如需得到授权请筹办第一财经版权部:banquan@yicai.com 文章作家
刘佳
联系阅读
生成式引擎“杀入”电商,双 11 品牌开抢大模子说话权品牌在争夺AI“保举位”,大模子也鄙人场“上联络”.
6 185 昨天 17:21
百度第二次作念AI眼镜,售价逾越2000元巨头们百镜大战,争夺的是下一代东说念主机交互的进口主导权。
458 11-10 19:47
文远、小马世纪妥协:敲钟现场抓手,然后双双破发Robotaxi蛋糕还需进一步作念大。
183 11-06 17:06
AI进化速递 | 马斯克推出AI百科全书Grokipedia百度AI眼镜行将预售;MiniMax发布Hailuo 2.3视频生成模子;马斯克推出AI剪辑的在线百科全书。
89 10-28 20:46
AI周报 | 英伟达中国市集份额从95%降到0% ;OpenAI被曝8亿活跃用户惟有5%付费百度入局AI短剧;寒武纪前三个季度净利润16亿元www.kaiyun.com。
247 10-19 07:58 一财最热 点击关闭