11月4日,AI芯片公司SambaNova宣布与服务器厂商超微(Supermicro,纳斯达克代码SMCI)达成战略合作,双方将共同打造AI推理系统,初期规划部署1万颗SambaNova SN50芯片。这套系统把英伟达GPU与SambaNova的专用推理芯片结合起来,分工处理大模型推理的不同阶段,瞄准的正是增长迅速的智能体AI推理市场。
GPU读提示词,RDU写回答
根据双方公布的合作内容,超微将把SambaNova的SN50芯片集成进其AI解耦推理系统,并纳入超微的数据中心构建模块解决方案(DCBBS)产品线。系统采用异构架构:英伟达GPU负责推理的第一阶段,即处理用户输入的提示词;SambaNova SN50则负责第二阶段,即逐词生成回答。超微将负责系统的集成、测试、交付与售后支持,包括上门服务;SambaNova的工程师则协助客户在SN50上部署和调优模型。合作初期面向NeoCloud(以AI为核心的新兴云服务商)与主权云,随后扩展到自建数据中心的企业客户。
SambaNova联合创始人兼首席执行官罗德里戈·梁(Rodrigo Liang)表示,智能体AI是推理的下一波浪潮,它必须无处不在;如今客户可以从信赖的合作伙伴那里,与GPU一起订购SN50芯片。超微总裁兼首席执行官梁见后(Charles Liang)则表示,这次合作通过把GPU算力与专用推理加速结合起来的异构架构,扩展了超微DCBBS产品线,帮助客户部署高效、可扩展的AI解决方案。
SN50是什么
SN50是SambaNova第五代可重构数据流单元(RDU),于2026年2月发布,专为大模型推理设计。SambaNova称,这款芯片可以在不要求极端机架功率密度的情况下,以高吞吐量服务最大规模的模型,因此适合在现有数据中心部署。按SambaRack SN50单机架16颗芯片计算,1万颗芯片约相当于625个机架,机架平均功耗约20千瓦。
不过,双方并未公布这套组合系统的实测性能、功耗与延迟数据,也没有透露具体的服务器配置、GPU型号、定价与交付时间表。1万颗目前只是初期规划数字,而非已确认的采购订单,后续兑现情况仍需观察。
背景:推理成为AI算力新战场
大模型应用的重心正从训练转向大规模推理,而智能体AI的兴起让推理需求进一步放大。SambaNova指出,智能体大部分时间都花在生成回答的解码阶段,这正是SN50这类专用推理芯片想要接手的环节。把不同芯片用在各自最擅长的推理阶段上,正在成为行业的一条新思路:同一天,AMD也与韩国FuriosaAI等公司宣布合作,共建结合CPU、GPU、NPU与DPU的异构AI基础设施。
对SambaNova而言,这次合作之前已有不少铺垫。甲骨文在10月27日的AI World大会上宣布,将把SN50芯片引入其云数据中心;SambaNova今年7月完成了10亿美元融资的首轮交割,估值110亿美元;摩根大通正在部署SN40与SN50系统用于本地推理;公司还与英特尔开展了异构推理方面的合作。
影响与展望
对超微来说,在GPU供应紧张、推理需求上升的背景下,引入专用推理芯片可以补强其AI服务器产品线,让客户在同一家供应商处配齐推理所需的两种算力。对SambaNova来说,借助超微遍布全球的渠道与交付能力,SN50有望触达更多客户;公司预计,这次合作能在2027年带来比独自推进多得多的高性能推理产能。
对整个行业而言,GPU加专用芯片的分工模式,有可能成为推理基础设施的一条主流路线。但这条路线能否跑通,还要看几个关键节点:组合系统的机架规格与实测数据、首批NeoCloud与主权云客户的落地情况,以及1万颗芯片的规划何时转化为真实订单与收入。在此之前,它更像一次方向明确的下注,而非已经兑现的产能。