第A05版:焦点·算力机遇期 上一版  下一版
 
标题导航
首页 | 电子报首页 | 版面导航 | 标题导航
2026年11月18日 星期三 上一期  下一期
上一篇  下一篇 放大 缩小 默认
推理算力是奔涌不息的河流
硅基流动创始人袁进辉:
AI基础设施迎来“生逢其时”窗口
● 本报记者 杨洁

  ● 本报记者 杨洁
  
  “如果说,训练大模型对算力的需求是个泳池,那么做模型推理服务所需要的算力则是条河流,它没有明确‘边界’,奔涌不息。”北京硅基流动科技股份有限公司创始人、CEO袁进辉在接受中国证券报记者专访时这样形容眼前的形势:智能体的规模化应用,正在改变算力需求的增长动力,模型一旦进入日常使用,Token(词元)日复一日消耗,推理算力的需求就停不下来,用于训练的算力反而是阶段性的。在他看来,推理算力的供需曲线至今仍然陡峭,“供不应求的态势大概率还要维持两三年”。
  这正是硅基流动所站的位置——做芯片、模型和应用之间的AI基础设施,把分散、异构的算力适配、编排成标准化Token服务,让用户更好地把模型用起来。目前其平台单日峰值Token吞吐已进入万亿量级,注册用户超过1000万,服务了超10000家企业客户。2026年6月,成立仅34个月的硅基流动向港交所递交上市申请,冲刺“AI Token工厂第一股”。
  专注AI基础设施
  袁进辉师从我国人工智能领域奠基人之一的张钹院士,是AI领域的“老兵”。在清华大学计算机系读博期间,袁进辉主要做算法相关研究,而在微软亚洲研究院的那些年,也正是全球算法研究领域风起云涌、明星辈出的阶段。但他后来的两次创业,却完全转向了AI Infra(人工智能基础设施)系统层方向。这个转向,既基于对自我优势的清醒认知,也潜藏着实现行业“影响力”的追求。
  “做算法,灵感和运气非常重要;做系统软件,更重要的是耐心,要想看到最终效果,就得靠日积月累写代码。”袁进辉对自己的判断很直白,他觉得自己在算法上冲到最顶尖把握不大,于是选了攻坚系统层。同时,他认为,两者形成壁垒的方式也有差别,系统层有无穷的工程细节,这种积累在商业上更容易形成护城河。
  这是他十年前第一次创业做OneFlow的出发点。袁进辉的判断是,模型会越做越大,走向超大规模,现有框架支撑不住,必须重构底层架构。然而2016年,主流模型都还停留在千万级参数规模,国内很少有人相信大模型有一天会变得巨大。OneFlow创立后最早实现“让分布式多机多卡训练大模型像使用单卡一样简单”,这套理念后来被PyTorch等主流框架跟进。但OneFlow并没有走完商业闭环,2023年先被王慧文的光年之外收购,随后又并入了美团。
  一年之中经历两次并购,不少企业向袁进辉抛出橄榄枝,但一丝不甘最终还是把他推回创业之路。袁进辉的遗憾在于:“虽然OneFlow被并购也算对投资人有所交代,但并没有走完独立的商业闭环,相当于我们很早就看见模型进化的趋势,也为此‘磨了刀’,但刀却没有直接砍向果实。”
  2023年8月硅基流动成立,第二次出发,袁进辉瞄准了推理赛道,同时也吸取了上一段创业的经验:“第一次创业,是先从idea出发,做出技术产品,再去找市场;第二次创业,我们决定先从市场需求出发,再反推我们的优势。”他算了一道数学题认为,训练的算力用量有阶段性、有边界,但推理的用量没有边界。同时,他看到国内“百模大战”正酣,已经不缺一家大模型公司,缺的是让模型被用起来的中间层,“硅基流动要解决的,是怎么让终端场景和用户更好地把模型用起来的问题”。
  复盘两次创业,采访中,袁进辉多次谈到战略判断的时机和节奏。OneFlow的方向没错,但早了行业需求好几年,可能“生不逢时”;这一轮硅基流动选择做推理基础设施,恰好“生逢其时”,需求的潮水恰好在身后涨了起来——模型落地、应用铺开,推理算力的需求跟着爆发。国家数据局数据显示,今年3月,我国日均Token调用量突破140万亿,较2024年初增长超千倍。前一次磨过的“刀”,这一次真正“切”到了市场推进的节奏上。
  在芯片、模型、应用之间架桥
  硅基流动被全行业看见,是在2025年春节。DeepSeek V3开源后迅速发酵,全网算力告急。硅基流动联手华为,把DeepSeek V3大规模部署在昇腾910B上。“我们春节没放假,初三就把服务上线,大量用户一下子涌了进来,这是全行业第一个在国产芯片上这么大规模地跑大模型的案例。”袁进辉说。
  外界看到的是硅基流动一炮打响,但看不见的是在机会来临前的研判和投入。袁进辉回忆,2024年DeepSeek发过V2和V2.5两版模型,当时并未引发太多关注,只是有不少开发者反馈编程方面不错。“我们觉得值得研究,花了好几个月来回沟通把架构搞通。正是当时的适配过程,让硅基流动团队能够在2025年DeepSeek V3发布后快速完成适配。”
  袁进辉表示,华为当时还有很多算力闲置,也非常希望把国产卡更好地用起来,因此双方在关键窗口期“一拍即合”。在此之前,国产算力还没有在推理场景大规模跑通。硅基流动率先上线了基于昇腾云CloudMatrix超节点服务的DeepSeek-R1推理服务,一下子把几十万卡给激活了,使用大规模专家并行方案,通过多专家负载均衡和通信优化,实现高吞吐及更高性能。
  袁进辉表示,国产算力芯片的主要差距体现在生产制造和软件生态两个层面,“生产制造决定的是物理表现天花板,就像马路修多宽,是四车道还是八车道,决定了能并排开几辆车;而马路上的车流量怎么样、大家是不是开得又快又稳又安全,要借助交通指挥软件的协同指挥。”他坦言,当前国产算力芯片在访存速度上的确存在差距,会影响“吐字速度”。目前,硅基流动和业界合作伙伴联合通过异构混布的方式,尽可能实现使用效率和用户体验的提升,“通过系统软件把不同性能的芯片放到其最合适的位置,用系统问题解决单颗芯片的短板,实现整体效能最大化。”
  把单颗芯片用好之后,下一层问题是解决算力碎片化的挑战。在袁进辉看来,算力网,就是AI时代的“电网时刻”。“电网之所以伟大,不仅仅有主网架,还因为有无数的‘变压器和插座’。‘变压器和插座’主要解决三个痛点:其一,‘插座’不统一,电有220伏标准电压,但算力没有,英伟达、昇腾、沐曦、摩尔线程各有各的软件栈和生态;其二,供需错配,最隐蔽的是架构错配,账面算力够了、集群也点亮了,但真跑目标模型时可能才发现跑不动;其三,计量有了、标准还缺,Token已是公认计量单位,但它只计量数量,品质标准和成本口径都还没有。这几个痛点,需要中间层AI Infra来解决。”
  中间层的意义还体现于在芯片和快速迭代的模型之间进行“弥合”,让算力利用率最大化。袁进辉表示,芯片迭代的节奏比较慢,从设计到量产通常需要一两年,硬件基本定型,但模型和应用的演化非常快,其间差异全靠中间层软件来搞定,“打个比方,芯片就像是一个盒子,形状是固定的,但模型就像是橡皮泥,没有形状,通过软件就能把橡皮泥捏成适合盒子的形状,放进去,把盒子用满。”
  算力供求曲线依然陡峭
  袁进辉把训练的算力需求比作泳池,把推理的算力需求比作河流。根据袁进辉的观察,目前显然处于这条河流的“汛期”。他判断明确,今年整体都供不应求,每家产能都不足。产能建设落地需要时间,最近两三年都会是供需关系主导Token市场价格的情况。
  这样的态势明确体现在硅基流动的招股书上,其平台规模快速扩容:截至2026年4月,平台注册用户突破1028万,日均Token吞吐量达到5785亿,单日峰值超过万亿级别;公有云付费开发者达到71.6万家,专属实例企业客户从2024年的7家增长至2025年的49家,单客户平均收入提升248%。
  “长期来看,伴随模型技术进步,算力产能供给充分,Token价格一定会降下来,让更多人使用,进入规模经济时期,和过去的电、水以及流量资费一样。”袁进辉认为,硅基流动赚取的并非成本的绝对值,而是效率提升的部分,同样的投入产生更多的Token,价值就不随价格波动而转移。
  开放独立是硅基流动从成立起的定位。袁进辉强调,不同于云厂商或模型厂的“全家桶”策略,他们不给客户限制某款芯片、某个模型,算力来源也比较多元化,专注给用户提供“开箱即用”的Token。
  当更多开发者和中小企业更容易地调用模型,当国产芯片的可用性又往前迈了一步,这些真实而又具体的价值,正是袁进辉创业之初想要实现的影响力。人工智能方兴未艾,算力的河流仍在奔涌,他坦言,深处这个行业“没有人不焦虑”,但看长周期、看趋势,焦虑会少一些。没有人能提前画好终点,但“做长期难而正确的事情”,至少提供了方向和锚点。

3 上一篇  下一篇 4 放大 缩小 默认
赞 +1
满意度:
综合得分:
中国证券报社版权所有,未经书面授权不得复制或建立镜像 京ICP证 140145号 京公网安备110102000060-1
Copyright 2001-2010 China Securities Journal. All Rights Reserved