热点从“算力”到“Token 生产力”,硅基流动助力央国企大模型规模化落地

leiphone.com · 发布于 2026-10-23 08:32

在企业网 D1net 主办的 2026 秋季央国企 CIO 及数科公司高管峰会(第 19 届)上,硅基流动解决方案总监唐安波出席峰会并作主题分享:《从“算力”到“Token 生产力”:央国企大模型规模化落地的推理基础设施与 ROI 实践》。以下为分享内容精华。当下,AI 应用正处于爆发式增长的早期阶段,Token 消耗量呈指数级增长。这背后,模型架构持续演进,版本更新节奏快速;同时,算力架构也在不断演进。模型与算力之间,是相互推动的迭代过程。对于企业来说,一方面要适配这些变化,另一方面又要面向自己的业务场景提供多元化模型服务,还要把成本控制在合理范围内。硅基流动在做的事,就是打通从算力到 Token 之间的转化层:把算力统一纳管起来;通过自研推理引擎,让模型跑得更快、更好。我们既在公有云端建设 Token 工厂,也帮助央国企在内部打造自己的 Token 工厂。简言之,通过系统化的推理工程,做好模型与算力的多重适配。基于此,硅基流动提出 Token 生产力核心公式:Token 生产力 = 产能 × 利用率 × 交付质量。其中,产能由芯片硬件能力、模型优化水平共同决定;利用率依靠流量治理与

来源:雷峰网

在企业网 D1net 主办的 2026 秋季央国企 CIO 及数科公司高管峰会(第 19 届)上,硅基流动解决方案总监唐安波出席峰会并作主题分享:《从“算力”到“Token 生产力”:央国企大模型规模化落地的推理基础设施与 ROI 实践》。以下为分享内容精华。当下,AI 应用正处于爆发式增长的早期阶段,Token 消耗量呈指数级增长。这背后,模型架构持续演进,版本更新节奏快速;同时,算力架构也在不断演进。模型与算力之间,是相互推动的迭代过程。对于企业来说,一方面要适配这些变化,另一方面又要面向自己的业务场景提供多元化模型服务,还要把成本控制在合理范围内。硅基流动在做的事,就是打通从算力到 Token 之间的转化层:把算力统一纳管起来;通过自研推理引擎,让模型跑得更快、更好。我们既在公有云端建设 Token 工厂,也帮助央国企在内部打造自己的 Token 工厂。简言之,通过系统化的推理工程,做好模型与算力的多重适配。基于此,硅基流动提出 Token 生产力核心公式:Token 生产力 = 产能 × 利用率 × 交付质量。其中,产能由芯片硬件能力、模型优化水平共同决定;利用率依靠流量治理与