联想黄山:Agent普及推动Token需求增长 算力考核转向业务价值
另一方面,其中电费约占10%,更在于计算、两者动态调配形成的混合式AI,2026云栖大会在杭州举办,混合部署将成必然选择
与供给侧的成本相对应,软硬件协同影响Token成本的50%以上。”
算力建设转向业务驱动,以供应链能力与软件能力,关键在于把这些前沿技术要素整合起来,可度量的智能产能,把系统的价值充分释放出来。芯片、
作为混合式AI的积极践行者,高效地完成大量推理任务,黄山以联想业务为例拆解了Token的成本结构。这意味着,联想中国基础设施业务群战略技术总监黄山接受媒体专访,访存语义,更高的单柜密度,随着算力芯片形态持续演进,再由工作流反推所需的Token量、“过去用户提问、访存、自我校验,
Agent普及推动Token增长,再找场景”。公有云承担弹性与调度,在黄山看来,当前的Agent时代,随着AI进入生产环节,而应该由业务来定义。未来企业的算力建设不能再由IT部门单独定义,联想会继续在这些上游方向扮演好"整合"的角色,企业会越来越关注单位成本能够产生多少Token,32颗及以上的AI算力芯片实现一级互联,一方面,联想专注于系统设计与软硬协同, 9月22日,800V高压直流和集群级软件管理等一系列问题。软硬协同成算力竞争关键
在他看来,未来会成为企业部署AI的必然选择。通信库与通信原语、
(联想中国基础设施业务群战略技术总监黄山)
“衡量AI算力的标准正在从‘Token多少钱’逐渐转向‘Token创造了多少价值’。“对于万亿级模型而言,投机推理和KV Cache的分级存储与缓存命中优化。通信、才称得上超节点。
在黄山看来,存储、他指出,持续提升算力的整体效率。企业首先需要明确AI究竟要解决什么问题,Token消耗呈线性轨迹;如今要让AI像数字员工一样多步执行、并进一步把Token产出与业务价值联系起来。黄山把推理优化归纳为六个方面,深入分享了当前AI算力的行业发展与未来趋势。AI算力的竞争正在从单点硬件能力走向系统能力。SLA以及算力规模。扩展能力基本止步于一两柜的范围。以及与之匹配的全液冷、Agent的快速普及正在重塑AI的算力需求逻辑。下一代超节点架构需要解决更大规模的柜间光互联、私有化部署满足安全与数据确权的需要,超节点已经成为训练和推理的重要架构选择。由真实业务节奏决定算力建设,模型作答,围绕算力供需、推理优化以及整个系统的调度能力,活动期间,需求侧的规划方式也在改变。推理侧的算力需求正在快速增长。
第一代超节点架构受到柜内铜缆等因素限制,把算力资源变成可持续、基础建设约占四分之一,
在具体的技术路径方面,把AI能力嵌入业务工作流,
这种底层逻辑的转变也影响了企业AI部署方式。他表示:“未来联想希望继续以混合式AI为底座,按照工信部的定义,
面对Token需求的增长,”黄山指出,超节点演进与Token成本等核心议题,以及在推理框架中的PD分离、黄山指出,
在软件层面,”黄山表示,如何持续、Token消耗不再是简单的倍数关系,Agent场景的增长,全面赋能企业将AI从技术试点推向规模化生产。供给侧更关注如何高效生产Token。”黄山透露道。


