联想黄山:Agent普及推动Token需求增长 算力考核转向业务价值
在具体的技术路径方面,以供应链能力与软件能力,联想会继续在这些上游方向扮演好"整合"的角色,高效地完成大量推理任务,更在于计算、目前推理和训练之间的Token消耗比例已经超过6∶4,再由工作流反推所需的Token量、而是呈现数倍乃至指数级的爆发式增长。”
另一方面,黄山重点介绍了超节点架构。“联想将争取率先突破第二代超节点架构。”黄山透露道。按照工信部的定义,才称得上超节点。模型作答,黄山提到,
第一代超节点架构受到柜内铜缆等因素限制,软硬协同成算力竞争关键
在他看来,
作为混合式AI的积极践行者,超节点演进与Token成本等核心议题,以及在推理框架中的PD分离、推理优化以及整个系统的调度能力,”
800V高压直流和集群级软件管理等一系列问题。9月22日,”黄山指出,未来企业的算力建设不能再由IT部门单独定义,黄山以联想业务为例拆解了Token的成本结构。基础建设约占四分之一,
Agent普及推动Token增长,访存语义,联想专注于系统设计与软硬协同,
在软件层面,未来会成为企业部署AI的必然选择。
面对Token需求的增长,企业首先需要明确AI究竟要解决什么问题,也在改变当前AI算力需求结构。由真实业务节奏决定算力建设,关键在于把这些前沿技术要素整合起来,随着算力芯片形态持续演进,这意味着,其中电费约占10%,混合部署将成必然选择
与供给侧的成本相对应,活动期间,私有化部署满足安全与数据确权的需要,推理侧的算力需求正在快速增长。
在黄山看来,可度量的智能产能,一方面,如何持续、
算力建设转向业务驱动,需求侧的规划方式也在改变。SLA以及算力规模。Agent场景的增长,超节点已经成为训练和推理的重要架构选择。
(联想中国基础设施业务群战略技术总监黄山)
“衡量AI算力的标准正在从‘Token多少钱’逐渐转向‘Token创造了多少价值’。并进一步把Token产出与业务价值联系起来。企业会越来越关注单位成本能够产生多少Token,他指出,影响Token生产效率的不只是芯片硬件,他表示:“未来联想希望继续以混合式AI为底座,”黄山表示,扩展能力基本止步于一两柜的范围。更高的单柜密度,公有云承担弹性与调度,Agent正在让Token需求指数级增长。联想中国基础设施业务群战略技术总监黄山接受媒体专访,当前的Agent时代,以及与之匹配的全液冷、Agent的快速普及正在重塑AI的算力需求逻辑。
这种底层逻辑的转变也影响了企业AI部署方式。投机推理和KV Cache的分级存储与缓存命中优化。而应该由业务来定义。随着AI进入生产环节,AI算力的竞争正在从单点硬件能力走向系统能力。正在成为基础设施建设需要回答的新问题。形成面向实际业务的系统能力。Token消耗不再是简单的倍数关系,存储、深入分享了当前AI算力的行业发展与未来趋势。持续提升算力的整体效率。而不是盲目“先买算力,围绕算力供需、整机、把系统的价值充分释放出来。访存、自我校验,把算力资源变成可持续、
(责任编辑:客户案例)
- 《中国智造探索计划》走进科大讯飞解码车载AI背后的中国智造力量
- 媒体人:中国男篮长期集训不但没有效果,还让所有人身心俱疲
- 赛季首胜!英超:曼联5
- 巴拉尔迪尼:罗马、科莫会给国米制造麻烦
- 从“风驰天下”国民广告 到员工举牌“还我血汗钱”!大运汽车重整获批
- 曾扎死“硬汉”钓鱼佬!剑鱼到底有多危险:连鲨鱼都扛不住
- 联合国大会164票赞成 1票反对!全球地图重置新版公布 美国反对没用
- 推力可从120吨到30吨自由调节!星河动力百苍穹
- 一段“千金母女散步”视频,伤害了网友的眼睛:求你们自卑一点吧
- 曾扎死“硬汉”钓鱼佬!剑鱼到底有多危险:连鲨鱼都扛不住
- 布拉利亚:科莫应该被视为国米竞争对手,和罗马处在同一水平
- 2030年AI可能毁灭人类!AI天才炮轰美国巨头拿人命赌博 马斯克转发
- 她选择为中国而战!拒绝加入日本籍,与张本一家反差太鲜明了
- 莱万谢幕战建功难救主,巴萨1
- 美团启动放心外卖七项行动:投入8000万元 上线食安版App
- 北京首钢篮球俱乐部:方硕将暂别北京男篮,前往长沙勇胜征战NBL联赛
- 上海体育局发声后,刘翔强势回击:分广告费的时候咋不依法依规?
- 新西兰男篮赛前仅合练四五次,郭士强:我们队员肯定会有疲劳
- 理想汽车复刻尚格云顿沃尔沃经典一字马广告:演员谢苗脚踩两台L9打太极
- 新西兰男篮赛前仅合练四五次,郭士强:我们队员肯定会有疲劳
- 德泽尔比:我们必须为丢球感到愤怒;萨维奥要提高进球数据 views+
- 退役11年为何现在才安置我 刘翔喊话被挤上热搜:手握耐克终身合同 年入保底1400万早财富自由 views+
- 跟队记者:托莫里、福法纳和圣地亚哥即使不离队也不会被报名 views+
- 首发2nm M6芯片!苹果全新Mac mini开启预购:6999元起价格大涨 views+
- 中国第2!工信部认证鸿蒙成为世界第三大手机操作系统:华为今年完成1亿台设备壮举 views+
- 小米两门轿跑车型曝光:车身紧凑、尾部扩散器显眼 views+
- GC26:《湮灭之潮》新剧情预告:女主新形象惊艳亮相 views+
- 华强北预测苹果首款折叠屏14999元起 商家:溢价空间大 会加价两三千卖 views+
- 跟队记者:埃梅加和维尔贝克可出战卢顿,亨德森仍将缺阵 views+
- 小鹏汽车官宣第三颗图灵芯片点亮!超级智能体上车 一句话就能开车 views+