2000 Tokens/s!寒序科技推出国产LPU推理芯片:让权重不再“搬家”
[客户案例] 时间:2026-09-26 17:50:24 来源:怀化玉洁刷业有限公司 作者:产品 点击:161次
8月31日消息,搬家寒序科技今日正式公布uHBM与uLPU推理计算架构,序科芯片成为国内首家将MRAM磁存储与计算单元深度整合的技推芯片公司。其核心思路是出国产:与其把存储和计算之间的路修得更宽,不如让权重直接“住”在计算单元旁边。推理
大模型推理进入Decode阶段后,让权每生成一个Token,重不再数十亿颗权重都要被反复读取。搬家寒序科技的序科芯片方案是将模型权重长期驻留在Persistent MRAM阵列中,在同一颗Compute-Memory Die内完成矩阵-向量运算,技推系统只传递低维激活向量。出国产
首代uHBM架构片内权重读出带宽设计值最高24TB/s。推理面向4B多模态主干模型,让权uLPU的重不再Decode性能目标超过2000 Tokens/s。
产品形态方面,搬家寒序规划了从uHBM-Die、uLPU-Chip到Module、2U Tray和Rack的完整路线。
端侧产品uLPU Edge由uHBM与NPU协同,面向机器人等物理AI场景;云端uLPU Cloud通过UCIe实现片间扩展,借助112G/224G SerDes构建机柜级系统。首代完整工程产品已进入流片前收敛阶段。
寒序科技成立于2023年8月,孵化于北京大学应用磁学中心。其验证芯片SpinPU-ED01已回片,集成120个MRAM Bank,实测片上访存带宽密度达0.105 TB/(mm²·s),并完成端到端模型推理与连续24小时稳定运行。
值得一提的是,24TB/s和2000 Tokens/s目前仍是架构设计值,完整性能、功耗和模型兼容性还需等首代工程产品流片实测才能确定。
寒序科技方面表示,验证芯片回答了“这条路能不能走”,接下来两年的核心任务是把架构真正做成可量产的产品。
(责任编辑:产品中心)
相关内容
- 《GTA6》在英国还能分期购买:可分36期 还是零利率
- 前国足克罗地亚籍老帅伊万科维奇:莫德里奇今年内可能退出国家队,欧国联对阵西班牙或将是他国家队最后演出,未来可能重返皇马
- 至少涨价1500元节奏!苹果18 Pro Max硬件成本比上代大涨近300美元:存储涨价是主因
- 严防球迷骚扰与高原反应:英格兰战墨西哥前隐瞒酒店地址
- 周促狂欢不停!Quantic Dream游戏史低齐放送
- 雷军晒小米科技园澎程定制咖啡 网友:啥时候上线外卖
- 意外!他是谢蒂内本轮公开点名表扬的津门虎本土球员,引发热议
- 特谢拉在本轮中超复出后!首次在社媒发声,已赢得申花球迷点赞
- 男子豪饮1斤白酒开车上高速失控:倒车撞护栏后直接当场大睡
- 加盟智界的前法拉利设计师身份揭晓!Werner Gruber 曾操刀设计拉法、FXX
- 穆里尼奥力挺马丁内斯换下C罗:决定英明且勇敢,球队利益至上
- NVIDIA下代CPU Rosa被指用上1.6nm工艺A16:与Feynman显卡同源
- 惋惜!37岁阿森纳传奇重伤缺阵2个月 回西甲后前5轮造7球比肩伊布
- 穆里尼奥力挺马丁内斯换下C罗:决定英明且勇敢,球队利益至上
精彩推荐
- 盗墓笔记单机化?小哥帅没边了!逆水寒联动开启
- 国家超算互联网核心节点正式上线:可提供超过10万卡国产AI算力
- 华为高管谈智驾兜底:华为要把能力先做好 车能修人身伤残修不好
- 芯片“拯救”了C罗?这也是足球的�...
- 为什么现在的手机没有一英寸传感器了
- Q1全球路由器等Wi
热门点击
- RMC:里昂与费内巴切预计将因赛后冲突遭欧足联纪律调查 views+
- 人民日报评“旅客买票占座放零食”:公众存在认知分歧,恰恰说明规则普及亟待加强,而非单纯的情绪宣泄可以解决 views+
- 彩经前瞻:奥胡斯vs本菲卡,强悍客队有望双杀对手 views+
- 彩经前瞻:费伦茨瓦罗斯vs特拉布宗体育,预计客队小胜 views+
- 首日观众排队超3小时!2026科隆游戏展Level Infinite掀起人气热潮 views+
- 179元 米家石墨烯暖风机C发布:3秒速热 80°广角送风 views+
- 从秀场走向赛场 机器人技术加速赋能千行百业 views+
- 超时空街球对决手游下载安装 views+
- 世体:尤斯特代表巴萨参加欧冠抽签仪式,并与欧足联高层会面 views+
- 日媒:中村俊辅将接手负责日本队的进攻定位球训练 views+