深信号· DEEPSIGNAL
深信号· DEEPSIGNALRSS
SIGNAL DEEP-DIVE

后摩智能全栈开源 AI 软件栈:一颗存算一体芯片,与它 150 个客户攒下的「工程经验银行」

2026-10-14·新智元·算力生态存算一体国产芯片开源生态端边推理M50
▮ SIGNAL SUMMARY · 摘要快读

后摩智能在生态合作伙伴大会上宣布全栈 AI 软件栈开源,覆盖从模型量化编译到部署运维的四层工具链;搭载 SRAM 存算一体 M50 芯片的 150 余款终端产品已把适配经验攒成一座「工程经验银行」,现向全体开发者开放。

后摩智能全栈开源 AI 软件栈:一颗存算一体芯片,与它 150 个客户攒下的「工程经验银行」

综述

一条硬件越贵、AI 越往端边搬的新闻里,后摩智能在生态合作伙伴大会上宣布了一件不太像芯片公司会做的事:把整条 AI 软件栈全部开源。

从拿到一个模型到把它做成产品,四层工具链——模型处理(量化/编译/精度评估)、推理框架与算子库、领域套件与中间件、部署运维——分三批开源,到 2027 年 1 月共 15 个项目上线。第一批就包括对 llama.cpp 与 vLLM 的适配版,GitHub 仓库 houmo-ai 下已可见 postmo-modelzoo、postmo-quantflow、vllm-postmo 等。

支撑这套软件栈的,是量产不到一年的 M50 芯片:SRAM 存算一体架构,160TOPS INT8 算力,典型功耗 10W。截至目前,搭载 M50 的终端产品已有 150 多款定下合作,客户破百,从 300 克的掌上 AI 主机、纯血国产笔记本,到客厅陪伴机器人、校园实训一体机,横跨 Agent Computer、智能移动终端、具身机器人、边缘推理四类场景。

后摩把这次开源的调子定为「最佳实践共享无保留」。但真正值得拆的不是「开源了什么」,而是一家芯片公司为什么把软件栈整个交出来,以及它押注的存算一体路线到底解决了什么问题、还扛着什么风险。

M50 芯片驱动的端边设备场景:掌上 AI 盒子、笔记本、陪伴机器人与边缘计算设备
后摩智能 M50 存算一体芯片驱动的端边设备生态——一颗芯片同时闯过功耗、离线、国产系统与情绪感知四道关卡。(原图来自新智元报道)

专业分析

一、端边推理的经济学:硬件涨价反而是在给本地部署发牌照

先把这条情报的背景读清楚。一张 96GB 显存的专业卡卖 13.8 万元,一套 128GB DDR5 内存逼近 2.5 万元——库克在财报会上把这轮内存暴涨称为「百年一遇的洪水」。硬件在涨价,但 AI 公司却在往本地端猛砸:OpenAI 被曝买下数万台 Mac,专门训练能自己操作电脑的 Agent。

这个看似矛盾的组合,逻辑其实很直白:24 小时连轴转的 Agent 如果全搁在云端跑,光 Token 费就能把账单烧穿。所以大模型往端边搬家是明牌。但「买芯片和内存回来」只是交了半张门票——模型适配、框架打通、性能调优,每一家都得从头摸索一遍。

后摩的开源动作,本质上是在做一件事:把「半张门票」的内容也变成公共品。它管搭载 M50 的联想 AI 主机 P7 叫「端边 Token 工厂」——300 克、30W、本地跑 1220 亿参数、128K 上下文、50 tokens/s,一次性买断硬件,从此不用再按 Token 向云端付费。这个叙事的商业含义是:当端边推理的单位成本低到某个阈值以下,「按 Token 计费」的云端商业模式会被「卖硬件 + 卖软件栈」的本地模式部分替代。后摩开源软件栈,是在降低后者在多场景下的复制成本。

二、存算一体:把 AI 计算里 60%–90% 的电省在「路上」

M50 的底层逻辑,是针对一个老问题的新答案。

传统芯片是冯·诺依曼结构:数据存在「仓库」(存储单元),计算在「车间」(计算单元),两边隔着老远,得不停地来回倒腾数据。AI 计算里 60% 到 90% 的电,全耗在了这段搬运路上。

后摩的方案是 SRAM 存算一体:数据存在哪儿就在哪儿算。跟传统方案比,芯片面积砍掉约 70%,功耗降到约十分之一。这个数量级的改善不是细节优化,而是结构级的——它意味着「功耗」这个曾经的硬天花板,被重新标定了。

但存算一体不是没有代价。它天然更适合定点/低精度计算,浮点精度一直是这条路线需要小心处理的地方。M50 宣称原生支持浮点计算、允许开发者直接用浮点格式部署,正是在回应这个顾虑——从源头上少掉一层「硬压低精度再花大把时间调回来」的折腾。这个细节值得单独记一笔:它说明后摩对存算一体的定位不是「能用就行」,而是「精度不妥协」,否则整套「从模型到产品」的开源故事就站不住。

传统架构数据在内存与计算单元间来回搬运, versus 存算一体数据存在哪儿就在哪儿算
「数据搬来搬去,还是原地计算」——AI 计算中 60%–90% 的能耗花在搬运数据的路上,SRAM 存算一体把存储与计算合二为一。(原图来自新智元报道)

三、MoE 要仓库,Dense 要公路:为什么必须分两条技术路线

这是整篇报道里技术含量最高、也最值得深挖的一段。

如今的大模型分两大流派,对硬件的「胃口」截然相反。MoE(混合专家)每次只喊几个专家干活,可没干活的专家也得占着位置,所以它要的是一个足够大的「仓库」——超大容量。Dense(稠密)模型正好相反,每次推理几乎所有参数都要倾巢而出,数据得像洪水一样冲进计算单元,所以它要的是一条足够宽的「高速公路」——极高带宽。

MoE 模型:专家全部装进内存,每次只叫醒几个
MoE 的硬件账:千亿参数的全部专家都要常驻内存,每次推理只叫醒其中一小部分。(原图来自新智元报道)

一种架构想同时搞定这两者,很难。

于是后摩分出了两条路线:

3D CIM 是更激进的那个。现在很多人做 3D 堆叠,是把存储芯片一层层叠在计算芯片上——相当于把仓库搬到了工厂隔壁,路是短了,可数据进了工厂,还是得在老流水线上来回倒腾。后摩的 3D CIM 连工厂里的流水线都换了:底下负责计算的逻辑芯片用的就是 SRAM 存算一体,上面叠着的存储负责近距离喂数据(近存计算),下面的存算一体芯片就地消化(存内计算)。两层一起减少数据搬运,释放「1+1>2」的倍增效应。

以存算一体为根,2D CIM 打 MoE 容量、3D CIM 打 Dense 带宽,两条路线共用软件栈
后摩的双路线图:2D CIM(M30/M50→M60/M66)打 MoE 与图像视频生成,3D CIM(A20 已流片)打稠密模型,目标是每一瓦电、每一块钱换更多 token。(原图来自新智元报道)

这个设计的判断很清晰:存算一体的真正价值不在「新名词」,而在它把「搬运」这个冯·诺依曼结构里最贵的开销,从两个维度(距离 + 流程)同时压缩了。而且路线图还在往后走——目前的 3D CIM 用的是 DRAM,往后能换成更便宜、更省电的 Flash、RRAM。

四、开源的真正标的:不是代码,是「工程经验银行」

如果只看开源清单,很容易把它读成又一个「芯片厂商送 SDK」的故事。但放到 150 多款产品的语境里,标的就变了。

这 150 个产品要同时闯过四道截然不同的关卡:有的极其挑剔功耗(300 克的 AI 盒子),有的连网线都不让插(政务、金融证券的离线本),有的必须跑在纯血国产系统上(银河麒麟 V11),还有的得察言观色读懂人的情绪并记住一家人的生活习惯(陪伴机器人)。同一颗 M50,面对的模型、系统、场景天差地别。

在这 150 个项目里趟出来的适配方案和调优参数,被后摩一笔笔存进了这次开源的软件栈里。这才是它自己也用了「银行」这个比喻的原因——存进去的是实战中交过学费的工程经验,现在向所有开发者敞开大门。

联想 AI 主机 P7 展台:300 克掌上盒子,本地跑 1220 亿参数大模型
150 多款产品中的一个代表:联想 AI 主机 P7,300 克、30W,插充电宝就能带走,本地跑 1220 亿参数、128K 上下文。(原图来自新智元报道)

具体到四层结构,每一层都在解决一类「重来一遍」的浪费:

后摩智能生态合作伙伴大会现场,「带头开放」推动端侧 AI 生态系统化建设,屏幕展示四层软件栈架构
大会现场的架构屏:应用使能(AI 生态软件)→ 硬件使能(AI 基础软件)→ 系列硬件(M50)→ 工具链(Postmo-QuantFlow / Postmo-Spike / Postmo-SDF),四层全部开源。(原图来自新智元报道)

第一批先适配 llama.cpp 和 vLLM 这两个开发者圈子里最常用的开源推理框架,是个很务实的决定——大家不用换习惯,用着最顺手的工作流就能接入后摩芯片。后摩自研的推理框架和中间件放在第二批、第三批,是让「性能极限」和「产品化」逐步跟上,而不是一上来就把所有人砸进一个还不成熟的生态。

五、为什么一家芯片公司敢把软件栈全交出来

这要回到人。

后摩智能创始人兼 CEO 吴强,早年在 AMD 总部做第一代 GPGPU 的核心研发,是 OpenCL 创始团队的核心成员——而 OpenCL 本身就是一套谁都能用的开放计算标准。后来他去 Meta 做过芯片集群的能效优化,回国还当过地平线的 CTO。如今在自己创办的芯片公司里,他把最核心的软件栈也开源了,给这件事定的调子是「带头开放,高效赋能」。

这条履历解释了一个关键问题:对一个参与过开放计算标准的人来说,把软件栈做成闭源护城河根本不是默认选项。OpenCL 的哲学是「标准开放 → 生态做大 → everyone wins」,后摩的开源是同一套逻辑在芯片行业的移植。

但还要补一层商业逻辑,否则容易被读成「创始人情怀」。芯片行业的护城河通常被认为是制程、架构、专利和生态锁定。后摩的选择是:在端边 AI 这个赛道,硬件本身正在商品化,真正的护城河是「从模型到产品的最短路径」——而这条路的Know-how,恰好散落在 150 个真实项目里。把它开源,短期看是让利,长期看是在定义行业基线:当所有人的工具链都长在同一个开源底座上,接入这颗芯片的摩擦成本趋近于零,M50 就从「一个可选的芯片」变成「一个默认的芯片」。

当然,这个逻辑成立的前提是开源是真的、可持续的、有社区维护的,而不是「开源了个寂寞」。这一点下文的信号强度里会展开。

关联信息与影响

把这次开源放进整周的情报网,能看到几条交叉线索。

第一条:国产算力正在从「单点叙事」转向「体系叙事」。 不久前中诚华隆发布 HL200 推理芯片与超节点集群,主打「单节点 1024 卡、横向可扩 10240 卡」的体系化能力;现在后摩把软件栈开源,主打「从单卡到产品的全链路」。两家讲的是同一件事的不同侧面:国产算力的竞争力不再只看一颗芯片的峰值算力,而是看「芯片 + 整机 + 集群 + 软件栈」能不能拼成一张能被商用验证的完整答案。

第二条:开源正在成为芯片生态的「新护城河」。 英伟达的 CUDA 生态是闭源护城河的教科书案例,二十年积累、绑定极深。但端边场景与数据中心不同——客户不是一家两家,而是几百个做终端的、做系统的、做方案的,他们的共同痛点是「适配成本」。后摩用 llama.cpp/vLLM 适配版降低切换摩擦、用开源软件栈消除重复开发,本质上是在用「开放」对冲「锁定」。这对那些在国产化政策与自主可控之间找平衡的政务、金融、教育客户尤其有吸引力。

第三条:Agent 浪潮正在重塑「算力采购单位」。 从 OpenAI 买 Mac 跑 Agent,到联想 300 克盒子本地跑 1220 亿参数,再到 Deepshard 的 Truffle 1 把自己定位成「7×24 私有 AI 外脑」——Agent 需要的是「一直在线、一直记着、数据不出本地」,这正好是端边芯片的天然战场,而不是云端的长处。150 多款产品押注同一颗芯片,本身就是这个趋势的量化证据。

第四条:存算一体正在从「学术概念」进入「工程交付」。 从 4 层 3D DRAM 存算一体芯片点亮,到 Redwood 用 AI 两周从零造出一颗能跑的真芯片,再到后摩把 150 个项目的适配经验开源——算力侧正在发生一场集体转身,而「存算一体」是其中最激进的一支。它还远未成熟,但已经不是论文里的东西了。

需要冷静的是节奏。芯片发布到规模化商用之间,横着流片良率、集群稳定性、软件生态打磨三道坎。150 款「定下合作」的产品与「批量出货」之间,还有一段需要真实订单和连续负载来填的距离。

未来展望

短期,看三件事:开源清单的落地节奏(15 个项目能否在 2027 年 1 月前陆续上线并有真实维护活动)、第三方独立评测(M50 在主流模型上的精度-吞吐-功耗曲线,以及存算一体在浮点场景下的实际表现)、以及第一批 llama.cpp/vLLM 适配版的社区反馈——这是检验「开源是不是真的好用」的第一个硬指标。

中期,竞争会从「参数发布」转向「性价比战报」。存算一体赛道如果跑通,「每 token 成本、每瓦吞吐」会成为新的公开计价口径,先跑出可信数据的厂商将定义市场预期。后摩的 2D/3D 双路线能否同时兑现,是下一阶段的关键验证点——3D CIM 尤其如此,因为它押注的是 Dense 模型的带宽瓶颈,而 Dense 模型在端边场景的占比目前并不算高。

长期,最值得观察的是「端边 Token 工厂」这个商业模式本身。如果本地推理的单位成本持续下降到云端按 Token 计费的一个可观比例以下,「卖硬件 + 卖软件栈」会部分替代「卖 Token」,而开源软件栈正是这个模式的复制杠杆——每多一个开发者基于它做出产品,就多一个「端边 Token 工厂」的节点。更远一层,如果 Redwood 描述的「硬件自我递归演进」飞轮真的启动,那么「用上一代端边算力设计下一代端边芯片」的回路一旦闭合,节奏会和今天完全不同。

泼的冷水同样明确:存算一体的浮点精度与编程模型、国产芯片的软硬件协同成熟度、开源社区的长期维护意愿,都是这条路上真实的硬约束;「150 款产品合作」是签约口径,不是交付口径。

信号强度

终端厂商(AI 盒子、笔记本、机器人):拿到源码等于把主动权攥在自己手里——调用方式不顺手可以自己改,出了 Bug 可以自己看代码定位,不必只等闭源 SDK 厂商排期。对联想、长城、绿联、聊趣智能这类已经押注 M50 的伙伴,开源是降低长期维护成本的确定性利好;对还没入局的,它把「试错成本」降到了一个可以认真考虑的量级。

芯片与算力创业者:存算一体这条路线的可行性被 150 个真实项目部分验证了,但「被验证」与「可复制」之间仍有距离。对想做端边芯片的团队,后摩的开源是一份高价值的参考实现;对不做芯片的 AI 工程师,它意味着多了一条「不依赖 CUDA」的部署路径。

云与智算中心:短期不直接相关,但中长期要留意「端边 Token 工厂」对推理流量的分流效应——当足够多的 Agent 在本地跑,云端的推理增量会从「全面增长」变成「结构性迁移」。

开发者:llama.cpp 与 vLLM 的适配版是最直接的利好——现有工作流零改动即可接入 M50。但要注意:存算一体的算子生态目前还窄,长尾模型与长尾算子仍需逐个排雷,「OpenAI 兼容接口」能降低切换摩擦,不等于全量兼容。

研究者:存算一体的架构-精度-编译器协同是一个 rich 的研究方向;2D/3D CIM 的双路线设计(MoE vs Dense 的硬件分流)本身就是一个值得形式化的架构命题。开源的软件栈也提供了难得的实验平台。

投资人:后摩的叙事完整度在国产芯片公司里少见——硬件路线有物理依据(存算一体)、软件有开源杠杆、商业化有 150 个客户背书。需要盯的是开源的真实维护活跃度、第三方评测数据、以及批量出货与签约之间的转化率。存算一体是一条长周期赛道,「10W 功耗、70% 面积缩减」是方向性正确,不是已经赢了。

信息局限说明:本文基于新智元报道与后摩官方口径整理;160TOPS、10W、70% 面积缩减、约十分之一功耗、150 款产品、1220 亿参数/50 tokens/s、35B/30 tokens/s 等数字均为厂商发布或媒体报道口径,尚未经第三方独立评测与真实商用数据交叉验证;开源清单的最终形态与时间表以 GitHub 仓库实际进展为准。

SIGNAL FILE · 情报档案

后摩智能 M50 存算一体芯片及全栈 AI 软件栈开源(AI 情报库 2026-10-14 收录)

本文基于 AI 情报库收录的条目展开深析;事实性信息以原始报道为准,分析与展望为编辑观点。

原始报道:https://mp.weixin.qq.com/s/jZ5km2F3H0dBTRw1gnNWRg(新智元)

RELATED SIGNALS · 关联信号