端侧AI迎来“奇点”前夜：算力下沉重塑格局，生态协同成关键

事件概述

近期，本地模型、小模型及个人智能体（Agent）的涌现引发了关于AI如何安全、可靠地部署于电脑、手机等端侧设备的广泛讨论。虽然部分观点认为端侧AI将取代云端AI成为主流，但其爆发时刻尚未完全到来。在10月14日举行的“从芯出发，向端而生”大模型赋能智能终端创新实践大会上，多位行业专家就端侧AI的发展阶段、技术瓶颈及未来趋势进行了深入探讨。

核心信息

1. 算力下沉与行业格局之变

• Agent驱动算力需求激增： Agent的爆发导致Token消耗量提升2至3个数量级，且这一趋势仍在加速，使得计算效率变得至关重要。
• 芯片市场表现活跃： 后摩智能创始人吴强指出，其存算一体端侧芯片产品市场表现快速提升。M50芯片量产不到一年已获得150多个产品定点，服务客户超百家。目前起量最快的场景包括Agent Computer和边缘服务器，具身智能场景也在快速增长。
• 存量市场潜力巨大： 普通PC向AI PC的渗透需要过程，但基于数亿台PC存量市场的未来潜力更大。

2. 技术路径与成本优化

• “端侧免费Token工厂”概念： 业界提出通过压降Token边际成本至趋近于零，利用本地算力一次性投入实现无限调用，以加速行业发展。
• 关键技术指标： Token/$（单位成本产出）与Token/W（推理输出与功耗关系）成为市场焦点。后摩智能以SRAM-CIM为根技术，推进2D CIM与3D CIM两条技术路径，分别面向大容量和大带宽需求。
• 性能预测： 阿里云智能千问模型行业总监徐超预计，到2027年年中，端侧模型可能解决大部分人的工作需求，“个人超级计算机”或将成为标配。后摩智能判断，随着模型和芯片共同演进，未来1-2年左右可能达到发展临界点。

3. 挑战与瓶颈

• 落地门槛： 罗格数据CTO刘学鹏指出，端侧AI需迈过三道门槛：数据打通、交互嵌入工作流、概率模型稳定性。用户只为“最后100米”的能力买单。
• 核心矛盾： 当前主要矛盾在于场景不足和规模化落地不够，安全、隐私、稳定等问题需在具体实践中验证。
• 治理与权限： 复旦大学副教授蒋昌建以亚马逊封锁Meta个人智能体Muse为例，强调需形成开放公平的接口治理制度，统一安全、自主、公平与责任。

值得关注

• 生态协同的重要性： 打造端侧AI生态需从单点合作走向系统化协同，连接适配经验、开发工具和合作方案，以降低门槛、缩短周期并加快产品落地。
• 范式转变： 万格智元CEO王冠博认为，AI发展范式正从“依赖智能”走向“拥有智能”，端侧最终将成为所有人使用AI的真正入口，因为用户选择的是能解决问题的模型而非最贵的模型。