35B模型塞进32GB内存:智能体PC如何突破端侧部署瓶颈?
英特尔在2026年4月提出“智能体PC”概念后,仅两个半月便联合七家ISV推出覆盖办公、娱乐、教育、游戏场景的应用。核心挑战包括用户使用门槛高、云端推理成本高、硬件成本高。通过端云混合架构、MoE专家卸载技术(使35B模型在32GB内存运行)、酷睿Ultra 325处理器等方案,英特尔试图在降低硬件成本的同时提升本地推理效率,并构建一个可持续的ISV生态。
事件概述
2026年4月,英特尔首次提出“智能体PC”概念。约两个半月后,七家合作伙伴——QClaw、Flowy、remio、TRAE、DuMate、YOYO Claw、Marvis——携具体产品亮相,覆盖办公、娱乐、教育、游戏四个场景。英特尔中国区技术部总经理高宇表示,智能体PC仍是新生概念,市场存在困惑:用户不知如何使用,IT采购难以选择,行业对“落地”的定义尚不清晰。
用户侧门槛:从“空白对话框”到“引导式交互”
多数AI产品以空白对话框面向用户,导致使用率低。QClaw产品经理指出,用户常仅用其问天气或查资讯。荣耀YOYO Claw发布两个月积累约100万用户后,反馈显示“很大一批人不知道什么是龙虾”。
为降低门槛,Marvis出厂预置了六个“小牛马”,分别管理文件、应用、系统设置等,将复杂概念包装为“雇佣员工干活”的故事线。用户无需理解MCP、专家等术语,遇到问题(如键盘布局错误)可直接解决,取代传统搜索步骤。高宇形容终态是“用户打开设备面对引导式界面,只需点击几下,AI在后台完成任务闭环”。
成本侧:端云混合破解“高墙”矛盾
纯云端方案在长期使用中面临Token费用快速上升的“高墙”;纯本地部署则需高昂硬件成本(整机价格过万)。唯一通路是端云混合:简单任务本地完成,仅复杂任务上云。
remio创始人算账:会议场景中80%成本来自语音转文字,通过本地ASR模型可砍掉这80%,同时保护隐私。会员服务中,云端方案可能仅提供300分钟免费会议纪要,remio可给到1500分钟。
英特尔技术团队对SuperClaw路由机制实测:一个五子任务流程中,智能路由将四个分配给本地处理,节省43%推理时间和69%推理成本。随着路由自进化,比例还将上升。
硬件方面,英特尔酷睿Ultra 325处理器提供100 TOPS平台AI算力,价格面向主流市场。关键优化技术为MoE专家卸载:将大模型中“冷专家”卸载至AI SSD高速分区,仅保留“热专家”在内存。实测在32K超长窗口场景下,内存节省超30%,首Token性能损失小于10%,解码阶段TPS几乎无损。这让32GB内存机器即可流畅运行35B的MoE模型,且上下文窗口可开至128K-256K。高宇强调目标是“让用户在主流24G或32G配置上跑得动35B模型”。
生态侧:英特尔“水利万物”策略与ISV合作
英特尔哲学生态为“水利万物而不争”,通过平台能力让ISV聚焦场景。其“智能体PC必备的七种模型能力”(ASR、OCR、TTS、CV/VLM、LLM、Image Gen、Omni)构成完整基座,ISV无需从零摸索。反馈速度上,从4月21日概念提出到7月7日亮相,开发集中在过去一个半月,高宇形容为“下午拍板,晚上开干”。
具体优化成果:remio通过英特尔平台将OCR识别速度提升3倍,ASR转写实现“1小时音频不到2分钟”;百度DuMate在酷睿Ultra上完成OCR和35B模型端侧部署;QClaw根据设备参数自动推荐本地模型。技能广场、模型路由框架、MoE卸载技术等正被标准化、产品化,降低ISV接入门槛。
值得关注
当前展示的七家应用标志着智能体PC从概念走向初步落地,但生态繁荣仍需时间、更多参与者及真实用户反馈推动。硬件的经济账已初步算清(32GB内存跑35B模型),真正的考验在于用户能否形成使用习惯,以及上下游协作能否持续迭代。
