小米自研芯片实测：端侧 AI 生成速度最高 330 tokens/s，本地可跑 120B 模型
2026/08/25 10:41阅读量 2
小米昨日发布玄戒 O3、O100 和 D100 三颗自研芯片，并在技术沟通会上展示了搭载这些芯片的工程原型机。折叠屏原型机在断网环境下本地运行 MiMo 3B 模型，生成速度实测 303 tokens/s、峰值 330 tokens/s；桌面终端 AI Cube 内置 80GB 内存，可在本地部署 120B 参数大模型并生成可运行代码。这显示出小米端侧 AI 已具备离线秒回和本地复杂推理能力。
事件概述
小米昨日发布玄戒 O3、O100 和 D100 三颗自研芯片后，在技术沟通会上展示了搭载这些芯片的两款工程原型机，实测其端侧 AI 能力：一台折叠屏原型机可在断网状态下快速运行本地大模型，另一台桌面计算终端则能直接在本地部署 120B 参数模型。
核心信息
- 芯片纸面规格：玄戒 O3 在 Geekbench 6.5 中多核突破 15000 分；O100 通过 3D 堆叠实现 1.22 TB/s 超高位宽。
- 折叠屏原型机（玄戒 O100）：机身背面为金属结构件，内置主动散热风扇。在断网环境下本地运行小米 MiMo 3B 模型，首字响应延迟（TTFT）约 0.45 秒，生成速度实测 303 tokens/s，峰值可达 330 tokens/s。现场演示了复杂文档润色、同声传译等即问即答场景，数据全程不出本地。
- 桌面终端 AI Cube：航空铝 CNC 一体成型，表面开凿 33874 个散热孔，内置 80GB 内存（芯片最高支持 160GB），运行 Android 系统，本地直接部署 120B 参数大模型。现场输入需求后，模型生成了一个可运行的“Web Audio 在线钢琴”网页应用。AI Cube 支持 3B + 120B 快慢双模型切换，轻量指令由 3B 小模型秒回，复杂代码生成交给 120B 大模型。
值得关注
两款原型机对应了端侧算力的两条路径：随身设备以专用加速芯片和内存带宽优势实现离线“秒回”，桌面终端则依靠更大内存和多芯片协同承载重度推理。小米借此展示了从轻量交互到本地代码生成的全套端侧 AI 能力。