Ultralytics YOLO 模型一键部署至 Axelera AIPU:从导出到验证仅需几分钟

2026/07/13 16:00阅读量 2

Axelera AI 与 Ultralytics 深度集成,允许用户通过一行命令将 YOLO 模型导出并编译为 Metis AIPU 可运行的 int8 模型,并使用熟悉的 yolo val/predict 工具验证精度。Voyager SDK 提供 Python 管道生成器,15 行代码即可构建包含预处理、推理、追踪的完整应用。该方案大幅缩短了从评估到部署的周期,并已在高带宽安全场景中验证了多路 8K 实时推理能力。

事件概述

Axelera AI 宣布与 Ultralytics 达成集成,用户可直接从熟悉的 Ultralytics 训练环境导出 YOLO 模型至 Axelera 的 Metis AIPU,无需更换编译器、运行时或重训练,几分钟内即可完成从导出到验证的流程。

核心功能与流程

导出:一行命令

python
from ultralytics import YOLO
model = YOLO("yolo26n.pt")
model.export(format="axelera")

该命令自动将模型编译并量化为 int8 格式(.axm 文件),针对 Metis AIPU 优化。支持 YOLOv8、YOLO11、YOLO26 的检测、姿态估计、实例分割、OBB 和图像分类任务。

验证:无需额外工具

  • 定量验证:使用 yolo val model=... data=coco.yaml 直接对比编译后 int8 模型与原始模型的 mAP,无需第三方基准。
  • 定性验证:使用 yolo predict model=... source=test_image.jpg 可视化推理结果。
    Metis 硬件与编译器采用混合精度技术,在保持 int8 吞吐量的同时尽可能保留精度,用户可在数小时内完成评估。

应用构建:15 行 Python 代码完成部署

以下示例展示了包含姿态估计与多目标追踪的完整管道,基于 Voyager SDK 的 Pythonic pipeline builder:
python
from axelera.runtime import op
pipeline = op.seq(
op.colorconvert("RGB", src="BGR"),
op.letterbox(640, 640),
op.totensor(),
op.load("yolo26n-pose.axm"),
ConfidenceFilter(threshold=0.25),
op.to_image_space(keypoint_cols=range(6, 57, 3)),
op.tracker(algo="tracktrack"),
).optimized()
for frame in video:
tracked_poses = pipeline(frame)
for pose in tracked_poses:
draw_skeleton(frame, pose)

op.seq 链式组合操作,.optimized() 融合相邻操作提升性能,ConfidenceFilter 为自定义算子(继承 op.Operator 并实现 __call__),开发者可在任意环节插入自定义逻辑。

生产环境下的运行时 axelera-rt 轻量级,不依赖 PyTorch/CUDA;从评估阶段切换到部署时,可完全移除训练依赖。

大规模生产案例

在 ISC West 2026 展会上,Axelera 展示了基于三块 Metis 四芯片 PCIe 卡的系统,同时处理两路 8K 和一路 4K 视频流,运行 48 个并行模型实例(包括人检测、姿态估计、人脸识别、武器检测、PPE 检测),所有任务均实时完成。硬件从单芯片 M.2 模块到四芯片 PCIe 卡均可使用同一套管道代码。

硬件基础

Metis AIPU 采用数字内存计算(D-IMC)架构,在数据所在位置执行计算,减少数据搬运,实现高能效比。未来 Axlera 的下一代 Europa AIPU 将兼容同一 SDK。

准备好启动您的定制项目了吗?

现在咨询,即可获得免费的业务梳理与技术架构建议方案。