阿里发布Qwen-Audio-3.0-Realtime实时语音大模型:四大功能同步升级,兼顾推理速度与交互体验
阿里巴巴于7月15日发布实时语音交互对话模型Qwen-Audio-3.0-Realtime,包含Plus和Flash两个版本,在智商、Agent工具调用、共情对话和双工交互流畅度四个方向同步升级。该模型采用On-Policy Distillation框架和多教师蒸馏策略,在VoiceBench等多项基准测试中取得领先成绩,其Preview版本曾在Artificial Analysis榜单斩获两项冠军。
事件概述
阿里巴巴于2026年7月15日发布实时语音交互对话模型Qwen-Audio-3.0-Realtime,包含推理更强的Plus版本和速度更快的Flash版本,主要面向智能客服、教育培训、娱乐互动与情感陪伴等场景。该模型在智商、Agent工具调用、共情对话和双工交互流畅度四条主线上同步升级。今年5月,其Preview版本曾在全球权威评测平台Artificial Analysis榜单上斩获两项冠军,超越GPT-Realtime-2。
核心信息
-
智商提升:针对日常对话和简单问答等对时延敏感的场景,模型可直接生成回复,实现毫秒级响应。在语音问答基准VoiceBench上,以书面化标准和口语化prompt提问,Plus版本得分分别为92.5和90.5,仅下降2.0,表明模型能处理真人说话的随意性。在多轮音频对话挑战AudioMultiChallenge基准测试中,Flash版本标准和口语化prompt得分分别为43.6和38.1,仅下降5.5。
-
Agent工具调用:模型无需用户明确指令即可自行调用外部工具,调用结果会自动融入对话记忆,后续追问可衔接上次结果。例如用户先问“附近有什么川菜馆”,再追问“评分4.5以上的哪家最近”,模型会自动衔接上次返回结果继续检索。模型基于FunctionCall标准协议,支持MCP、API、知识库的接入。
-
共情对话:模型可根据对话语境动态调整语气、节奏、音调与情感,在辩论场景中能准确抓取论点并快速组织反驳,在情感陪伴中通过语调、节奏及笑声、叹息等副语言信号进行共情回应。在S2S语音指令遵循公开基准VStyle上取得SOTA成绩。
-
双工交互流畅度:模型支持边说边听、随时打断和插话,内置“多模态感知的双工控制”子模型,通过分析音频信号、语义内容与说话人声纹特征来判断交谈状态。在嘈杂环境中不会被背景噪声误打断,在多人讨论中能锁定主对话对象,在多说话人切换时自然过渡。API预留了audio_prompt字段,用户可上传音频样本锁定声纹。
-
技术框架:模型采用On-Policy Distillation(在线策略蒸馏)框架,将文本大模型的完整推理能力蒸馏至语音模型,同时引入多教师蒸馏策略——包括口语多轮偏好教师、通用教师、Agentic教师和音频理解教师,确保四个能力方向均衡发展。
