语音助手可以由三套独立系统串联完成:
1 | 用户语音 → ASR 转写 → LLM 生成文本 → TTS 合成语音 |
这条链路的每个箭头都会引入信息损失或等待时间。ASR 错误会传入 LLM;语气、节奏与环境声无法完整保留在转写文本中;LLM 必须等 ASR 结束,TTS 又要等待可用文本;加入视频后,声音与画面还需要共享时间坐标。
区分 Qwen-Audio、Qwen2-Audio、Qwen2.5-Omni 和 Qwen3-Omni,不能只看“支持了几种模态”。更具体的差异位于四条数据路径上:波形以多大的时间粒度进入语言模型;音频与视频怎样获得同一时间位置;文本 token 与语音 token 由哪些模块生成;流式输出必须等待多少上下文。下面沿着这四条路径逐代展开。
more >>