通义千问Qwen2.5-Omni：看，听，说，写，样样精通！

通义千问Qwen2.5 Omni：看，听，说，写，样样精通！ 通义千问Qwen2.5 Omni：看，听，说，写，样样精通！ Modified March 27, 2025 🔗 原文链接： https://mp.weixin.qq.com/s/L7R3PaID... 全模态的 通义千问Qwen 2025年03月27日 02:33 浙江 今天，我们发布了 Qwen2.5 Omni ，Qwen 模型家族中 新一代端到端多模态旗舰模型 。该模型专为全方位多模态感知设计，能够无缝处理文本、图像、音频和视频等多种输入形式，并通过实时流式响应同时生成文本与自然语音合成输出。 该模型现已在 Hugging Face、ModelScope、DashScope 和 GitHub上开源开放，你可以通过我们的Demo体验互动功能，或是通过Qwen Chat 直接发起语音或视频聊天，沉浸式体验全新的 Qwen2.5 Omni 模型强大性能。 主要特点 • 全能创新架构： 我们提出了一种全新的Thinker Talker架构，这是一种端到端的多模态模型，旨在支持文本/图像/音频/视频的跨模态理解，同时以流式方式生成文本和自然语音响应。我们提出了一种新的位置编码技术，称为TMRoPE（Time aligned Multimodal RoPE），通过时间轴对齐实现视频与音频输入的精准同步。 • 实时音视频交互： 架构旨在支持完全实时交互，支持分块输入和即时输出。 • 自然流畅的语音生成： 在语音生成的自然性和稳定性方面超越了许多现有的流式和非流式替代方案。 • 全模态性能优势： 在同等规模的单模态模型进行基准测试时，表现出卓越的性能。Qwen2.5 Omni在音频能力上优于类似大小的Qwen2 Audio，并与Qwen2.5 VL 7B保持同等水平。 • 卓越的端到端语音指令跟随能力： Qwen2.5 Omni在端到端语音指令跟随方面表现出与文本输入处理相媲美的效果，在MMLU通用知识理解和GSM8K数学推理等基准测试中表现优异。 Audio or video is not supported Please download the file and open it with the appropriate software. 0bc3vqaciaaa3eago4pevjtvblgdeswaajaa.f10002.mp4.mp4 · 36.74MB 0bc3vqaciaaa3eago4pevjtvblgdeswaajaa.f10002.mp4 00:00 模型架构 Qwen2.5 Omni采用Thinker Talker双核架构。Thinker 模块如同大脑，负责处理文本、音频、视频等多模态输入，生成高层语义表征及对应文本内容；Talker 模块则类似发声器官，以流式方式接收 Thinker实时输出的语义表征与文本，流畅合成离散语音单元。Thinker 基于 Transformer 解码器架构，融合音频/图像编码器进行特征提取；Talker则采用双轨自回归 Transformer 解码器设计，在训练和推理过程中直接接收来自 Thinker 的高维表征，并共享全部历史上下文信息，形成端到端的统一模型架构。 模型架构图 模型性能 Qwen2.5 Omni在包括图像，音频，音视频等各种模态下的表现都优于类似大小的单模态模型以及封闭源模型，例如Qwen2.5 VL 7B、Qwen2 Audio和Gemini 1.5 pro。 在多模态任务OmniBench，Qwen2.5 Omni达到了SOTA的表现。此外，在单模态任务中，Qwen2.5 Omni在多个领域中表现优异，包括语音识别（Common Voice）、翻译（CoVoST2）、音频理解（MMAU）、图像推理（MMMU、MMStar）、视频理解（MVBench）以及语音生成（Seed tts eval和主观自然听感）。 模型性能图 下一步 我们期待听到您的反馈，并看到您使用 Qwen2.5 Omni 开发的创新应用。在不久的将来，我们将着力增强模型对语音指令的遵循能力，并提升音视频协同理解能力。更值得期待的是，我们将持续拓展多模态能力边界，以发展成为一个全面的通用模型！ 体验方式 • Qwen Chat： https://chat.qwenlm.ai • Hugging Face： https://huggingface.co/Qwen/Qwen2.5 Omni 7B • ModelScope： https://modelscope.cn/models/Qwen/Qwen2.5 Omni 7B • DashScope： https://help.aliyun.com/zh/model studio/user guide/qwen omni • GitHub： https://github.com/QwenLM/Qwen2.5 Omni • Demo体验： https://modelscope.cn/studios/Qwen/Qwen2.5 Omni Demo https://mp.weixin.qq.com/s/L7R3PaID... 🔗 原文链接： https://mp.weixin.qq.com/s/L7R3PaID... https://mp.weixin.qq.com/s/L7R3PaID... 全模态的 通义千问Qwen 2025年03月27日 02:33 浙江 今天，我们发布了 Qwen2.5 Omni ，Qwen 模型家族中 新一代端到端多模态旗舰模型 。该模型专为全方位多模态感知设计，能够无缝处理文本、图像、音频和视频等多种输入形式，并通过实时流式响应同时生成文本与自然语音合成输出。 该模型现已在 Hugging Face、ModelScope、DashScope 和 GitHub上开源开放，你可以通过我们的Demo体验互动功能，或是通过Qwen Chat 直接发起语音或视频聊天，沉浸式体验全新的 Qwen2.5 Omni 模型强大性能。 主要特点 • 全能创新架构： 我们提出了一种全新的Thinker Talker架构，这是一种端到端的多模态模型，旨在支持文本/图像/音频/视频的跨模态理解，同时以流式方式生成文本和自然语音响应。我们提出了一种新的位置编码技术，称为TMRoPE（Time aligned Multimodal RoPE），通过时间轴对齐实现视频与音频输入的精准同步。 • 实时音视频交互： 架构旨在支持完全实时交互，支持分块输入和即时输出。 • 自然流畅的语音生成： 在语音生成的自然性和稳定性方面超越了许多现有的流式和非流式替代方案。 • 全模态性能优势： 在同等规模的单模态模型进行基准测试时，表现出卓越的性能。Qwen2.5 Omni在音频能力上优于类似大小的Qwen2 Audio，并与Qwen2.5 VL 7B保持同等水平。 • 卓越的端到端语音指令跟随能力： Qwen2.5 Omni在端到端语音指令跟随方面表现出与文本输入处理相媲美的效果，在MMLU通用知识理解和GSM8K数学推理等基准测试中表现优异。 Audio or video is not supported Please download the file and open it with the appropriate software. 0bc3vqaciaaa3eago4pevjtvblgdeswaajaa.f10002.mp4.mp4 · 36.74MB 0bc3vqaciaaa3eago4pevjtvblgdeswaajaa.f10002.mp4 00:00 Audio or video is not supported Please download the file and open it with the appropriate software. 0bc3vqaciaaa3eago4pevjtvblgdeswaajaa.f10002.mp4.mp4 · 36.74MB 0bc3vqaciaaa3eago4pevjtvblgdeswaajaa.f10002.mp4 00:00 模型架构 Qwen2.5 Omni采用Thinker Talker双核架构。Thinker 模块如同大脑，负责处理文本、音频、视频等多模态输入，生成高层语义表征及对应文本内容；Talker 模块则类似发声器官，以流式方式接收 Thinker实时输出的语义表征与文本，流畅合成离散语音单元。Thinker 基于 Transformer 解码器架构，融合音频/图像编码器进行特征提取；Talker则采用双轨自回归 Transformer 解码器设计，在训练和推理过程中直接接收来自 Thinker 的高维表征，并共享全部历史上下文信息，形成端到端的统一模型架构。 模型架构图 模型性能 Qwen2.5 Omni在包括图像，音频，音视频等各种模态下的表现都优于类似大小的单模态模型以及封闭源模型，例如Qwen2.5 VL 7B、Qwen2 Audio和Gemini 1.5 pro。 在多模态任务OmniBench，Qwen2.5 Omni达到了SOTA的表现。此外，在单模态任务中，Qwen2.5 Omni在多个领域中表现优异，包括语音识别（Common Voice）、翻译（CoVoST2）、音频理解（MMAU）、图像推理（MMMU、MMStar）、视频理解（MVBench）以及语音生成（Seed tts eval和主观自然听感）。 模型性能图 下一步 我们期待听到您的反馈，并看到您使用 Qwen2.5 Omni 开发的创新应用。在不久的将来，我们将着力增强模型对语音指令的遵循能力，并提升音视频协同理解能力。更值得期待的是，我们将持续拓展多模态能力边界，以发展成为一个全面的通用模型！ 体验方式 • Qwen Chat： https://chat.qwenlm.ai • Hugging Face： https://huggingface.co/Qwen/Qwen2.5 Omni 7B • ModelScope： https://modelscope.cn/models/Qwen/Qwen2.5 Omni 7B • DashScope： https://help.aliyun.com/zh/model studio/user guide/qwen omni • GitHub： https://github.com/QwenLM/Qwen2.5 Omni • Demo体验： https://modelscope.cn/studios/Qwen/Qwen2.5 Omni Demo