首页 >> 综合 > 快讯 >

Block 发布首款纯音频训练全双工语音 AI 模型 Dessa,去掉文本链路实现高拟人实时对话

2026-10-26 11:46:00 来源:网易 编辑:申策苛 

Block 推出的 Dessa 是全球首款全程只用纯音频数据完成训练的全双工语音 AI 模型,整套交互链路彻底跳过语音转文字、文字生成再语音合成的传统流程,做到音频输入直接输出音频回复,依托原生全双工架构实现边听边说、随时被打断的拟人化实时对话,从底层解决传统语音助手生硬卡顿、丢失语气情绪的行业痛点。传统语音交互一直沿用 ASR 转文字 + LLM 文本推理 + TTS 语音合成的三段式链路,文字会过滤掉语调、停顿、笑声、语气起伏这类副语言信息,同时串行处理模式必须等用户说完整句话才会开始生成回复,对话节奏生硬,无法实现人与人之间随时插话、同步倾听的交流状态。Dessa 从底层架构砍掉全部文本中转环节,模型从零开始仅依靠海量真人对话音频完成训练,直接学习语音里的语义、节奏、情绪与对话进退规则,能够自主识别用户停顿是短暂换气还是对话结束,主动插入附和短句,也能在用户中途插话时立刻停止输出并切换为倾听状态。整套模型采用端到端语音到语音统一网络,不再拆分识别、推理、合成三个独立模块,把整条链路的延迟压缩到毫秒级别,同时原生保留人声里的情绪细节,不用额外添加情绪标签就能自然生成笑腔、叹气、迟疑停顿,让语音交互无限贴近真人面对面聊天。除了对话能力之外,模型完成轻量化优化,可直接在 M4 Max 配置的 MacBook 设备本地离线运行,不需要依赖云端算力,同时项目现阶段仅面向 AI 安全研究者开放内测,用来开展语音智能体身份伪装风险的专项测试,持续完善模型安全边界。

一、Dessa 与传统语音模型的技术链路对比

1. 传统半双工语音模型链路

用户语音→ASR 语音转文字→大模型文本推理生成回复→TTS 文字转语音→播放语音;全程串行执行,必须等待语音静默结束才启动处理,丢失语调、停顿等音频信息,无法支持中途打断。

2.Dessa 全双工纯音频链路

实时音频流输入→统一语音网络直接提取声学语义特征→同步判断对话轮次、情绪与打断时机→直接生成语音音频流输出;全程没有文字转换环节,输入输出并行运行,持续边收听边生成语音,完整保留全部副语言信息。

二、纯音频从零训练的五大技术实施步骤

1. 数据集采集与清洗环节

只采集真人面对面实时对话音频,剔除所有附带文字脚本的录音素材,只保留自然闲聊、自由交流的原生语音片段,重点保留插话、停顿、附和语气、情绪起伏的对话样本,构建只包含音频文件的训练数据集,全程不引入任何文本转写内容。

2. 无文本语音特征建模环节

搭建纯音频 Transformer 网络,直接对原始语音波形做频谱编码,不把语音映射为文字 token,让模型直接从声波里学习语义内容、说话节奏、情绪变化,把语气、停顿、插话时机全部转化为声学特征,实现语义理解完全依托音频信号完成。

3. 全双工并行交互能力训练环节

专门增加双人实时对话样本,训练模型并行处理输入音频与输出音频,加入声学回声消除子模块,让模型能够区分外部用户语音和自身正在播放的语音,避免被自己的输出声音干扰;同时学习对话轮转规则,自主区分换气短停顿与对话收尾长停顿,自主决定什么时候开口、什么时候闭嘴倾听、什么时候主动附和回应。

4. 端到端语音生成对齐环节

把语音理解模块与语音生成模块合并为单一网络,做到输入音频特征直接映射为输出语音波形,消除多模块串联带来的误差累积,保证听懂的语气、情绪可以直接复现在生成语音当中,不会出现文字转译带来的情绪失真问题。

5. 端侧轻量化蒸馏优化环节

对大模型权重做模型蒸馏与量化压缩,在不丢失全双工对话能力和情绪表达能力的前提下,降低算力开销,最终实现模型在消费级笔记本 GPU 本地离线运行,不用联网调用云端接口,进一步降低端到端交互延迟。

三、Dessa 全双工实时对话的核心能力清单

1. 并行收发能力:全程保持边听边说,不会因为自身正在发声就关闭麦克风,用户随时可以中途打断对话,模型可以立刻终止语音输出并切换为倾听模式。

2. 原生情绪生成能力:不需要手动设置情绪参数,依托音频训练数据自然学会生成笑声、叹气、迟疑、调侃语气,完整还原真人对话的副语言细节,不存在脚本化合成的生硬感。

3. 自主对话轮次判断能力:依靠声学信号区分短暂换气停顿和对话结束,不会把用户中途的停顿当成发言收尾,也不会在对方还没说完时强行插话,精准把控对话节奏。

4. 实时后置附和能力:可以在用户讲话过程中自动插入 “嗯”“明白” 这类简短附和语音,模拟真人倾听时的反馈动作,提升对话沉浸感。

5. 低延迟端侧运行能力:整套模型支持本地离线部署,在 M4 Max MacBook 上即可完成完整语音交互,云端网络波动不会影响对话流畅度。

四、跳过文本链路带来的四大核心技术优势

表格

优化维度传统文本中转链路Dessa 纯音频直连链路
信息完整性仅保留文字语义,丢失语调、停顿、情绪、节奏等音频信息完整保留全部声学细节,语义 + 语气 + 情绪同步传递
交互延迟三段模块串行执行,整体延迟普遍在数百毫秒以上单网络端到端并行处理,把交互延迟压缩至毫秒级
对话模式半双工轮流发言,必须等对方说完才能回复全双工并行收发,支持随时插话、双向同步交流
情绪还原依靠文字标签控制语气,容易出现机械生硬的合成音从真人音频里学习情绪表达,语气自然连贯无割裂感

五、当前模型落地与测试安排

1. 当前版本定位为研究预览版,暂不面向普通大众开放公测,仅定向邀请 AI 安全研究人员参与内测,重点测试语音模型模拟人声带来的身份冒充风险,完善安全管控机制。

2. 硬件适配优先覆盖苹果 MacBook M4 Max 及更高配置机型,后续逐步向下兼容主流消费级 GPU 设备,持续扩大端侧部署范围。

3. 后续迭代会持续扩充多语种对话音频数据集,进一步优化长对话场景下的上下文记忆能力,提升多轮连续交流的稳定性。

【相关 FAQ】

问题 1:Block 推出的纯音频训练全双工语音 AI 模型 Dessa,核心突破是什么?

回答 1:Block 推出的纯音频训练全双工语音 AI 模型 Dessa,核心突破是彻底跳过 ASR 转文字、LLM 文本推理、TTS 语音合成的整条文本中转链路,采用纯音频数据从零训练,实现音频输入直接生成音频输出,再配合原生全双工架构,做到边听边说、随时打断的拟人化实时对话。

问题 2:Dessa 跳过文本链路之后,为什么能大幅提升语音对话的拟人程度?

回答 2:Dessa 跳过文本链路之后,不会把语音信息压缩成纯文字内容,能够完整保留语调、停顿、笑声、迟疑等副语言信息,模型直接从真人音频里学习对话节奏与情绪表达,不会出现文字转译造成的语气失真,对话效果更贴近真人面对面交流。

问题 3:Dessa 作为全双工语音 AI 模型,和普通半双工语音助手最大区别是什么?

回答 3:Dessa 作为全双工语音 AI 模型,可以一边播放语音一边持续接收麦克风输入,支持用户中途插话打断;普通半双工语音助手必须等待用户说完、进入静默状态之后才会启动处理,只能轮流发言,无法实现双向同步交流。

问题 4:Dessa 纯音频训练模式,在模型训练阶段有哪些硬性要求?

回答 4:Dessa 纯音频训练模式要求全程只使用真人对话音频作为训练素材,不引入任何文字脚本、文本转写文件,从零搭建音频特征网络,不依托任何预训练文本大模型,只依靠声波频谱信号完成语义理解与语音生成的全链路学习。

问题 5:Dessa 全双工语音模型能否在本地设备离线运行?

回答 5:Dessa 全双工语音模型经过轻量化蒸馏优化,可以在搭载 M4 Max 芯片的 MacBook 设备上本地离线运行,不需要接入云端服务器,能够把交互延迟控制在极低水平,保障实时对话流畅稳定。

【参考资料】

[2026-10-25] Block 推出全双工 AI 语音模型 Dessa:真人感拉满,支持本地运行,IT 之家

[2026-10-25] 端侧语音 AI 的一次路线突破,Block 发布语音到语音模型 Dessa,今日头条

[2026-10-24] Dessa Full-Duplex Speech Model: 0 Text Tokens,SHAttered

[2026-10-24] Block Unveils Dessa, a Full-Duplex Speech Model Trained on Conversation,Unite.AI

[2026-10-23] Block Introduces Dessa, a Full-Duplex Conversation Model Trained Only on Speech,VP Land

免责声明:本文全部技术内容均来自 Block 官方发布信息、公开技术博客与科技媒体实测报道;Dessa 当前仅为研究预览版本,对外开放能力与正式落地功能以官方后续更新为准;不同硬件设备的本地运行效果会受芯片算力、音频采集硬件影响;全双工语音交互需要配合回声消除软硬件才能达到最佳效果;该模型现阶段仅用于技术研究与安全风险测试,不得用于伪造人声、冒充他人语音等违规场景。

 
最新文章
站长推荐