首页 >> 综合 > 快讯 >

Pika 开源音视频联合生成模型 H3 Flex6 步去噪提速、多模态输入、音频分轨与本地云端协同创作

2026-11-02 13:59:43 来源:网易 编辑:房腾苑 

Pika 正式推出开源音视频联合生成模型 H3 Flex,基于 MiniMax H3 完成后训练优化,把传统数十步的扩散生成压缩为 6 步去噪,大幅缩短渲染耗时;模型支持多模态素材输入,原生实现音视频同步生成,还具备音频分轨能力,同时打通本地离线推理与云端 API 增强两条链路,创作者可以在本地快速批量出草稿,再调用云端服务完成高清超分与音轨分离,兼顾创作迭代效率与成片后期灵活性,大幅降低短视频、创意短片的 AI 制作门槛。

一、核心技术亮点:6 步去噪,大幅提升生成速度

  1. 精简采样流程:将原模型 50 步去噪蒸馏压缩至仅 6 步,采用 PDMD 分布匹配 + LCM 采样方案,15 秒短视频最快 7 秒即可完成渲染,生成效率相比原版提升 1.8 倍。
  2. 画质不缩水:搭配 ReFL 奖励学习与 DPO 指令对齐,在减少采样步数的同时稳定画面细节,不会因提速出现画面抖动、光影崩坏问题。
  3. 开源交付形式:对外开放两套 LoRA 适配器权重 + 完整推理代码,支持 Hugging Face Diffusers、ComfyUI 工作流部署,开发者可直接本地部署调试。

二、多模态输入能力,支持多素材参考创作

  1. 丰富输入类型:支持文本、首尾帧图片、参考图片、参考视频、参考音频多类条件输入,兼容文生视频、图生视频、参考帧镜头复刻等多种创作模式。
  2. 多参考素材上限:单次任务最多可加载 12 份参考素材,包含 9 张图片、3 段视频、3 段音频,用来锁定人物形象、镜头运镜、画面风格与声音基调,可控性更强。
  3. 视频规格参数:原生输出 480P/768P 分辨率,时长 5–15 秒、帧率 24fps,支持十余种画面比例,适配短视频、广告片、动态海报等场景。

三、音频分轨功能,实现精细化后期编辑

  1. 音视频同步生成:模型原生输出 32kHz 立体声音频,画面动作与音效、人声自动对齐,无需二次手动匹配音画。
  2. 五轨独立分离:云端 API 可把成片音频拆分为 5 条独立音轨:对白、配乐、音效、拟音、环境声,每条音轨可以单独调整音量、增减内容,不用重新生成整条视频。
  3. 分工模式:本地生成只输出合并立体声,音频分轨功能仅在云端托管服务中开放,满足前期快速出片、后期精细剪辑的分工需求。

四、本地 + 云端协同创作工作流

  1. 本地离线草稿制作:在本地部署 H3 Flex 模型,用 768P 低分辨率快速批量生成多版视频小样,反复调整文案、参考图、镜头效果,零调用成本完成创意迭代。
  2. 云端成片精加工:选定满意版本后,上传至 Pika 云端 API,一键完成 1080P/2K/4K 高清超分,同时一键拆分五条独立音频轨道,交付后期剪辑软件直接使用。
  3. 完整链路优势:本地跑草稿控制成本、缩短等待时间;云端做画质增强与音频分轨,把算力消耗放在云端,兼顾效率、成本与成片质量。

五、模型开源配套资源

  1. 开源文件:FL2VA、Ref2VA 两套 LoRA 适配器,适配 MiniMax H3 基础大模型,附带完整本地推理代码。
  2. 接入工具:官方提供 ComfyUI 预制工作流、Diffusers 调用脚本,个人创作者与企业开发团队都可以快速搭建部署环境。
  3. 商业化服务:云端 API 支持高清超分、音频分轨、批量生成,计费标准更低,相比同级别模型成本最高可降低 80%。

【相关 FAQ】

问题 1:Pika 开源 H3 Flex 模型,6 步去噪优化带来了哪些提升?

回答 1:H3 Flex 把扩散采样从 50 步精简到 6 步,渲染速度提升 1.8 倍,15 秒视频最快 7 秒生成;同时通过奖励学习优化画面质量,提速的同时保证画面稳定,不会出现画质劣化,并且把适配器权重与推理代码全部开源,支持本地部署运行。

问题 2:H3 Flex 多模态输入可以支持多少份参考素材,包含哪些文件类型?

回答 2:H3 Flex 单次任务最多支持 12 份多模态参考输入,包含 9 张图片、3 段视频、3 段音频;支持文本、首尾帧、图文视频混合参考,用来锁定画面风格、人物样貌、镜头动作,大幅提升视频生成可控度。

问题 3:H3 Flex 音频分轨功能在本地端可以直接使用吗?

回答 3:本地部署仅能生成合并在一起的立体声音频;对白、配乐、音效、拟音、环境声五轨分离功能,仅开放在 Pika 云端 API 服务中,创作者可以本地生成视频,再上传到云端完成音轨拆分,实现本地 + 云端协同制作。

问题 4:H3 Flex 本地与云端协同创作的完整流程是什么?

回答 4:第一步在本地用 H3 Flex 生成 768P 低分辨率视频草稿,反复修改创意;第二步把定稿视频上传到 Pika 云端 API;第三步调用云端能力完成 4K 超高清画质增强,同时拆分出五条独立音频轨道;最后导出视频与分轨音频,直接进入后期剪辑环节。

【数据来源】

[2026-11-01] Pika 基于 MiniMax H3 开源 H3 Flex,六步实现音视频联合生成 新浪财经

[2026-11-01] Pika H3 Flex: An Open-Weight Video Model With 12 References ScreenWeaver

[2026-10-30] Pika H3 Flex ComfyUI Guide: 6-Step MiniMax H3 LoRA Setup Freaky Jolly

[2026-10-29] Pika Launches Pika H3 Flex, a Video Model Built for Professional Iteration Morningstar

[2026-10-29] Pika Releases H3 Flex, an Open-Weight AI Video Model Lapaas Voice

免责声明:本文内容基于 Pika 官方发布的 H3 Flex 模型参数与公开技术文档整理;6 步生成速度为实验室测试数据,实际生成耗时会受本地硬件配置、云端网络环境影响;音频分轨、4K 超分属于云端增值服务,具体功能与资费以 Pika 官方 API 政策为准;模型开源权重仅包含 LoRA 适配器,基础 MiniMax H3 模型需另行获取。

 
最新文章