NVIDIA Déjà View 发布,支持多角度照片一键输出 3D 几何与相机位姿
英伟达推出全新多视图重建模型 Déjà View,只用一组普通多角度拍摄照片,就能同时还原场景稠密 3D 几何结构以及每一张照片对应的相机位姿,它采用循环 Transformer 架构,只用 1.17 亿参数,性能却超过很多参数量大得多的前馈模型,算力开销也更低,这项成果入选 NeurIPS 2026 Oral。传统多视图重建工具大多流程繁琐,要分开跑特征匹配、运动恢复、深度估计,而 Déjà View 做成端到端方案,把同一个 Transformer 模块反复迭代优化,用户还能自由调节迭代步数,在速度和重建精度之间灵活取舍,室内场景、户外环境、物体特写、自动驾驶场景都可以适配,不需要额外标定设备,手机随手拍出的多角度照片就可以作为输入素材。
一、Déjà View 核心技术特点
- 循环共享 Transformer:不是堆叠大量独立层,而是重复调用同一个 Transformer 模块迭代优化视图特征,迭代步数 K 可以在推理阶段手动调整,步数越高几何、相机位姿越精准,同时耗时更长。
- 轻量化参数规模:总参数仅 117M,对比主流同类前馈模型,参数量减少 8 到 10 倍,计算量下降约 1.9–2.3 倍,降低对高端显卡的硬性门槛。
- 端到端双输出:输入多张不同视角 RGB 图像,一次性输出稠密深度图、射线图,再从中解算出三维几何、相机旋转、平移以及相机内参,不用拆分多条管线。
- 多场景通用:在五组基准测试上验证有效,覆盖室内、室外、单独物体、自动驾驶道路场景,适配多样化重建需求。
二、和传统 SfM / COLMAP 的区别
| 项目 | NVIDIA Déjà View | 传统 COLMAP / SfM |
|---|---|---|
| 工作模式 | 端到端神经网络,循环迭代优化 | 分阶段:特征提取、匹配、稀疏重建、稠密重建 |
| 相机位姿 | 和 3D 几何一起联合预测 | 先求相机位姿,再重建几何 |
| 上手门槛 | 只需要多角度照片,自动处理 | 对图片质量、特征点丰富度敏感,容易失败 |
| 可控项 | 推理时调节迭代步数 | 需要手动调整大量阈值 |
三、目前的局限与落地方向
Déjà View 当前属于研究成果,英伟达放出项目页面与论文,还没有面向普通用户的一键桌面软件;它对输入照片的视角变化、光照稳定性依然有要求,如果照片之间重叠太少或者反光、模糊严重,相机位姿和几何重建误差会明显变大。未来比较适合的方向包括机器人感知、数字资产扫描、NeRF / 高斯泼溅重建前置、AR 空间定位,为后续渲染和仿真提供可靠的场景与相机参数。
【相关 FAQ】
问题 1:NVIDIA Déjà View 是什么,怎么实现多角度照片转 3D 几何与相机位姿?
回答 1:NVIDIA Déjà View 是英伟达的多视图三维重建模型,依靠循环 Transformer,输入多角度照片,联合迭代求解深度、射线信息,直接得到场景稠密 3D 几何以及每张图片对应的相机位姿,属于端到端方案。
问题 2:NVIDIA Déjà View 在多角度照片转 3D 几何与相机位姿这件事上,算力优势体现在哪里?
回答 2:NVIDIA Déjà View 只有 117M 参数,相比主流前馈重建模型,参数量减少 8–10 倍,计算量降低约 1.9–2.3 倍,还支持动态调节迭代步数,灵活平衡多角度照片转 3D 几何与相机位姿的速度和精度。
问题 3:使用 NVIDIA Déjà View 做多角度照片转 3D 几何与相机位姿,必须用专业相机吗?
回答 3:不需要,手机拍摄的多角度照片就可以作为输入,但想要得到靠谱的 3D 几何与相机位姿,照片之间要有足够画面重叠,光照不能剧烈变化。
问题 4:NVIDIA Déjà View 这套多角度照片转 3D 几何与相机位姿的工具,现在有正式商用软件吗?
回答 4:目前 NVIDIA Déjà View 以学术论文和研究项目形式对外发布,入选 NeurIPS 2026 Oral,暂时没有面向普通消费者的成品软件,开发者可以参考论文复现多角度照片转 3D 几何与相机位姿的流程。
【参考资料】
[2026-05-28](Déjà View: Looping Transformers for Multi-View 3D Reconstruction)Jiahui Huang 个人学术主页
[2026-05-28](Déjà View: Looping Transformers for Multi-View 3D Reconstruction)arXiv
[2026-05-28](Déjà View 项目主页)NVIDIA Research
【免责声明】
以上内容仅为前沿技术资讯梳理,不构成采购、开发、商用落地建议。NVIDIA Déjà View 当前为实验室研究成果,未正式推出稳定商用版本;多角度照片转 3D 几何与相机位姿的效果受图片质量、硬件、迭代参数影响较大,重建结果存在误差风险,请开发者自行评估测试。
相关阅读
- Perplexity Computer 命名源自 Dylan Patel 智能体博客文章
- Google Labs 上线 Tabletop 实验,群组链接与文件可一键转为共享交互协作工具
- 金摇杆年度游戏结果出炉,生化危机 9 拿下大奖,影之刃零 1% 票差惜败
- 2800 亿参数文心 5.5 Flash Preview 正式发布,游戏开发与 3D 建模能力升级
- 微软 Ignite 2026 定档 11 月 17 日至 20 日旧金山举办,同步开放线上参会通道
- 斯坦福 CS329Z 开放 AI Agent 工程全套课程资料,课件视频作业公开可自学
- 斯坦福 CS329Z《Engineering AI Agents》秋季课程上线 YouTube
- Greylock 举办 Agentic coding 研讨会,聚焦智能体代码价值归属议题
- 斯坦福新课 CS329Z 开放造 Agent 作业开源,在家完成整体开销不到五美元
- NVIDIA GTC 华盛顿特区站聚焦仿真、世界模型与智能体,推进物理 AI 落地
- Agentic Data 上线真实语音数据集与音频原生 RL 训练环境,面向语音 Agent 端到端强化学习
- IDC 调研全球半数企业已布局 Agentic AI,培训预算优先投向提示词工程
- NVIDIA 扩大与 ElevenLabs 合作,联合推出面向企业与政府的语音智能体方案
- Google 发布 Gemini Decision 1 与 Decisions API,主打多模态快速封闭集决策
- ElevenAgents 上线 Routines 能力,支持 Agent 在对话前后自动执行任务
- Lovart 平台上线 GPT Image 2.6,单张照片一键生成动态 GIF
-
shiftlock 中文叫做换挡锁止应急解锁,也常被称为 shift lock 释放孔,它是自动变速箱车型上面的应急解锁...浏览全文>>
-
苹果在 6 月底上调 iPad 全系列售价之后,市场需求快速萎缩,2026 年第三季度国内主流电商平台 iPad 销...浏览全文>>
-
中国移动近期完成光传输技术试验,成功拿下单波 1 6T 传输最长新纪录,在存量通用骨干光纤上实现 960 公...浏览全文>>
-
最近 “GTA 大战复联” 这个说法有两层含义,一层是行业层面的娱乐市场对比,分析师预估《GTA6》首年销售额...浏览全文>>
-
存储芯片涨价周期延续,君正股份在机构调研中披露,公司 DRAM 产品需求旺盛、产能紧张,已经完成对大部分客...浏览全文>>
-
小米空调推出的数字抽真空安装服务收获大量用户认可,官方回访调研显示,受访用户满意度达到 95%,87% 的用...浏览全文>>
-
多家海外科技媒体援引知情人士消息报道,英伟达董事会正在筹备罢免创始人兼首席执行官黄仁勋,最快会在当地时...浏览全文>>
-
Google Research 最新一期播客围绕 AI 健康管理展开深度讨论,播客核心观点是 AI 健康赛道正在从医院一...浏览全文>>
-
英伟达 CEO 黄仁勋此前已经发布公开信承认存在婚外情,风波持续发酵之后,美国政坛出现截然不同的两种态度,...浏览全文>>
-
阿里巴巴在阿里云百炼平台上线 Qwen4-Max 预览版,作为通义千问新一代旗舰多模态模型,重点针对编程开发、复...浏览全文>>
- GTA 大战复联引发热议,GTA6 市场预期对标复联 IP,玩家模组也有超英对战内容
- 小米空调数字抽真空收获高口碑,95% 用户满意、87% 愿意主动推荐
- Google Research 播客探讨 AI 健康管理,行业转向日常持续监测
- 金摇杆年度游戏结果出炉,生化危机 9 拿下大奖,影之刃零 1% 票差惜败
- 微软 Ignite 2026 定档 11 月 17 日至 20 日旧金山举办,同步开放线上参会通道
- NVIDIA 扩大与 ElevenLabs 合作,联合推出面向企业与政府的语音智能体方案
- Google 发布 Gemini Decision 1 与 Decisions API,主打多模态快速封闭集决策
- a16z 引用 HUMAN Security 监测数据,AI Agent 流量两个月暴涨 8 倍
- 气血两补煲鸡汤的做法 家常滋补款
- 平面模特的要求与条件 入行选拔标准详解
- 外媒曝英伟达最快今日开会表决,董事会酝酿罢免 CEO 黄仁勋
- 2800 亿参数文心 5.5 Flash Preview 正式发布,游戏开发与 3D 建模能力升级
- 斯坦福 CS329Z《Engineering AI Agents》秋季课程上线 YouTube
- MiniMax H3 开源满一百天,已有 1472 个衍生模型基于该基座搭建
- ElevenLabs 官宣企业可微调语音智能体模型,支持基于业务数据持续优化
- Anthropic IPO 超额认购热度拉满,估值有望冲击十万亿人民币
- 广东盐焗鸡正宗做法 传统客家风味
- 青菜头的家常做法介绍 脆爽入味多种吃法
- 疑似秦始皇儿子面容复原事件,专家权威解读汇总
- 5 分钟搭建 DeepSeek Harness 顶配工作台完整配置教程
- 阿里巴巴预览发布 Qwen4-Max,强化编程与复杂 Agent 自主任务能力
- Google Labs 上线 Tabletop 实验,群组链接与文件可一键转为共享交互协作工具
- Lovart 平台上线 GPT Image 2.6,单张照片一键生成动态 GIF
- Gartner 奥兰多峰会发布,2027 年十大战略技术趋势正式出炉
- ElevenLabs 上线 ElevenAgents Memory 记忆功能,跨会话记住用户对话信息
- ElevenLabs Summit 预览 Interaction Engine,面向对话智能体实现多模型编排调度
- Sintropix 推出 AI 原生 ERP,实现每日结账 + 多国报税自动化
- a16z 发布报告,AI Agent 占据网络流量多数并且主导线上新文章创作
- AWS Nitro Sandboxes 正式推出,给每个容器配备独立硬件隔离 VM
- PyTorch 维护者 ezyang 讲解 fake process group,实现单 GPU 跑分布式代码测试
- Google Research 推出可穿戴信号测算健康年龄机器学习框架
- 美军基地附近拍到水母状 UFO,外形酷似博德之门 3 主脑
- 山东女子驾车撞翻 300 多斤切糕,摊主索赔 2 万多元车主称报价公道
- 如何在电脑上面玩手游 三种主流方案实操教程
- shake 的过去式 不规则动词变形详解
- seeyouletter 怎么回答 英语回信写法详解
- sci 论文级别介绍 分区与等级划分详解
- 存储芯片新一轮涨价行情解读
- iPhone20 Pro 全面大调整,沿用 20 年苹果物理按键将换成固态按键
- Win11 11 月补丁自动开启内存完整性,游戏最高掉帧 10%
