首页 >> 综合 > 快讯 >

Google DeepMind 发布 SL2T 模型,手语转文本功能落地 Pixel 11 机型

2026-10-26 19:53:52 来源:网易 编辑:满霞春 

Google DeepMind 全新研发的 SL2T 手语转文本模型正式走出实验室,原生搭载在 Pixel 11 手机当中,实现美国手语实时转英文文字,这项能力直接嵌入 Gboard 键盘与 Live Transcribe 实时转录两大系统工具,让手语使用者可以像普通人语音输入一样,对着前置摄像头做手势就能生成文字,覆盖聊天打字、网页搜索、文档编辑、Gemini 指令输入等全部文字输入场景。这项落地成果能够落地,依靠 SL2T 独创的端侧 + 云端混合计算架构,搭配海量多语种手语训练数据集,同时全程做好用户影像隐私保护;想要正常启用这项功能,需要先在 Gboard 工具栏开启手语输入入口,保证手机前置摄像头正常调用,同时保持网络通畅来完成云端文本转换;只要完成全部设置,就能实现连贯手势的流式文字输出,大幅降低手语使用者的文字输入门槛。下面从 SL2T 模型核心技术架构、Pixel 11 端侧运行流程、两大应用入口使用方法、模型性能指标、隐私安全设计、后续迭代规划六个板块做完整拆解。

一、SL2T 模型核心技术架构

1. 模型底层设计创新

传统手语识别方案都需要先把手语手势翻译成文字标注(gloss),再转为自然语句,中间环节会丢失面部表情、肢体动作等非手动语义信息;SL2T 直接跳过中间标注环节,把肢体坐标序列直接转换成完整文本,完整保留手语自带的语法与空间语义,大幅提升翻译流畅度。

2. 训练数据集规模

模型训练素材总量达到 10 万小时视频素材,覆盖全球 50 余种手语语种,其中美国手语(ASL)数据占比达到四分之一;多语种联合训练让模型掌握手语共通的动作结构,相比单语种模型识别精度实现跨越式提升。

3. 核心性能基准

在 FLEURS-ASL 权威测试基准下,SL2T 零样本测试得分达到 70 BLEURT,远超传统学术模型 37.2 的基线成绩,同时兼容单手、双手两种手语姿势,支持左利手用户正常使用,不会出现识别偏差。

二、Pixel 11 端侧完整运行流程

整套流程分为端侧本地处理与云端翻译两段,原始视频全程不会离开本机设备:

  1. 摄像头采集画面,交给本地 MediaPipe Holistic 视觉模型运行;
  2. 模型从每一帧画面提取出全身 130 个关键点坐标,形成数字骨架数据;
  3. 手机自动删除原始视频画面,仅把坐标数值序列上传至谷歌云端服务器;
  4. 云端 SL2T Transformer 模型读取坐标数据流,实时生成流式英文文本;
  5. 文字结果回传到 Pixel 11,直接展示在 Gboard 输入框或者 Live Transcribe 界面中。

三、Pixel 11 两大功能入口操作步骤

入口 1:Gboard 键盘手语文字输入(全场景打字)

  1. 打开手机设置,将 Gboard 更新至最新版本,把键盘语种切换为美式英语;
  2. 点开 Gboard 工具栏,找到手语转文本图标,点击开启调用前置摄像头;
  3. 对着手机镜头打出连续手语动作,屏幕会实时生成英文文字;
  4. 生成内容可以直接发送消息、填写搜索框、撰写文档或者向 Gemini 下达指令。

入口 2:Live Transcribe 实时转录(面对面对话场景)

  1. 打开 Live Transcribe 应用,开启语音转文字,把对方说话内容转为字幕;
  2. 开启手语输入开关,自己对着镜头打手语,手语内容会同步生成文字回复;
  3. 双方对话全程以文字字幕交互,不用手动打字回复,适配线下一对一沟通场景。

四、功能适配与硬件适配范围

  1. 首发机型:仅 Pixel 11 全系列机型原生支持,其他安卓机型暂未开放适配;
  2. 首发语种:仅支持美国手语(ASL)转为英文文本,其他手语语种会在后续版本逐步开放;
  3. 运行条件:需要稳定网络连接,纯离线模式下暂时无法完成云端翻译计算;
  4. 手势兼容:同时支持单手手势、双手手势,兼容左利手、右利手不同使用习惯。

五、全链路隐私安全设计

  1. 原始视频画面只在 Pixel 11 本机处理,处理完成立刻自动删除,原始视频不会上传云端;
  2. 只有肢体关键点坐标这类纯数值数据才会传输到服务器,不存在人脸影像泄露风险;
  3. 系统不会自动留存手势输入记录,只有用户主动参与模型优化项目时,才会选择性保存数据;
  4. 所有传输数据全程加密,严格遵守移动端隐私规范,保障手语使用者的信息安全。

六、产品后续迭代规划

  1. 设备拓展:后续会把 SL2T 手语转文本能力逐步开放到更多 Pixel 机型与主流 Android 设备;
  2. 语种扩充:在完成美国手语落地之后,陆续增加其他地区手语语种,扩充语言覆盖范围;
  3. 离线优化:持续优化模型体积,未来逐步实现部分手势识别在本机离线完成,降低网络依赖;
  4. 场景拓展:把手语输入能力拓展到更多系统应用,覆盖视频通话实时字幕、线下无障碍沟通等场景。

【相关 FAQ】

问题 1:Google DeepMind 推出的 SL2T 手语转文本功能,在 Pixel 11 上可以在哪些软件里使用?

回答 1:SL2T 手语转文本能力在 Pixel 11 上主要嵌入 Gboard 键盘和 Live Transcribe 两大工具;在 Gboard 里,所有文字输入框都可以调用手语输入,包括聊天软件、搜索页面、文档、Gemini 指令输入;在 Live Transcribe 中可以把手语直接转换成文字,用来在线下对话里给出文字回复,覆盖绝大多数日常文字交互场景。

问题 2:Pixel 11 搭载的 SL2T 手语转文本,会把拍摄的视频上传到网络吗?

回答 2:不会上传原始视频文件。Pixel 11 会在本机通过 MediaPipe 模型把手势画面转换成 130 个身体关键点坐标,原始视频会直接在手机内删除,只有纯数字坐标数据才会上传到云端完成翻译,全程不会向外传输人像视频,充分保护用户隐私。

问题 3:SL2T 手语转文本模型相比过去手语识别技术,核心优势是什么?

回答 3:传统手语识别需要先把手势转换成文字标注,再拼接成句子,很容易丢失面部表情、肢体动作带来的语义;SL2T 直接从肢体坐标序列翻译为完整文本,跳过中间标注环节,保留手语独有的语法信息;同时模型基于 50 多种手语的海量数据联合训练,识别精度远超单语种模型,在权威测试中成绩大幅领先传统方案。

问题 4:除了 Pixel 11 之外,其他手机现在能不能使用 SL2T 手语转文本功能?

回答 4:现阶段 SL2T 手语转文本仅在 Pixel 11 机型原生落地,其他安卓手机暂时没有开放适配计划;后续谷歌会逐步把这项能力拓展到更多 Pixel 机型与主流安卓设备,同时持续扩充支持的手语语种,进一步扩大无障碍覆盖范围。

问题 5:使用 Pixel 11 的 SL2T 手语转文本,左右手手势都能正常识别吗?

回答 5:可以正常识别。SL2T 模型在训练阶段就加入了左利手手语素材,同时兼容单手手势与双手手势,不管是左手打手语还是右手打手语,都可以稳定识别并转换成文字,不会出现手势识别失效的问题。

【参考资料】

[2026-10-15] Google SL2T 手语输入法后续机型与语种更新计划 TechLab

[2026-09-25] Pixel 11 手语转文本功能使用细节解读 aivancity.ai

[2026-08-21] Pixel 11 手语转文本开启教程 The Keyword(谷歌官方博客)

[2026-08-13] Pixel 11 搭载 SL2T 实现手语转文字 Notebookcheck 中文版

[2026-08-12] DeepMind 发布 SL2T 手语转文本模型技术白皮书 Google DeepMind 官网

免责声明:

本文仅整理 Google DeepMind SL2T 模型与 Pixel 11 手语转文本功能的公开技术资料与产品信息,仅作为技术研究与功能使用参考;功能支持语种、机型适配范围、离线能力会跟随官方版本迭代持续更新;该手语转文本工具仅适用于日常非正式沟通场景,不能替代专业手语翻译人员;本文不承担功能识别误差、设备适配变动带来的相关责任。

 
最新文章
站长推荐