安全研究机构披露Gemini语音助手潜在漏洞，涉及多语言指令混淆风险

近日，网络安全研究公司SafeBreach发布报告，指出谷歌Gemini人工智能语音助手存在安全设计隐患，可能导致系统在用户不知情的情况下执行未经授权的指令。

根据SafeBreach发布的研究成果，该潜在风险主要源于系统在处理多语言上下文及语音交互反馈时的逻辑漏洞。研究人员发现，攻击者可能通过构造特定的通知内容，利用“多语言混淆”策略，将恶意指令隐藏在用户难以识别的语种文本之后。由于系统在处理混合语言信息时存在分类偏差，可能导致用户误以为其操作的是正常信息，从而在无意中授予系统权限。

此外，针对语音交互场景的测试显示，Gemini在朗读通知内容时，其自动过滤超链接文本的机制可能被恶意利用。当用户在不明就里的情况下对语音提示做出肯定答复时，系统可能将用户的授权行为错误地关联至隐藏的恶意链接指令，进而引发安全权限越权。

SafeBreach在报告中警告称，此类攻击若被成功实施，攻击者可能借此操控与手机关联的智能家居设备，或通过篡改通讯录等方式为社交工程诈骗制造条件。针对该漏洞，谷歌方面已做出回应并着手优化内容分类器机制，以强化系统对恶意输入内容的识别与防御能力。

此次事件再次凸显了当前大语言模型在多模态交互及跨语言处理中的安全挑战。专家建议，在人工智能助手的功能日益拓展的背景下，开发者需进一步完善身份验证与意图识别机制，用户也应保持警惕，谨慎处理来自陌生源头的推送信息。