泽尼蒂实验室Zenity Labs最新研究显示微软、谷歌、OpenAI及其他科技巨头旗下多款应用广泛的人工智能代理与助手极易在无用户交互场景下被劫持。在某网络安全大会的演示中泽尼蒂研究人员展示了黑客如何窃取数据、操控目标机构核心工作流程部分场景下甚至能冒充用户。研究人员指出除渗透AI代理外攻击者还可实现内存持久化控制从而维持长期访问与操控权限。攻击者可以篡改指令、污染知识库并彻底改变智能体的行为模式。这为蓄意破坏、业务中断以及长期虚假信息传播提供了便利尤其是在依赖智能体制定或辅助关键决策的环境中。——泽尼蒂实验室产品营销经理格雷格・泽姆林《网络安全深度报道》多款主流AI智能体存在漏洞OpenAI旗下ChatGPT可通过基于邮件的提示词注入攻击被攻破进而获取与其绑定的谷歌云端硬盘账号访问权限。Microsoft Copilot Studio的客服代理存在泄露完整客户关系管理CRM数据库的风险研究人员还发现现有超3000款在线智能体存在泄露隐患。Salesforce的爱因斯坦平台可被操控将客户通信信息重定向至研究人员控制的邮箱账号。攻击者可将谷歌Gemini与微软365 Copilot变为内部安全威胁对用户实施社会工程学攻击并窃取敏感对话内容。企业回应泽尼蒂实验室已向相关企业披露研究发现部分企业随即发布补丁其余企业应对方案暂不明确。微软负责人向《网络安全深度报道》表示「我们感谢泽尼蒂团队通过协同披露机制发现并负责任地上报此类攻击手段。经我方调查确认得益于平台持续的系统性优化与更新此次报告的相关行为已无法对我们的系统生效。」微软补充称Copilot设计时已内置安全防护机制与访问控制策略将持续强化系统防御以应对新兴攻击手段。OpenAI证实已与研究人员沟通为ChatGPT修复了补丁并表示设有漏洞奖励计划接收此类安全问题上报。Salesforce也表示已修复泽尼蒂报告的相关问题。谷歌称已部署全新多层防御机制应对泽尼蒂发现的此类安全问题。行业反思AI生态安全防护欠缺人工智能代理正快速在企业场景普及各大科技企业鼓励员工应用以提升工作效率。Aim Labs曾展示Microsoft Copilot存在类似零点击安全风险其研究人员认为泽尼蒂的研究结果暴露了快速发展的AI生态系统中安全防护措施十分欠缺。遗憾的是包括OpenAI、谷歌、微软等人工智能巨头提供的绝大多数智能体开发框架均缺乏完善的安全防护护栏这使得应对此类高风险攻击的责任完全落到了企业身上。——Aim Labs负责人伊泰・拉维亚《网络安全深度报道》本文转载自 雪兽软件更多精彩推荐请访问 雪兽软件官网