AI 提升生产力却引发数据安全问题智能代理和生成式 AI 为企业专业人士带来了更多信息和见解但这一趋势可能过犹不及。在最近一次会议上企业 AI 部署的资深人士对全力投入 AI 的专业人士提出警告。因数据安全问题企业高管重新评估内部可能泄露的信息导致提高员工生产力的 AI 部署暂时停止。在纽约市最近举行的 Veeam 会议小组讨论中高管们强调 AI 并非问题根源。富达投资AI 引发数据安全问题富达投资高级副总裁史蒂夫·麦金太尔描述其拥有 40 万名员工的公司通过 AI 提示让长期隐藏在公司深处的数据浮出水面。例如法务部门在员工使用 AI 搜索两天后就反馈遇到问题AI 调出了多年前 SharePoint 上的所有 PowerPoint 文件。麦金太尔认为这暴露出的是数据安全问题而非 AI 本身的问题。安永面临数据所有权挑战安永企业技术首席架构师维姆·吉尔登表示公司面临确定全球独立附属机构网络中数据所有权的挑战。当企业大规模搜索功能启动各种信息浮现但安永全球并不拥有所有数据成员公司都有自己的数据导致数据管理混乱。建立防护机制吉尔登表示安永的首要任务是“找出数据所有者”其次关闭所有权限只有获得许可的用户才能使用 Copilot 工具。数据所有权验证过程包括识别和标记企业内的所有数据AI 可帮助标记非结构化数据知识库。标记不能仅停留在高级标签层面还需设置地理限制、地理标记、业务线标记并与合同挂钩。所有元数据都要写入合同并编入技术架构。治理是关键高管们强调治理是所有 AI 实施工作成功的关键。麦金太尔认为要清楚使用的内容确保资产清单准确与已注册和批准的用例匹配。还要思考智能代理的安全运行环境、与基础模型的交互方式以及建立怎样的架构来监控其运行。此外建立智能代理的身份也是一个挑战。