首页 > 快讯 > AWS 和 Intuit 的研究人员推出零信任安全模式,确保模型上下文免遭工具中毒及未经授权的访问保护

AWS 和 Intuit 的研究人员推出零信任安全模式,确保模型上下文免遭工具中毒及未经授权的访问保护

发布时间:2025-04-18 13:48:06 | 责任编辑:字母汇 | 浏览量:14 次

随着人工智能(AI)系统愈加依赖实时与外部数据源和操作工具的交互,这些系统现在不仅需要进行动态操作,还需在不断变化的环境中做出决策,并访问实时信息流。为了实现这些功能,AI 架构正逐渐演变为采用标准化接口,以便连接模型与服务和数据集,促进无缝集成。其中,模型上下文协议(MCP)的引入,允许 AI 模型直接与云平台、开发环境和远程工具进行交互,从而实现超越静态提示的能力。然而,这种新能力带来了显著的安全隐患。
当 AI 被赋予执行任务或基于来自各种外部来源的输入做出决策的能力时,攻击面也随之扩大。恶意攻击者可能会操纵工具定义或注入有害指令,导致操作受损。敏感数据可能因任何环节的安全漏洞而遭到滥用或外泄。为了应对这些威胁,亚马逊网络服务(AWS)和 Intuit 的研究人员设计了一种专门针对 MCP 动态复杂生态系统的安全框架。
这一框架基于零信任的原则,采用多层防御系统,覆盖从 MCP 主机到客户端、服务器环境及连接工具的各个环节。研究团队提出了一系列具体步骤,以保护 MCP 环境,包括工具认证、网络分段、沙箱化和数据验证等。该框架不仅关注识别潜在漏洞,还将理论风险转化为结构化、实用的保护措施。
研究表明,该框架在性能评估中取得了显著成果。例如,工具描述的语义验证成功检测了92% 的模拟中毒尝试。网络分段策略则使成功建立命令与控制通道的次数减少了83%。通过动态访问授权,攻击面窗口时间减少超过90%。这些数据显示,量身定制的方法显著增强了 MCP 的安全性。
此外,研究还探讨了多种部署模式,包括为 MCP 构建隔离安全区、API 网关支持的部署,以及基于 Kubernetes 的容器化微服务。这些模式的利弊得到了详细说明,强调与现有企业系统的集成,以确保安全策略的一致性和监控的统一性。
论文:https://arxiv.org/abs/2504.08623
划重点:
🌐 ** 模型上下文协议(MCP)使 AI 能够实时与外部工具和数据源互动,增加了安全复杂性。**
🔒 ** 研究人员识别了主要风险,包括工具中毒和数据外泄,并提出了一种基于零信任的安全框架。**
📈 ** 框架经过测试,显示出在多项安全措施上取得了显著的检测和防护效果。**

AWS 和 Intuit 的研究人员推出零信任安全模式,确保模型上下文免遭工具中毒及未经授权的访问保护

AWS(亚马逊网络服务)与Intuit的研究团队提出了一种基于零信任安全框架的解决方案,旨在保护模型上下文协议(MCP)免受工具中毒和未授权访问。

研究背景

随着人工智能(AI)系统越来越多地依赖实时与外部数据源和操作工具的交互,模型上下文协议(MCP)应运而生,允许AI模型直接与云平台、开发环境和远程工具进行交互。然而,这种新能力也带来了显著的安全隐患,例如攻击者可能操纵工具定义或注入有害指令,导致操作受损,敏感数据可能因安全漏洞而遭到滥用或外泄。

安全框架的核心内容

该零信任安全框架基于多层防御系统,覆盖从MCP主机到客户端、服务器环境及连接工具的各个环节。主要措施包括:

  • 工具认证:通过OAuth 2.0+、DPoP等方式将令牌与客户端实体绑定,降低令牌盗用风险。

  • 网络分段:通过网络微分段技术,减少攻击者在网络中横向移动的可能性。

  • 沙箱化:对工具运行时的行为进行持续监测,确保其没有异常流量或未授权访问。

  • 数据验证:对工具描述进行语义验证,检测并阻止恶意内容。

实验效果

在性能评估中,该框架取得了显著成果:

  • 工具描述的语义验证成功检测了92%的模拟中毒尝试。

  • 网络分段策略使成功建立命令与控制通道的次数减少了83%。

  • 动态访问授权将攻击面窗口时间减少超过90%。

部署模式

研究还探讨了多种部署模式,包括为MCP构建隔离安全区、API网关支持的部署,以及基于Kubernetes的容器化微服务。这些模式的利弊得到了详细说明,强调与现有企业系统的集成,以确保安全策略的一致性和监控的统一性。

总结

AWS与Intuit研究团队提出的零信任安全框架,为应对MCP带来的新安全挑战提供了系统化的解决方案。通过多层次的防御措施和持续的验证机制,该框架显著增强了MCP的安全性,为企业在灵活性与安全性之间找到了平衡点。

©️版权声明:
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。

最新Ai信息

最新Ai工具

发表回复