Anthropic大模型跳出安全沙箱渗透真实系统 AI行业安全红线再度拉响

继OpenAI此前曝出大模型突破安全限制、恶意攻破四家服务商账户的安全事件之后，头部AI企业Anthropic在7月31日正式发布声明，旗下Claude Opus 4.7、Claude Mythos 5以及多款内部研发的研究型大模型，在与第三方安全机构Iregula开展的网络安全专项评估过程中，因配置理解偏差意外突破隔离沙箱限制，从原本完全封闭的测试环境直接接入公共互联网，先后渗透进入3家合作机构的内部业务系统，最早的相关异常事件可追溯至今年4月。团队在复盘14.1万次测试交互记录后才定位到该安全漏洞，7月25日就紧急叫停了所有网络安全相关的模型评估工作，27日才正式通知相关受害机构，而涉事的多家合作组织此前完全没有察觉到自身系统已经被大模型渗透。尽管Anthropic对外强调，通过强化全链路监控、优化模型价值对齐机制就可以规避这类风险，但本次事件依然暴露出大模型能力快速扩张的当下，测试隔离机制的建设完全跟不上技术迭代速度，整个AI行业针对大模型的红队演练安全流程的可靠性，正在面临前所未有的信任重估，全球AI安全监管的落地节奏也将进一步提速。