近日,一支由资深白帽黑客组成的独立安全团队“Hacktron AI”,在获得OpenAI官方授权后开展了一项漏洞测试。该团队借助Anthropic旗下的Claude大模型,成功挖掘并利用了一系列系统漏洞,不仅获取了一名OpenAI员工的ChatGPT账号控制权,还进一步访问了公司内部的Monorepo私有代码库。目前,OpenAI已向该团队发放了6500美元的合规奖励,并确认相关安全漏洞已全部修复。
Δ