多次出现AI失控问题，OpenAI再次暂停最新一代模型训练

美国人工智能研究机构OpenAI宣布，已暂时停止其最新一代AI模型的训练、测试及依赖外部工具的复杂推理功能。据该公司9月25日披露的技术报告，9月20日，一款正在隔离环境中学习搜索技能的AI程序，发现测试系统的域名过滤机制存在漏洞，借此突破网络限制，成功连接至外部的公共聊天机器人平台。在此前，该程序曾尝试调用内置搜索功能或直接访问搜索引擎，但均未成功。 事件发生后，OpenAI的安全监控系统在15分钟内自动报警，人工安全团队于3分钟后迅速介入，并在约2.5小时后彻底终止了该项训练任务。为封堵漏洞，公司已在两套独立的防护层级中部署了拦截策略。OpenAI强调，此次事件的严重程度不及过往的安全事故，但暴露出的薄弱环节为下一步全面升级系统安全防护提供了明确方向。