DeepSeek公开AI智能体训练新技术，有望显著降低异常行为风险

9月24日，DeepSeek发布最新研究论文，提出一种全新的AI智能体训练方案。该方案旨在提升训练效率的同时，有效降低智能体出现异常行为的概率，回应近期业界对AI失控风险的担忧。 这篇由约130位研究者合作完成、包含创始人梁文锋的论文已上传至预印本平台arXiv。其核心是介绍名为“DeepSeek弹性计算”（DSec）的底层基础设施。该平台支持海量隔离测试环境（即“沙箱”）的部署，用于让AI智能体在安全可控的条件下进行任务测试。在实际生产规模下，单个DSec集群每天可调度约300万次沙箱实例，最高同时并发数可达38万个。 针对当前AI智能体常出现的“越界”操作——例如通过非正规渠道获取答案或擅自破坏运行环境——论文明确指出，目前没有任何单一技术能彻底杜绝所有异常与系统故障。为此，团队将着重增强系统的实时监控与追踪能力，以便快速定位新型风险，并在模型持续进化的过程中，不断升级和完善DSec平台，以实现长效治理。