2026年7月19日，中国新一代人工智能发展战略研究院联合安远AI、清华大学人工智能国际治理研究院，在世界人工智能大会（WAIC）上共同发布了《前沿AI风险与应急响应研究报告（征求意见稿）》。该报告是国内首份聚焦前沿AI风险及其应急体系建设的研究，报告直面前沿AI对网络、公共卫生、金融等安全攸关领域突发事件的风险重塑作用，识别治理痛点，呼吁各界共同探讨如何构建适配前沿AI风险的应急响应体系。

如果不加干预，前沿AI可能造成“灾难性危害”——包括联合国在内的多个治理机构和人工智能专家已经发出警示。然而，目前针对前沿AI风险的治理工具与制度安排，大多集中于事前预防管控环节。与之相对，当前全球在前沿AI引发灾难性事件后的应急响应范式与能力方面，普遍仍有建设空间。一旦灾难性事件发生，可能出现无法逆转的严重影响。

我国已经在顶层战略层面开始关注适配人工智能风险的应急响应体系建设。习近平主席在刚刚过去的2026年世界人工智能大会开幕式发表主旨讲话，明确提出要“推动构建法律法规、技术监测、风险预警、应急响应体系”。事实上，在2026年3月印发的“十五五”规划纲要、2025年2月颁布的《国家突发事件总体应急预案》中，加强人工智能安全监测、健全覆盖“应急响应”的人工智能风险防控体系，也已经是国家一项重要部署。

但是，面向前沿AI风险的应急响应体系建设，具体要做什么、怎么做，还有很多问题需要研究。这份报告从最基础的问题入手，分析前沿AI风险所引发的突发事件与以往相比有何不同。参考风险管理和应急管理等领域的风险传导过程研究，报告把风险向危机演进的过程抽象成“源头—演化—后果”三个阶段，分析前沿AI在每个阶段的特殊风险点（例如，前沿AI辅助下，网络攻击等恶意行为门槛降低、自动化攻击压缩响应时间、危害突破以往天花板等。）正是这些前沿AI风险点，导致风险“看不清”，危机应对“来不及”，损害后果“管不住”，从而给应急响应造成挑战。

为了让分析更加具体，基于风险可能性、后果严重性和治理可干预性，报告选择了网络安全、公共卫生、金融安全三个领域深入分析。每个领域遵循一致的分析框架：首先简述现有制度抓手及其有效运作的关键假设，然后介绍该领域前沿AI的具体风险趋势及其对制度抓手、制度关键假设的潜在冲击，最终引出前沿AI带来的治理挑战。当然，前沿AI风险所引发的事件远不止以上三个领域，因此报告也简要介绍了跨领域复合型事件，如网络攻击事件向物理世界伤害传导，以及虚假信息和认知操纵等引发的现实危机等。

报告最后从宏观层面的顶层战略设计，到微观层面的应急预案、能力建设、运行机制和协同治理，提出十条对策建议。构建能适配前沿AI风险的应急响应体系，目前还处于研究初期，希望报告的分析和建议，能为跨学科交流与研究提供补充视角与有益思路。

本报告的主要贡献者 安远AI：陈欣怡（主要撰写人）、方亮、谢旻希、张静昕、李心宁；中国新一代人工智能发展战略研究院、南开大学信息与传播学院：王芳、唐楚雄、张馨月、周思蒙；清华大学人工智能国际治理研究院：肖茜；浙江大学智能安全与智慧应急团队：杜跃进