7月31日，ISC.AI 2024数字安全峰会在北京国家会议中心顺利召开。本次峰会以“打造安全大模型，引领安全行业革命”为主题，呼吁行业以大模型重塑安全体系，守护数字经济稳健发展。先进计算与关键软件（信创）海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克受邀出席活动并发表演讲。

龚克指出，随着生成式人工智能驱动AI发展进入新阶段，AI治理随之也变成了一个突出问题。AI治理应遵循有利发展、为人服务和基于伦理三点原则，要清楚认识到技术自身的不足，以及人对于AI技术的恶用、滥用、误用等风险。他强调，防止AI“作恶”要建立明确的伦理标准、提高透明度和问责制、完善法律法规、内置安全机制等。此外，要坚持开放创新，在信创基础上发展安全可控的AI生态。

中国工程院院士吴世忠、中国工程院院士邬江兴、360集团创始人周鸿祎、华为副总裁岳坤等多位院士专家及国内外企业领袖在峰会上发表演讲，深入剖析人工智能技术发展带来的安全挑战与解决方案，共同探索安全大模型驱动数字安全发展新路径。