6月2日（路透社）——根据周二发布的一项行政命令，特朗普政府将要求领先的人工智能开发商自愿提交其最强大的模型，供政府进行网络安全测试，然后再向公众发布。此前，华盛顿对Anthropic公司的Mythos等强大的新型人工智能系统的安全担忧日益加剧。美国总统唐纳德·特朗普签署了一项行政命令。该指令指示财政部、国防部、商务部和国土安全部以及其他政府官员和机构与人工智能开发商达成协议，以测试他们的模型。根据该命令，美国各机构将有最多30天的时间对这些模型进行测试，之后才能将其发布给政府以外的组织。该命令还指示各机构重点加强政府各部门的网络防御能力。
特朗普人工智能战略的转变
这项行政命令表明，特朗普正在转变其人工智能战略，并采取更积极主动的方式监控这项技术的能力。自重返白宫以来，他一直表示联邦政府应该对科技行业采取不干预的态度，并试图阻止各州采纳他反对的人工智能法规。
总统推行自愿测试的决定可能会损害该行业的利润，因为它会减缓新模型的推出速度，或者促使各公司改变其生产方式以解决安全问题。
一名美国高级官员在5月就该行政令制定情况与记者通话时表示，Anthropic、OpenAI 以及 Alphabet（GOOGL.O）旗下的谷歌曾就网络安全问题与美国政府会面。
谷歌高管肯特·沃克称该行政命令是“向前迈出的重要一步”，而Anthropic 公司则表示期待与白宫合作，支持该命令的实施。
OpenAI首席执行官萨姆·奥特曼表示，这项命令“取得了恰当的平衡”。奥特曼说：“美国应该在人工智能领域发挥领导作用，继续开发最好的模型，确保它们的安全性，并将网络工具交付给值得信赖的防御者。”
特朗普原定于5月21日签署一项关于人工智能的行政命令。但他当天就推迟了签署，称他不喜欢该命令的某些方面，也不想采取任何可能削弱美国在与中国的人工智能竞争中地位的措施。
保护美国重要行业
财政部长斯科特·贝森特在五月中旬表示，财政部在制定这项命令时咨询了各家银行的意见。该命令要求贝森特与人工智能开发商和关键基础设施提供商合作，扫描软件中的网络安全漏洞，并针对这些漏洞开发补丁。关键基础设施指的是对美国经济至关重要且理应受到特殊保护以免受攻击的部门，例如银行、应急服务部门和医院。
联邦政府已推行自愿性人工智能测试数年，OpenAI 和 Anthropic 等公司已将其模型提交给美国商务部人工智能标准与创新中心（在前总统乔·拜登执政期间曾使用过另一个名称）进行审查。今年 5 月，商务部宣布谷歌、xAI和微软已同意提交其人工智能模型进行安全测试，但相关细节随后从其网站上消失。
以下为原文翻译
根据美利坚合众国宪法和法律赋予我作为总统的权力，现命令如下：由于美国人工智能（AI）产业拥有巨大的人才和创新能力，并且我们拒绝以过度繁重的监管扼杀这种创新，美国继续在人工智能领域引领世界。我的政府通过削减前任政府加诸美国人工智能开发者和研究人员的官僚限制，并转而鼓励人工智能创新、加快政府和产业负责任地采用人工智能，释放了人工智能领域巨大的技术增长和经济投资。先进人工智能能力使我们的国家更加强大，但也带来了新的国家安全考量，需要行政部门、机构及其组成单位采取协调行动。随着这些能力不断发展，我的政府将继续与产业界密切合作，确保以最快速度部署最优且最安全的技术，以应对任何和所有针对我国的威胁。我们将继续领导“美国优先”的网络安全努力，以同时增强我国国家安全和全球人工智能主导地位。美国的政策是：通过与私营部门合作，促进人工智能创新与安全，使政府和私营部门的信息系统现代化，并增强其抵御外部威胁的能力；保护美国的创造力和知识产权免遭对手利用和窃取；培育美国先进的人工智能赋能能力。（一）自本命令发布之日起30日内，国家安全系统委员会应当按照本命令的目的，采取适当且迅速的行动，优先加强《美国法典》第44编第3552(b)(6)(A)条所定义的国家安全系统的网络防御。（二）自本命令发布之日起30日内，战争部长应当按照本命令的目的，采取适当且迅速的行动，优先加强战争部信息系统的网络防御。（三）自本命令发布之日起30日内，国土安全部长应当通过网络安全和基础设施安全局（CISA）局长，并会同管理和预算办公室（OMB）主任、总统国家安全事务助理以及国家网络总监，发布具有约束力的业务指令和其他适当指南，以：加快并优先加强民用联邦政府信息系统的网络防御，以保护我国的重要职能；建立或扩大增强人工智能赋能防御工具的联邦项目和网络安全服务；便利各机构、州和地方政府，以及农村医院、社区银行、地方公用事业等关键基础设施运营者获取网络安全工具和服务，包括在适当情况下获取被涵盖的前沿模型。（四）自本命令发布之日起30日内，财政部长应当会同国家网络总监、战争部长——通过国家安全局（NSA）局长——以及国土安全部长——通过CISA局长——与人工智能产业和关键基础设施运营者在自愿合作基础上，建立人工智能网络安全信息交换中心。该中心负责协调并避免软件漏洞扫描中的冲突，发现和验证此类漏洞，并协调、优先安排漏洞修复和补丁分发。（五）自本命令发布之日起30日内，OMB主任应当与国家网络总监和CISA局长协调，确定是否有任何联邦拨款项目具备可用且相关的资金，可用于支持开发先进人工智能漏洞检测的申请者。（六）自本命令发布之日起60日内，人事管理办公室主任应当扩展“美国技术力量”信息网络安全专家的招聘和安置通道。自本命令发布之日起60日内，财政部长、战争部长——通过NSA局长——以及国土安全部长——通过CISA局长——应当会同白宫幕僚长——通过国家网络总监——、总统科学技术助理（APST）、商务部长——通过国家标准与技术研究院院长——并酌情与其他机构协调，采取以下行动：（一）制定并维护一个涉密基准测试程序，用于评估人工智能模型的先进网络能力，并确定人工智能模型在何种门槛下应当被指定为本命令所称的“被涵盖的前沿模型”。相关评估可酌情与人工智能开发者和研究人员共享。此类指定应当由NSA局长作出，并会同国家网络总监、APST、CISA局长以及战争部其他适当代表进行。（二）与人工智能开发者设计一个自愿框架，使开发者能够：与联邦政府接洽，以确定正在开发中的模型是否符合“被涵盖的前沿模型”的指定条件；在适当的保密、网络安全、内部人员风险、知识产权保护、使用和不披露要求约束下，在其计划向其他可信合作伙伴发布相关模型之前，向联邦政府提供对被涵盖前沿模型的访问权限，期限最长可达30日；与联邦政府合作选择可信合作伙伴，使其能够提前访问被涵盖的前沿模型，以促进安全创新并加强关键基础设施的网络安全。（三）本条任何内容均不得被解释为授权设立强制性的政府许可、预先审批或准入许可要求，用于规范新人工智能模型，包括前沿模型的开发、公布、发布或分发。司法部长应当优先执行《美国法典》第18编第1028条、第1030条、第1343条以及所有其他适用的联邦刑事法律，打击任何利用人工智能非法访问计算机或未经授权损害计算机，或者在实施此类非法访问过程中利用人工智能进一步实施其他犯罪的人。这包括侵入任何公共或私人信息技术系统，或者使用人工智能智能体非法访问数据或信息，并随后将该等数据或信息用于犯罪或非法目的。（一）本命令任何内容均不得被解释为损害或以其他方式影响：管理和预算办公室主任有关预算、行政或立法提案的职能。（二）本命令应当在符合适用法律且受制于拨款可用性的前提下实施。（三）本命令无意、也不会创设任何实体或程序上的权利或利益，使任何一方能够在法律或衡平法上针对美国、其部门、机构或实体、其官员、雇员或代理人，或者任何其他人主张强制执行。
本文系转载，原文来源微信公众号AIGverse《特朗普发布AI安全行政令（附全文）》
