【海外智库观察221期】海外智库评拜登政府人工智能监管行政令

点击蓝字

关注我们

海外智库观察

2023年10月30日，美国总统拜登签署了《关于安全、可靠和可信地开发和使用的人工智能的行政命令（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）》。该行政令包含了八项指导原则：

首先，这项行政令强调人工智能必须安全可靠，要求对人工智能系统进行稳健、可靠、可重复和标准化的评估，包括在投入使用之前进行测试，在部署后进行监测。还强调在应对人工智能的不透明性和复杂性的同时，解决人工智能系统最紧迫的安全风险，包括生物技术、网络安全、关键基础设施和其他国家安全危险。

其次，行政令强调促进负责任的创新、竞争与合作，以确保美国在人工智能领域处于领先地位。包括知识产权、在全美范围内推动人工智能研究、扩大在关键领域拥有专业知识的高技能移民等问题。

第三，承诺支持美国工人，要求确保所有人安全地享受技术创新带来的收益和机遇。

第四，行政令需要与拜登政府促进公平和公民权利的宗旨保持一致。

第五，保护消费者的权益，特别是在医疗保健、金融服务、教育、住房、法律和交通等关键领域。

第六，强调保护美国人的隐私和公民自由。联邦政府将确保数据的收集、使用和保留合法、安全，并降低隐私和保密风险。

第七，要求管理联邦政府自身使用人工智能的风险，并提高其内部能力，以规范、管理和支持负责任地使用人工智能。并强调人才是国家最大的财富。

第八，强调美国应引领全球社会、经济和技术进步。一方面，拜登政府计划与国际盟友和合作伙伴一起制定一个人工智能治理框架，以促进共同应对挑战。另一方面，美国将寻求与其他国家（包括竞争对手）共同促进负责任的人工智能安全和安保原则与行动，同时领导关键的全球对话与合作，以确保人工智能造福整个世界。

智库观点

2023年11月9日，美国战略与国际研究中心发布其美国创新项目副主任兼研究员Alexander Kersten撰写的评论文章《在人工智能时代保护人类发明（Safeguarding Human Invention in the Age of Artificial Intelligence）》。文章认为，这项行政命令最受瞩目的一点是它建议人工智能公司进行安全测试并与政府分享测试结果，为这一新兴的关键技术领域制定标准和行业规范。文章指出，拜登政府的行政令标志着美国在人工智能领域的一项重要转变。这一命令不仅是对人工智能在全球竞争力和国家安全中将发挥日益重要角色的认可，也是针对中国在尖端芯片生产方面增强其人工智能能力的明确回应。例如，美国的出口管制措施，特别是针对半导体和制造工具的限制等措施不仅关注技术出口的管控，也强调了对人工智能公司进行安全测试并与政府共享结果的重要性。在人工智能技术快速发展之际，美国专利商标局（United State Patent and Trademark Office, USPTO）面临的主要挑战之一是如何在发明过程中处理人工智能的使用和发明权问题。目前并没有关于人工智能的公认定义，但包括个人利益相关者、协会、公司和外国知识产权局在内的普遍观点为人工智能技术水平仅限于“狭义”人工智能，指的是被编程执行单一且经常重复性任务的人工智能，而不是能够解决与通用人工智能相关的更广泛问题的人工智能。人工智能仍然是拓展人类创造力的先进工具，但还不具备独立发明或构思的能力。并且关于人工智能如何增强人类创造力的讨论仍然复杂且充满争议。美国专利制度是激励创新的重要经济工具，其核心是通过鼓励发明人向公共领域披露发现，来推动研究、开发和商业化，从而激励创新。这一系统深植于美国宪法之中，要求发明人证明其产品的实用性、新颖性和非显而易见性。然而，随着人工智能技术的发展，传统的专利法面临新的挑战。例如，“统一感知自主引导（Autonomous Bootstrapping of Unified Sentience，DABUS）”软件专利申请挑战了当前法律对发明人必须是人类的定义，引发了全球范围内关于非人类实体的发明权和知识产权制度的讨论。尽管澳大利亚和南非都向DABUS授予了专利，但美国、欧盟、英国、新西兰和日本不承认非人类发明家。文章认为人工智能是拓展人类创造力的先进工具，但还不具备独立发明或构思的能力。人类应继续被视为真正的发明者，即使这些发明者将人工智能作为实验和发现的“先进工具”。因此，在人工智能快速发展的过程中，保护和促进人类发明权的作用变得至关重要，专利制度应继续支持利用人工智能能力的人类创新者。而拜登的行政命令在这方面明确了商务部和美国专利商标局有责任向利益相关者澄清与人工智能和创新专利发明人相关的问题，例如，说明发明权和在发明创造过程中使用人工智能（包括生成式人工智能）的问题，包括人工智能系统在发明创造过程中发挥不同作用的示例，以及在每个示例中应如何分析发明权问题。此外，文章还认为，随着人工智能的加速发展，新的问题也将随之出现。例如，发明贡献的界限可能会被模糊，人工智能是否可以被视为联合发明人，用于训练人工智能的数据集是否应受知识产权保护等问题。因此，文章建议美国需要构建一个能够提供具体指导的知识产权制度，以应对人工智能辅助发明和其他新兴问题。总的来说，拜登总统的行政命令在确保人工智能技术的安全和可靠发展方面起到了重要作用，同时也为处理人工智能辅助发明和相关知识产权问题带来的新挑战提供了方向。

2023年10月31日，美国战略与国际研究中心发布其高级副总裁詹姆斯·安德鲁·刘易斯（James Andrew Lewis）、贸易和技术项目主任艾米莉·本森（Emily Benson）以及人工智能和先进技术瓦德瓦尼中心（Wadhwani Center for AI and Advanced Technologies）高级研究员迈克尔·弗兰克（Michael Frank）共同撰写的评论文章《拜登政府关于人工智能的行政命令（The Biden Administration’s Executive Order on Artificial Intelligence）》。文章指出，在世界各国和国际组织相继出台广泛监管方案的背景下，拜登政府发布的行政命令采取了一种关注实际的态度，通过关注具体问题如安全性、隐私和歧视，以及提高透明度、采用测试、工具和标准来管理风险。该行政命令的范围非常广泛，但文章认为其重点是为关键基础设施制定标准，并使用人工智能工具来修复软件，以加强《国家网络安全战略（National Cybersecurity Strategy）》中设定的目标。行政命令采用了行政主导的监管方法，与欧盟的立法形成了鲜明对比。该行政命令强调了开展国际合作以降低人工智能使用风险的必要性。并且，该行政命令在努力填补自2019年以来存在的空白，确立了参与人工智能规则制定的要求，以及强调了在发展关键基础设施标准和应用联邦资助的生物合成项目方面使用人工智能工具的标准。其中，行政命令关于“红队（red-teaming）”的关注尤其值得注意，这涉及到对程序进行压力测试以发现潜在漏洞或安全疏忽。该行政命令根据《国防生产法（Defense Production Act）》规定，“开发任何对国家安全、国家经济安全或国家公共卫生和安全构成严重风险的基础模型的公司，在培训模型时必须通知联邦政府，并且必须分享所有红队安全测试的结果。”尽管这可能会遭到私营部门基于商业秘密泄露的反对，也可能会引发政府在经济安全议程中的“任务蔓延（mission creep）”，但这种政策无疑会激励私营部门更认真考虑他们产品的总体效果。文章认为，该行政命令也存在一些不足。关于隐私保护，自奥巴马政府以来美国一直试图推广“隐私保护”技术成效有限但收效甚微，而行政命令中提及的通过检测、认证和水印来避免人工智能驱动的欺诈行为的举措也并非新鲜事。该命令在计划现代化的签证流程，但其未能增加高技能申请人的配额，因此不太可能成为改变规则的因素。行政命令还提出了许多社会问题，如歧视风险和对工人的影响，但并没有提出真正的解决方案，仅是呼吁进行更多研究和制定原则。此外，行政命令的权力有限，且依赖于国会的授权。因此，除非国会在隐私方面采取行动，其影响仍将是有限的。而目前国会在隐私立法方面的行动不够积极，反而加州的消费者隐私法案已经成为了州隐私政策中的主导。总而言之，行政命令标志着一个工作计划和规则的开端，但其执行仍然是一个问题。私营部门的支持至关重要，但也难以确保有效执行，而国际合作，特别是与G7和其他国际伙伴的协调，可能是政府可以采取的最重要的行动之一，尽管其中存在挑战，但如果处理得当，美国有可能在全球人工智能规范的讨论中发挥领导作用。

原文链接：

[1]https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/ [2]https://www.csis.org/analysis/safeguarding-human-invention-age-artificial-intelligence

[3]https://www.csis.org/analysis/biden-administrations-executive-order-artificial-intelligence

文章检索:周韫斐编译:边洁、朱奕霏、杨雨虹审核:何嘉钰

排版:赵杨博

终审:梁正、鲁俊群

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理，谨供读者参考，不代表本机构立场和观点

往期回顾

智库观察丨人工智能国际治理观察第220期

智库观察丨人工智能国际治理观察第219期

智库观察丨人工智能国际治理观察第218期

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG