【海外智库观察229期】人工智能国际治理的多层治理方案

点击蓝字

关注我们

海外智库观察

随着人工智能进入爆发式发展的关键阶段，构建人工智能的全球治理框架迫在眉睫。去年10月，习近平主席在《全球人工智能治理倡议》中提出，欢迎各国政府、国际组织、企业、科研院校、民间机构和公民个人等各主体秉持共商共建共享的理念，协力共同促进人工智能治理。人工智能治理既需要联合国等政府间组织扮演重要的协调作用，也需要各国政府深度参与，协力探索全球、区域、国家多个层次的共同治理方案。对此，本期海外智库观察重点关注近期海外智库学者对于联合国、欧盟、英国、加拿大等不同层次的人工智能治理方案的思考和建议。

布鲁金斯学会

Brookings institution

联合国平台下的人工智能治理方案

2024年2月26日，布鲁金斯学会发布了该机构杰出访问学者Cameron F. Kerry、高级研究员Joshua P. Meltzer等人共同撰写的文章《联合国应该管理全球人工智能吗？（Should the UN govern global AI?）》。该报告认为ChatGPT等生成式大模型的出现引发了人类对人工智能设置防护措施的紧迫需求，联合国应该在人工智能全球治理中发挥重要作用。第一，作者梳理了联合国咨询机构在已有报告中提出的“人工智能全球治理框架”。在此基础上，作者提出人工智能的全球治理框架不仅是一个简单的监管机构或政策集合，而是一个包含多层次治理功能的综合体系。该框架可以由联合国平台下的“一个机构或机构网络”主导，需要遵循联合国相关倡议中提出的“敏捷、网络化、灵活”等原则，具体包含凝聚科学共识、制定全球规范以及全球规范的执行与问责等七个治理功能层。最终，该框架需要通过促进国际合作，确保人工智能的发展符合人类的伦理和安全标准。第二，作者在报告中总结了2016年至今部门国家在本国和全球层面进行的不同形式的有关人工智能治理的尝试。作者认为，虽然到目前为止，不同国家的人工智能治理策略仍存在分歧，一些国家主张立法监管，一些国家主要依赖自愿框架，但是一系列国际倡议仍有助于架起人工智能国际合作的桥梁。例如，2023年美国和欧盟将关于人工智能行为准则的讨论纳入G7会议了；英国召开了一项包含28个国家的人工智能安全峰会，并成功签署了关注“前沿人工智能安全国际合作风险、机会和前进过程”的“布莱切利宣言”；还有各类不同层级的人工智能合作论坛，通过追踪了人工智能发展，汇集了来自政府、工业、民间社会和学术界的官员和专家的建议，对人工智能的风险评估、标准制定、联合研发等关键领域的国际合作提供了重要基础。但是，作者也观察到，这些倡议仍无法应对人工智能带来的重要挑战。要在最大化人工智能发展机遇的同时最小化相关风险，亟待建立一个政府、企业、专家等各利益相关者共同参与的，更加协调、集成的国际合作框架。

第三，作者提出，虽然联合国在促进国际合作、扩大科研资源共享等方面发挥着关键作用，但人工智能的全球治理问也需要其他机构和倡议的共同参与。例如，作者提出可以在国际上扩大美国针对“国家AI研究资源”的试点项目，向大型科技公司以外的研究人员提供数据和计算资源；可以在加快成立“美国-英国的AI安全研究所”“欧盟算法透明度中心”等监管机构，通过双边合作推动人工智能风险的识别和管理……在可预见的未来，人工智能的全球治理框架不能依靠单一的治理机构，而是需要多层机构并行运作，共同推动人工智能朝着造福人类的方向发展。

新美国安全中心

Center for a New American Security，CNAS

欧盟与英国人工智能治理方案的比较分析

在2024年2月28日新美国安全中心发布的报告UK Versus EU: Who Has A Better Policy Approach To AI?中，Noah Greene深入比较了英国与欧盟在人工智能治理方案上的差异。作者认为，相比于欧盟通过《人工智能法案》这一综合性法规治理人工智能的方案，英国治理方案在治理理念和治理框架上都更具优势，能够在灵活应对社会风险的同时更好地推动企业创新。此外，作者还建议英国政府进一步补充完善人工智能与法律交叉领域的空白、提高相关政府职能以实现有效监管。其一，就治理理念而言，英国政府的人工智能愿景基于人工智能实际应用中可能产生的结果之上，没有对人工智能行业的发展进行全面限制。英国政府主要根据实际需要执行与人工智能开发、部署相关的法律，仅在医疗保健、执法等特定领域设置新规。但是，欧盟对待人工智能这项新技术的态度显然更加谨慎，认为有必要对人工智能进行更为广泛和全面的监管。其二，就治理框架而言，英国在人工智能治理中强调“创新先行”，主张为新兴技术的未来选择符合国家利益的道路。反观欧盟，由于其政策进程依赖于各成员国之间的共识，因而采取了“法律先行”的方法，推出了优先于其他成员国的法律。采用基于横向风险的跨部门框架和“命令-控制”式的监管风格，将部分人工智能系统归类为不可接受的风险并下令禁止使用，并对那些极有可能侵犯欧盟基本权利的系统进行全面监控。总体而言，欧盟更加强调人工智能算法的不透明造成不确定性，认为部分人工智能系统可能阻碍欧盟现有安全和基本权利立法的有效执行。作者认为，当前人工智能的风险级别尚未达到必须设置跨部门特定监管机构的程度，许多讨论中涉及的潜在风险和负面影响的发生机制也尚不明晰，过于担忧未来不一定会存在的风险可能会阻碍技术创新。最后，作者指出，随着人工智能技术的快速发展，采取范围更狭窄的监管行动将更加有效。因此，作者建议英国政府填补人工智能与现有法律交叉领域中的空白，提高人工智能风险职能部门与其他机构的沟通和协调能力，以更好地为负责监管市场的机构提供支持。作者还建议各国的监管机构加强工作人员对人工智能在其专业领域产生影响的了解，确保在人工智能可能出现的重大风险时采取敏捷迅速的针对性行动。

加拿大国际治理创新中心

Centre for International Governance Innovation, CIGI

加拿大的人工智能治理方案：设立人工智能部长+新的人工智能产业政策

2024年1月25日，加拿大国际治理创新中心发布了Technation首席执行官Angela Mondou和CIGI总裁Paul Samson共同撰写的报告《加拿大需要人工智能部长和人工智能产业政策（Canada Needs a Minister of AI and an AI Industrial Policy）》。报告提出，加拿大已宣布立志成为AI的全球领导者，考虑到AI在推动经济繁荣和全球竞争力方面的核心作用，其对加拿大的民主、社会和经济至关重要。目前，加拿大落后于其他国家的AI采用并不符合国家利益，为了推动国家战略和行动，应任命一位联邦AI和数字经济部长。

作者认为，尽管加拿大拥有众多开创性的人工智能科学家和创新成就，但在研发、知识产权保护、以及人才培养等方面的投入往往不足。例如，Avro Arrow项目和北电网络的衰落导致了加拿大工程创新人才的流失。目前，加拿大的人工智能相关工作由一位负担较重的部长领导，相关工作主要集中在人工智能安全和监管问题上，关于人工智能产业的创新和发展还需要顶层的积极推动。对此，作者建议加拿大政府设立与国防、环境与气候变化部长同等地位的新部长职位和相关支持部门，以此完善加拿大现行的全国性人工智能治理。具体而言，作者提出了新部门应该负责以下工作：

第一，改善加拿大工业界和政府在数字化和人工智能领域的落后。政府能通过加速数字化和提高行业采用率起到催化作用，新部长应采取大胆措施，将过时的政府系统转型为以云计算和AI为核心的现代企业系统，并促进与加拿大技术部门的合作。

第二，鼓励加拿大企业进行人工智能领域的科技创新和商业化投资。通过制定和执行针对人工智能领域的产业政策，加拿大可以将人工智能相关领域的技术、知识产权和人才留在国内，由此创造更大价值。

第三，通过跨部门协调制定敏捷、灵活的人工智能监管政策。面对人工智能的快速发展，建立跟上技术发展速度的监管体系是各国政府共同面对的重要挑战。通过建立新的牵头部门，可以更好促进部门间协调，帮助加拿大实现更加敏捷、灵活的人工治理。

原文链接：

[1]https://www.cnas.org/publications/commentary/uk-versus-eu-who-has-a-better-policy-approach-to-ai

[2]https://www.brookings.edu/articles/should-the-un-govern-global-ai/

[3]https://www.brookings.edu/articles/should-the-un-govern-global-ai/

文章检索：周韫斐

编译：王净宇、边洁、朱奕霏、杨雨虹

审核：王净宇

排版：赵杨博

终审：梁正、鲁俊群

清华大学人工智能国际治理研究院编上述信息均根据原文内容整理，谨供读者参考，不代表本机构立场和观点

往期回顾

海外智库丨人工智能国际治理观察第226期

海外智库丨人工智能国际治理观察第225期

海外智库丨人工智能国际治理观察第224期

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG