2023人工智能合作与治理国际论坛 主论坛I成功举办

点击蓝字

关注我们

北京时间2023年12月8日上午10:00，由清华大学、香港科技大学联合主办的2023人工智能合作与治理国际论坛主论坛I在香港科技大学逸夫演艺中心举办。本次论坛由中国新一代人工智能发展战略研究院执行院长、信创海河实验室主任龚克主持。微软副主席兼总裁布拉德·史密斯（Brad SMITH）、鹏城实验室主任、中国工程院院士高文、清华大学信息科学技术学院院长、中国工程院院士戴琼海、剑桥大学莱弗休姆未来智能中心主任史蒂芬·凯夫（Stephen Cave）作主旨演讲。

龚克主持主论坛I

布拉德·史密斯在主旨发言中指出，近年来人工智能发展迅速，出现很多机会，也面临诸多挑战，需要寻求全球性的治理方案，包括如何将其用于公共用途、建立底层技术标准、协调国际合作、整合多边资源。他提议：应该确定几条原则，一是确保人工智能技术始终处于人类控制之下；二是建立底层技术标准，同时通过国际协调，使制定的相关法规具有互操作性；三是基于人工智能技术架构，构建行之有效的风险管理框架。我们倡导，将来自不同机构和国家的人们聚集在一起，确保计算研究资源透明，建立起负责任的人工智能架构。此外，微软计划组建400人的团队，构建治理和问责制度，规避人工智能敏感用途所涉及的潜在风险。

布拉德·史密斯主旨发言

高文院士以《新一代人工智能发展的安全问题》为题进行了主旨发言。他从“AI向善”切入，提出了低、中、高的三种智能分类。他指出当前已经进入了人工智能2.0时代，人工智能不仅扩大了现有的安全威胁，其系统本身也出现了新的安全问题和隐私威胁。他提出，一方面，应重视人工智能伦理问题。对于恶意使用人工智能技术需要采取系统性预防和治理措施。另一方面，关于人工智能的技术问题，在开源和预训练大语言模型上需特别注意。他认为语言大模型的开发需符合中国的核心价值观，应以中文为主要语言，在国内独立软件和硬件平台上进行自然语言的大模型训练。此外，当前数据已成为新的生产要素，在挖掘大数据价值的同时，需要平衡数据价值和安全问题。

高文主旨发言

戴琼海院士以《光电智能计算》为题进行了主旨发言。他首先介绍了从第一代人工智能到第三代人工智能发展的历史脉络，包括人工智能计算的重要挑战和关键突破，他认为计算性能已从此前作为人工智能的重要支撑转向成为人工智能发展的关键制约。他随后分享了光计算的发展历程，探讨了光学人工智能芯片的发展机遇，从产业发展和学术进展探析了光计算的发展概况，并认为改变载体才有可能改变人工智能计算的性能。戴院士着重介绍了“全模拟光电智能计算芯片”（ACCEL）技术的先进能效提升优势，并分享了ACCEL芯片在无人系统、5G+智慧城市、云计算等领域的实践应用。最后，他从通用芯片、专用芯片、新型计算体系结构等方面展望了下一代人工智能计算的发展趋势。

戴琼海主旨发言

史蒂芬·凯夫在发言中指出，人工智能伦理存在三波浪潮。第一波是“可能性”。人们对于类人化的人工智能存在永生与非人性、舒适与被淘汰、满足与被疏远、安全与被伤害四对希望和恐惧。第二波是“现实性”。机器学习使人们产生了担忧，因而提出了问责、数据隐私、合法合规、有益性、人的主体性、安全和公平等原则，然而其存在诸多局限，一是原则属于软法，存在“伦理洗白”风险；二是在原则之间隐藏着内在冲突和利益权衡；三是关注点较窄，主要限于技术层面。第三波是“全局性”。技术转换引发了革命、内战乃至世界大战等危机，它改变了经济动力结构，引发了不平等，改变了世界大国力量对比，并对外产生了外部性。鉴于人工智能伦理的三波浪潮，开展国际合作与治理至关重要。

史蒂芬·凯夫主旨发言

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG