由阿里巴巴集团、中国电子技术标准化研究院、阿里云智能集团、达摩院联合编写的《生成式人工智能治理与实践白皮书》已经编写完成。简介请点击👉《生成式人工智能治理与实践白皮书》抢先版发布!如何给生成式人工智能带好“安全带”？

目前已连载完五个章节，点击阅读👉《生成式人工智能治理与实践白皮书》
现分享第六章《总结与展望》👇

大模型推动人工智能的技术飞跃，催生无数技术和应用创新的思想火花，为新一轮的互联网产业发展创造巨大机遇。网络信息内容从用户生成内容(UGC)和专业生产内容(PGC)真正走向了人工智能创造（AIGC），网络内容维度更为多元性，层次更加丰富，表达方式更加多样，为丰富人类的精神文化生活提供了新的信息供给。大模型可以作为接口和桥梁，衔接其他服务或者工具，建立通用智能供给能力。
大模型也能与机器人技术相结合，未来生成式智能体（Generative Agents）在世界环境中模拟人类行为的真实性， 具备记忆、检索、归纳总结、反思、与其他智能体互动等能力，从虚拟世界到物理世界，模型帮助机器人进行感知、规划和动作执行，大幅提升现实世界的生产力。

然而，在这一切美好发生之前，我们需要意识到生成式人工智能还存在着较大的缺陷，需要判断其对人类权益和社会秩序构成的潜在风险，用审慎的态度规划技术发展路径，采取多元协同的方式聚各方合力确保技术在正确的轨道上发展和应用。
唯有如此，生成式人工智能才能安全地发展，才能在人类的控制和引导下更加可用、可靠、可信、可控，更好地服务人类需求、推动社会发展。我们需要进行科学的监管和治理，降低生成式人工智能带来的颠覆式创新的负面影响，避免内容生成和传播方式对信息的可控性和安全的风险，保证人工智能与人类知识和价值观正确地对齐。

第一，构建目标明确、敏捷协同的治理体系，对生成式人工智能带来的颠覆式创新进行针对性的监管和治理，确保技术在人类掌握下有序发展，被更广泛更好地利用，服务于人类日益增长的美好生活需要，成为了政府、产业乃至全社会的普遍共识。

• 在治理目标上，强调发展和安全的协调统一。一方面要求有效管控核心风险，加强人工智能可信赖和伦理治理水平，避免生成式人工智能对国家安全、产业秩序和社会稳定带来负面影响；另一方面要意识到不发展是最大的不安全，通过技术进步带动产业高质量发展、提高生产效率，保障我国科技发展话语权。

• 在治理方式上，突出以风险为基础的治理机制。生成式人工智能对个人信息、内容安全、模型安全和知识产权等方面带来诸多挑战，以风险为基础的治理要求对各环节的风险点进行识别和判断，根据风险特征、危害性和影响范围进行分类分级，对于处在不同研发阶段、针对不同应用场景、面向不同数量用户的生成式人工智能服务有差异化的风险管理要求。

• 在治理手段上，采用包容、敏捷的新型治理工具。生成式人工智能处在快速发展阶段，其技术路线还在动态演进，产业和社会应用前景尚不明晰，监管和产业需要共同面对诸多不确定性问题，采用监管沙箱、尽职免责等创新容错手段，推动积极沟通、敏捷协作，共同寻找提高安全性、可控性和可靠性的解决方案；同时通过宣传教育，提高公众对于生成式人工智能的认知水平，建立基于信任的人机协作社会生态。

第二，针对研发过程设置安全措施，针对重点风险域形成治理方案。在模型训练、服务上线、内容生成、内容传播各阶段，覆盖生成式人工智能服务和产品的全生命周期设置安全措施，避免遗漏风险；在内容安全、个人信息、模型安全、知识产权等重点风险领域，制定专项风险治理方案。

在模型训练阶段，要进行对数据的审查和保护，确保训练数据的合法性和安全性。同时，需要加强对模型的审查，防止出现偏差性或歧视性结果。在服务上线阶段，要进行对模型的安全测试和评估，确保其稳定性和安全性。同时，需要加强对用户数据的隐私保护，避免被泄露或滥用。

在内容生成阶段，应该倡导人机合作，加强对生成内容的引导和审核，防止出现违法不良信息、歧视与偏见。在内容传播阶段，对生成的信息嵌入隐藏的标识，通过技术手段进行溯源，定位信息发布者，从而在一定程度上解决虚假信息传播的风险。

对于个人信息安全、内容安全、模型安全、知识产权保护四个重点领域，应充分考虑AIGC与UGC（用户生成内容）、判别式AI的差异性，提出针对性的有效解决方案。例如：

• 生成式AI相对于算法推荐服务对个性化要求不高，可主动采用技术手段从源头减少个人信息收集、降低个人信息在训练数据中的比例和真实性；对于输出的合成内容，算法服务可拒绝生成个人信息内容；可采用数据匿名化机制，在保护个人信息的同时，激发更多数据价值。

• 从内容安全角度看，AIGC相比UGC在主体责任、交互性、时效性、内容复杂度、风险范围等多个维度都有较大差异，因此在风险评测定位、模型内生安全、应用安全机制、生成内容追溯机制等方面全面设置针对性的治理机制。

• 在模型安全层面，生成式人工智能模型因其输出空间的自由度更高、网络结构复杂、模型参数和训练数据规模巨大等特点，在鲁棒性、可靠性、公平性、可用性、可解释性等方面都带来了新的风险挑战，应相应地提升治理技术能力，提出针对性治理解决方案。

• 生成式人工智能的知识产权问题，目前仍在热议中，尚未形成统一看法。知识产权问题不宜片面化，既要保护作为训练数据的现有人类智力成果，也需注意创新公平和创造力延续。现阶段宜鼓励平衡相关利益主体的治理方案，既要从源头进行训练数据相关权利人的保护，规避非法爬取，利用水印、区块链等技术，建立生成式人工智能相关知识产权溯源补偿机制；又要挖掘缓存价值，在一定范围上承认生成物的知识产权价值。

第三，重视更加技术化的治理手段，提升生成式人工智能在数据、模型、应用等层面的治理技术，促进人工智能产业健康、快速发展。

• 在数据层面，强化数据清洗、预处理、合规审查等标准化技术手段，促进高质量中文数据集发展；增加高质量、事实性知识库或者知识图谱，通过检索式增强、知识计算等技术解决大模型“一本正经地胡说八道”等问题，提高生成式人工智能的可信度。

• 在模型层面，研究探索大模型的可解释性问题，包括对世界知识的记忆和存储原理，以及预测阶段的知识提取过程；构建大模型参数修正技术，探索大模型的知识遗忘和知识修改技术，从而针对定向问题进行模型修正；探索更高效的RLHF技术，具备更好的泛化性，提升模型和人类知识与价值观的对齐，研发可信赖的生成式人工智能。

• 在应用层面，建立大模型应用系统的风险Debug系统，风险修复系统，做到风险提前发现，提前修复；建立应用系统的数据闭环，对风险数据不断进行RLHF对齐，不断提升应用系统的安全性。

本次技术革命代表了人工智能能力的重大跃迁，其快速的普及和广泛的应用也让人类和机器的关系问题从伦理的星空落入了每一个人的心底，如何可持续地开发更安全、更负责任的大模型，让生成式人工智能更符合人类的价值判断和实际需求，如何在技术研发应用的全周期内提高治理能力，最大限度降低潜在危害，又如何用发展的眼光去看待生成式人工智能新兴技术对传统认知范式的挑战，让制度创新和技术创新相互匹配、相互促进？

这些问题需要包括政府机构、科技企业、科研人员、社会公众在内，每一个面向未来的参与者，去一同面对、共担责任、共商共治、协作探索，用更为精准、精确的手段管控生成式人工智能的发展路径，从而确保人工智能始终在人类的掌控之下，并为人类带来更大的福祉和价值。

AAIG一直坚持长期主义，每年出品一本人工智能治理系列白皮书。我们会不断更新、精进，以确保白皮书能够紧跟时代发展的步伐，为读者提供更加专业、全面的治理建议。

点击阅读👉2022年《人工智能治理与可持续发展实践白皮书》

回复关键字【白皮书】一键下载电子版全文

📌往期推荐

📖2023生成式人工智能治理系列丛书

生成式人工智能的发展以及担忧｜生成式人工智能的治理愿景和框架...👉点击查收全文链接🌟2022人工智能治理系列丛书 精华大图集锦版 | 如何维护电商平台信息真实和竞争公平…👉点击查收白皮书全书连载
🔥《追AI的人》系列直播

深度学习如何提升数字水印的透明性和鲁棒性？ | 如何避免ChatGPT被滥用…👉点击查收过往33期直播的全部文字回放

🎈《算法治理制度》系列丛书内容和电商领域推荐算法的应用与治理差异｜“大数据杀熟” 的背后…👉点击阅读更多算法治理干货
📺 AI治理科普短视频流量为王的时代,教你如何“破圈”创作 | 3分钟Get多模态是什么｜为什么生成式AI更容易取代白领员工,对体力工作者的影响却微乎其微…👉点击观看往期23期精彩视频

👇AAIG课代表，获取最新动态就找她

 关注公众号发现更多干货❤️

有启发点在看喔👇