OpenAI CEO国会首秀：呼吁美国政府对 AI 制定规范，重申GPT-5半年内不会发布

OpenAI CEO Sam Altman在美国参议院听证会的直播截图

美国国会正就监管人工智能（AI）技术寻求共识。

钛媒体App获悉，美东时间5月16日，ChatGPT缔造者、OpenAI公司CEO奥特曼（Sam Altman）首次参加美国参议院司法委员会听证会，全程接近三个小时。面对议员提出有关AI影响选举、就业和过度集中于少数企业的问题，他呼吁美国政府对 AI 技术应进行更严厉的监管，并表示OpenAI以及谷歌等同行都应当承受压力。

奥特曼表示，目前 AI 技术处于早期阶段，仍会出现错误。如果 AI 技术出了问题，后果会相当严重，尤其 AI 不是社交媒体，它需要不同的应对方式。他认为，使用 AI 技术用来干扰美国总统选举是一个“值得关注的重要领域”，并补充说这一领域需要监管，“我对此感到紧张。”

所以他提到，OpenAI希望美国考虑强制许可公司开发强大的 AI 技术，比如支持其聊天机器人ChatGPT AI，并称OpenAI会在新系统发布前对其进行测试和审查，“像我们这样的公司可以与政府合作”。

奥特曼强调，未来6个月内没有训练GPT-5的计划。

实际上，随着超17亿月访问的 AI 聊天机器模型ChatGPT风靡全球，产品体验令人惊叹，但与此同时，这也引发全球对 AI 技术风险的担忧。

今年3月31日，意大利打响调查ChatGPT第一枪，要求暂时禁止使用ChatGPT，并对OpenAI公司展开调查；随后法国、爱尔兰、西班牙跟进，欧洲数据保护委员会则成立专门工作组开展调查，中国、加拿大、德国和澳大利亚等国也在推进调查或规范 AI 发展。

美国各界也开启了ChatGPT监管风暴。今年3月，美国联邦贸易委员会（FTC）接到人工智能和数字政策中心（CAIDP）的投诉，后者声称OpenAI违反FTC法案规定和 AI 治理规则，要求FTC对OpenAI及GPT-4进行调查。更早之前，特斯拉CEO马斯克（Elon Musk）以及上千名专家联名呼吁暂停训练比GPT-4更强大的AI系统。

不仅如此，谷歌、阿里等科技巨头都在竞相将日益通用 AI 技术或是大模型产品推向市场，投入了无穷无尽的数据和数十亿美元来应对挑战。但一些批评者担心大模型技术会加剧社会危害，其中包括偏见和错误信息，还有行业人士警告称，AI 可能会终结人类本身。

5月4日，美国副总统哈里斯会见了微软、谷歌和OpenAI的CEO，讨论 AI 潜在风险。美国总统拜登（Joe Biden）则明确表示，这些 AI 企业必须在推出产品之前确保其安全性，“你们正在做的事不仅有巨大的影响力，还将带来巨大的危害。”

此次，奥特曼参加美国参议院司法委员会举行的听证会，主要是回应美国各界对于 AI 技术担忧。

听证会开场时，一位参议员播放了一段由AI编写和制作的录音，与其本人的声音一模一样，凸显了AI在欺骗方面具有的能力，并称“与面对社交媒体风险时一样，国会现在也有一个选择机会，我们有义务在威胁和风险成为事实之前做到监管服务到位，避免重蹈先前错失监管社交媒体的覆辙。”

美国共和党籍联邦参议员霍利（Josh Hawley）开场指出，生成式AI（Generative AI）发展规模有如互联网发展，为人类历史上最重要的技术创新之一，随即提出警告说，“这可能会招致类似原子弹的严重后果”。他还认为，如果 AI 生成的内容是支持乌克兰投降或是支持俄罗斯总统普京领导“这景象很可怕”。

随后，奥特曼开始发表证词并表示，AI 这项新技术可以解决人类最大的问题。但他也警告称，AI 可以强大到以不可预测的方式改变社会，“政府的监管干预是减轻风险的关键。”

“我们迄今部署的工具的好处远远大于风险，但确保其安全对我们的工作至关重要。我们付出了巨大的努力，以确保我们系统在各个层面都实现了安全。在发布任何新系统之前，开放人工智能都会进行广泛的测试，聘请外部专家进行详细的审查和独立审计，改进模型的行为，并实施强大的安全和监控系统。”奥特曼表示。

他认为，GPT-4未来将使一些工作实现自动化，同时将带来新的工作机会。他还透露，目前公司并没有训练GPT-5，未来六个月也没有这方面的计划。

此前消息称，有美国参议员正提议考虑叫停OpenAI更进一步的 AI 技术研发，以及主张设立一个新的监管机构，或名为OASIS，将 AI 在内的一众新兴技术纳入管辖。

对此奥特曼表示赞同，他称，这种方式有望让美国本土的新兴技术继续领跑。奥特曼在听证会上建议美国政府考虑实施3项计划：成立新的机构批准AI模型；建立一套安全准则规范AI模型；要求独立专家学者对AI模型进行审核。

比起这些，“我最担心的是，我们这个技术行业可能会对世界造成重大的伤害。如果这项技术出了问题，它可能会变得非常糟糕。”阿尔特曼特别指出，他非常担心AI对选举产生的影响。

民主党籍参议员布克（Cory Booker）提到OpenAI与微软相互合作，并称美国科技巨头控制大众生活，影响力与日俱增，令人感到恐怖。他认为美国政府应加强立法监管 AI 技术。

对此，奥特曼回应称，OpenAI要将 AI 系统投入民主化，调整价值观，更重要的是需要让人们广泛使用这类工具，而不是交给少数几家公司。“由于所需的资源，能够训练真正的前沿模型的公司数量将会很少，这是千真万确的。”奥特曼称。

据报道，奥特曼已经在5月15日和美国两党约60名众议员私下会晤。另据The Information引述消息人士称，OpenAI正准备向公众发布一款新的开源语言模型，但不太可能发布是与GPT规模进行竞争的模型。目前，OpenAI估值已接近300亿美元。（本文首发钛媒体App，作者｜林志佳）

更多精彩内容，关注钛媒体微信号（ID：taimeiti），或者下载钛媒体App

​Read More