寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

250次阅读
没有评论

克雷西 发自 凹非寺
量子位 | 公众号 QbitAI

OpenAI的新王炸GPT-4o还没全面铺开,就摊上事了!

抓马的是,此次推出的“视频通话”功能一度被称为电影《Her》现实版,而怒斥OpenAI的刚好是给电影中AI配音的斯嘉丽·约翰逊(寡姐)。

寡姐控诉,OpenAI未经允许就在ChatGPT中使用了自己相似度极高的声音,对此感到既震惊又愤怒。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

OpenAI这边则是予以否认,一边表示自己并没有模仿寡姐,但另一边还是把受到争议的声音下架了。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

控诉一出,就引发了网友们的热议,本特利大学教授Noah Giansiracusa就表示,OpenAI使用和名人高度相似的声音,这种做法哪怕没违法,也是不道德的。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

当然,这件事到现在还没有被实锤,OpenAI也做出了辩解,网友们认为,如果声音和名人真的只是相似的话,那就没有被禁止的理由了。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

所以,OpenAI的这个新瓜到底保不保熟,下面就一起来吃一吃。

寡姐:我拒绝过奥特曼

整件事情的导火索,是在GPT-4o发布后,“实时视频通话”功能爆火,一度被称为电影《Her》的现实版。

在该功能中,ChatGPT可以同时进行看、听和说,也就是在语音对话的同时调用摄像头分析环境信息,而且过程十分流畅,就像在和AI打视频电话。

而且声音、语调甚至气息都和真人十分接近,可以选择的音色一共有五种。

引发争议的是,其中一个叫做Sky的声音,被认为听起来很像寡姐。

这个备受争议的Sky,在GPT-4o团队成员Rocky Smith的测试视频中有过展现,大家可以感受下:

寡姐则表示,自己本人和亲朋好友都觉得这个声音简直和自己如出一辙,和自己熟悉的一些媒体也这样认为。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

不光声音很像,更关键的是寡姐的声明中还透露,OpenAI的确有过使用自己声音的想法。

事情要追溯到去年9月,寡姐受到了奥特曼的邀请,想要让她给ChatGPT配音,但考虑许久后,她拒绝了。

甚至直到GPT-4o发布前两天,奥特曼还联系过寡姐的经纪人,要求她重新考虑一下,结果当然是没有答应。

本以为事情就此结束,直到寡姐和周围的人听到了Sky,这个和自己高度相似的声音,她对此表示震惊、愤怒,又难以置信。

在GPT-4o发布的那天,奥特曼还发了一条推文,内容只有一个“her”,寡姐认为奥特曼这是在暗示使用和自己相似的声音就是故意的。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

事后寡姐才回过味来,奥特曼在发布前两天找到自己的时候,GPT-4o肯定早就做好了(原文:Before we could connect, the system was out there.)。

忍无可忍的寡姐聘请了法律顾问,给OpenAI发去了两封信,要求对Sky一事做出解释,详细说明其创建过程。

按照寡姐一方的说法,OpenAI收到这两封信之后,才“极不情愿”地把Sky下了架。

顺便提一句,Sky虽然下架了但是按钮还在,不过如果选择了Sky的话,实际使用的声音会被替换成Juniper。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

当然,这些都是寡姐一方的说法,OpenAI则表示自己并没有试图模仿她。

OpenAI的解释

收到寡姐的控诉后,OpenAI在官方推特中给出了这样的回复:

我们收到了关于ChatGPT中声音,特别是Sky的疑问,我们正在采取措施暂停Sky的使用,直到问题被厘清。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

同时,OpenAI还附上了一则官网中的声明,介绍了ChatGPT中声音的选择流程。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

其中就表示,Sky并没有用寡姐的声音,而是另一名专业的演员,但出于隐私保护考虑不能透露其姓名。

甚至在早些时候,OpenAI的CTO Mira Murati还对The Verge表示,ChatGPT里的声音和寡姐并不像,而且已经使用一段时间了。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

至于具体的选角流程,OpenAI介绍说是与知名的选角导演和制片人合作进行招募。

2023年5月,招募正式开始,在不到一周的时间里就收到了400多份作品。

在试镜时,演员们被要求录制包含ChatGPT回复的脚本,内容涵盖旅行规划、日常聊天等。

经过试镜之后,有14人被确定为初步人选,然后OpenAI与他们讨论了对于人机AI语音交互和OpenAI的愿景。

同时,OpenAI还向候选人介绍了该技术的功能、局限性和所涉及的风险,以及OpenAI实施的保障措施,目的是让每个演员在投入该项目之前都充分了解OpenAI的意图。

最终,OpenAI选择了最终选定了Breeze、Cove、Ember、Juniper和Sky这五个人的声音,然后在6月和7月期间,让演员们飞到旧金山进行录制,并与OpenAI产品和研究团队进行面对面的会议。

9月25日,这些声音被发布到了ChatGPT。

而至于斯嘉丽提到的被奥特曼找到过,还在GPT-4o发布之前与自己联系的事情,OpenAI并未做出回应;针对OpenAI介绍的选角流程,斯嘉丽这边也还没有评论。

不过今年3月,OpenAI在发布声音合成引擎Voice Engine的时候,就有提到过采取了措施避免克隆公共人物的声音。

而出于安全考虑,Voice Engine被雪藏了一年多之后才被正式发布。

所以,OpenAI也十分清楚,克隆名人的声音就是一个雷区,但如果这次他们真的用了寡姐的声音,事情就变得有意思了。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

不过尽管有争议,但研发的脚步还得继续,OpenAI总裁Brockman仍在推特上发布着语音团队的招聘信息。

推文中,Brockman写到,OpenAI正在招募工程师扩大并安全推进多模态语音模型。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

总之关于这件事,可能还要让子弹再飞一会儿。在最终结果出炉之前还是理性吃瓜,就像这位网友说的:

如果OpenAI所述为真,确实没有用寡姐的声音,那么即使她本人感到担忧,也不能把这件事称之为丑闻。

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

但其实,这已经不是寡姐第一次对AI企业提出控诉了。

One More Thing

去年十一月,寡姐对一款名为Lisa AI的AI绘图工具采取了法律行动。

理由是Lisa未经同意使用了她的肖像和姓名拍摄了一段广告片。

广告的开头是一段寡姐在漫威电影《黑寡妇》幕后的片段,然后屏幕转变成人工智能生成的与演员相似的照片。

接着,一个模仿寡姐的假声音开始说话,对Lisa AI进行了宣传。

最终这段广告当然没有逃过被下架的结局,但和OpenAI“打擦边球”相比,Lisa AI的做法已经属于贴脸开大了。

参考链接:
[1]https://openai.com/index/how-the-voices-for-chatgpt-were-chosen/
[2]https://www.bloomberg.com/news/articles/2024-05-20/openai-to-pull-johansson-soundalike-sky-s-voice-from-chatgpt
[3]https://variety.com/2024/digital/news/scarlett-johansson-responds-shocked-angered-openai-chatgpt-her-1236011135/
[4]https://www.theverge.com/2024/5/13/24155652/chatgpt-voice-mode-gpt4o-upgrades

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy