前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她

作者头像
量子位
发布2024-05-22 09:49:24
970
发布2024-05-22 09:49:24
举报
文章被收录于专栏:量子位量子位
克雷西 发自 凹非寺 量子位 | 公众号 QbitAI

OpenAI的新王炸GPT-4o还没全面铺开,就摊上事了!

抓马的是,此次推出的“视频通话”功能一度被称为电影《Her》现实版,而怒斥OpenAI的刚好是给电影中AI配音的斯嘉丽·约翰逊(寡姐)。

寡姐控诉,OpenAI未经允许就在ChatGPT中使用了自己相似度极高的声音,对此感到既震惊又愤怒。

OpenAI这边则是予以否认,一边表示自己并没有模仿寡姐,但另一边还是把受到争议的声音下架了。

控诉一出,就引发了网友们的热议,本特利大学教授Noah Giansiracusa就表示,OpenAI使用和名人高度相似的声音,这种做法哪怕没违法,也是不道德的。

当然,这件事到现在还没有被实锤,OpenAI也做出了辩解,网友们认为,如果声音和名人真的只是相似的话,那就没有被禁止的理由了。

所以,OpenAI的这个新瓜到底保不保熟,下面就一起来吃一吃。

寡姐:我拒绝过奥特曼

整件事情的导火索,是在GPT-4o发布后,“实时视频通话”功能爆火,一度被称为电影《Her》的现实版。

在该功能中,ChatGPT可以同时进行看、听和说,也就是在语音对话的同时调用摄像头分析环境信息,而且过程十分流畅,就像在和AI打视频电话。

而且声音、语调甚至气息都和真人十分接近,可以选择的音色一共有五种。

引发争议的是,其中一个叫做Sky的声音,被认为听起来很像寡姐。

这个备受争议的Sky,在GPT-4o团队成员Rocky Smith的测试视频中有过展现,大家可以感受下:

视频地址

寡姐则表示,自己本人和亲朋好友都觉得这个声音简直和自己如出一辙,和自己熟悉的一些媒体也这样认为。

不光声音很像,更关键的是寡姐的声明中还透露,OpenAI的确有过使用自己声音的想法。

事情要追溯到去年9月,寡姐受到了奥特曼的邀请,想要让她给ChatGPT配音,但考虑许久后,她拒绝了。

甚至直到GPT-4o发布前两天,奥特曼还联系过寡姐的经纪人,要求她重新考虑一下,结果当然是没有答应。

本以为事情就此结束,直到寡姐和周围的人听到了Sky,这个和自己高度相似的声音,她对此表示震惊、愤怒,又难以置信。

在GPT-4o发布的那天,奥特曼还发了一条推文,内容只有一个“her”,寡姐认为奥特曼这是在暗示使用和自己相似的声音就是故意的。

事后寡姐才回过味来,奥特曼在发布前两天找到自己的时候,GPT-4o肯定早就做好了(原文:Before we could connect, the system was out there.)。

忍无可忍的寡姐聘请了法律顾问,给OpenAI发去了两封信,要求对Sky一事做出解释,详细说明其创建过程。

按照寡姐一方的说法,OpenAI收到这两封信之后,才“极不情愿”地把Sky下了架。

顺便提一句,Sky虽然下架了但是按钮还在,不过如果选择了Sky的话,实际使用的声音会被替换成Juniper。

当然,这些都是寡姐一方的说法,OpenAI则表示自己并没有试图模仿她。

OpenAI的解释

收到寡姐的控诉后,OpenAI在官方推特中给出了这样的回复:

我们收到了关于ChatGPT中声音,特别是Sky的疑问,我们正在采取措施暂停Sky的使用,直到问题被厘清。

同时,OpenAI还附上了一则官网中的声明,介绍了ChatGPT中声音的选择流程。

其中就表示,Sky并没有用寡姐的声音,而是另一名专业的演员,但出于隐私保护考虑不能透露其姓名。

甚至在早些时候,OpenAI的CTO Mira Murati还对The Verge表示,ChatGPT里的声音和寡姐并不像,而且已经使用一段时间了。

至于具体的选角流程,OpenAI介绍说是与知名的选角导演和制片人合作进行招募。

2023年5月,招募正式开始,在不到一周的时间里就收到了400多份作品。

在试镜时,演员们被要求录制包含ChatGPT回复的脚本,内容涵盖旅行规划、日常聊天等。

经过试镜之后,有14人被确定为初步人选,然后OpenAI与他们讨论了对于人机AI语音交互和OpenAI的愿景。

同时,OpenAI还向候选人介绍了该技术的功能、局限性和所涉及的风险,以及OpenAI实施的保障措施,目的是让每个演员在投入该项目之前都充分了解OpenAI的意图。

最终,OpenAI选择了最终选定了Breeze、Cove、Ember、Juniper和Sky这五个人的声音,然后在6月和7月期间,让演员们飞到旧金山进行录制,并与OpenAI产品和研究团队进行面对面的会议。

9月25日,这些声音被发布到了ChatGPT。

而至于斯嘉丽提到的被奥特曼找到过,还在GPT-4o发布之前与自己联系的事情,OpenAI并未做出回应;针对OpenAI介绍的选角流程,斯嘉丽这边也还没有评论。

不过今年3月,OpenAI在发布声音合成引擎Voice Engine的时候,就有提到过采取了措施避免克隆公共人物的声音。

而出于安全考虑,Voice Engine被雪藏了一年多之后才被正式发布。

所以,OpenAI也十分清楚,克隆名人的声音就是一个雷区,但如果这次他们真的用了寡姐的声音,事情就变得有意思了。

不过尽管有争议,但研发的脚步还得继续,OpenAI总裁Brockman仍在推特上发布着语音团队的招聘信息。

推文中,Brockman写到,OpenAI正在招募工程师扩大并安全推进多模态语音模型。

总之关于这件事,可能还要让子弹再飞一会儿。在最终结果出炉之前还是理性吃瓜,就像这位网友说的:

如果OpenAI所述为真,确实没有用寡姐的声音,那么即使她本人感到担忧,也不能把这件事称之为丑闻。

但其实,这已经不是寡姐第一次对AI企业提出控诉了。

One More Thing

去年十一月,寡姐对一款名为Lisa AI的AI绘图工具采取了法律行动。

理由是Lisa未经同意使用了她的肖像和姓名拍摄了一段广告片。

广告的开头是一段寡姐在漫威电影《黑寡妇》幕后的片段,然后屏幕转变成人工智能生成的与演员相似的照片。

接着,一个模仿寡姐的假声音开始说话,对Lisa AI进行了宣传。

最终这段广告当然没有逃过被下架的结局,但和OpenAI“打擦边球”相比,Lisa AI的做法已经属于贴脸开大了。

参考链接: [1]https://openai.com/index/how-the-voices-for-chatgpt-were-chosen/ [2]https://www.bloomberg.com/news/articles/2024-05-20/openai-to-pull-johansson-soundalike-sky-s-voice-from-chatgpt [3]https://variety.com/2024/digital/news/scarlett-johansson-responds-shocked-angered-openai-chatgpt-her-1236011135/ [4]https://www.theverge.com/2024/5/13/24155652/chatgpt-voice-mode-gpt4o-upgrades

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2024-05-21,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 量子位 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 寡姐:我拒绝过奥特曼
  • OpenAI的解释
  • One More Thing
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档