解散安全团队,疑似盗用女演员声音,OpenAI再陷多重争议

继2023年的「逼宫」大戏之后,OpenAI 再度陷入多重争议中。

5月15日,OpenAI 联合创始人伊尔亚·苏茨克维(Ilya Sutskever)宣布他已离开OpenAI,并计划从事一个「个人专案」。但苏茨克维没有公布该专案的详情。与此同时,另一位高级研究员简·雷克(Jan Leike)也宣布离职。 (延伸阅读:《AI 元年,Open AI「宫斗」讲了一个什么样的故事?》)

苏茨克维是OpenAI 的前首席科学家,和雷克一起担任OpenAI 旗下「超级对齐」团队(Superalignment Team)的共同负责人。依照OpenAI 官方网站上的介绍,超级对齐团队是为了「引导和控制比我们聪明得多的人工智慧系统」而成立的团队。据《Wired》杂志报导,该团队已被解散「并入OpenAI 的其他研究工作」,在此之前有数位相关研究人员离职。

不过,大部分离职员工都保持了低调。据Vox 报导,OpenAI 的保密协议禁止前员工离职后批评公司并禁止他们提及保密协议。

相较与他们,雷克离职时的表态更为直接,他指「我与OpenAI 领导层在公司核心优先事项上的分歧已经持续了很长时间……在过去的几年里,(OpenAI 的)安全文化和流程已经被闪亮的产品所取代。」

OpenAI 的CEO 奥尔特曼(Sam Altman)和总裁格雷格·布罗克曼(Greg Brockman)此后发表了一篇声明指其做了大量工作「为安全部署功能日益强大的系统奠定必要的基础」 ,但没有正面回应雷克的质疑。

无论如何,这一新闻并没有影响OpenAI 发布新产品所带来的正面讨论。

5月13日,OpenAI正式推出GPT-4o,这是为其标志性产品ChatGPT 提供动力的GPT-4 模型的迭代版本。 OpenAI 指更新后的模型「速度更快」,并提高了「跨文本、视觉和音频的能力」,这意味着该模型可以生成内容或理解语音、文字或图像命令。

不过很快,OpenAI 就陷入了另一场大众更容易注意到的争议之中。

在GPT-4o 中,ChatGPT 首次提供类似语音助手的功能,其中提供了五种不同的声音。 5月20日,演员施嘉莉·祖安逊(Scarlett Ingrid Johansson,台译史嘉蕾·乔韩森)指出,ChatGPT 提供的一个名为Sky 的声音与她的声音极度相似,以至于「我最亲密的朋友和新闻机构都无法分辨」。 (延伸阅读:《AI深伪色情急增,如何才能制止新型性暴力?》)

在声明中,祖安逊指OpenAI 此前曾与她接触,希望她为ChatGPT 4.0 系统配音。她出于「个人原因」拒绝了这一邀请。而在ChatGPT 的新版本发布前两天,奥尔特曼又亲自联系她的经纪人并请求她重新考虑,但她还未来得及回覆。

You need to be logged in to view the rest of the content. 请 . Not a Member? 加入会员

Please Login to Comment.