OpenAI 周四宣布，已暂停用户使用其 AI 视频模型 Sora 生成与已故民权活动家马丁·路德·金相似的视频的功能。该公司表示，应金博士遗产管理委员会的要求，他们增加了这项保护措施，因为一些 Sora 用户制作了对金博士形象的“不敬描述”。

OpenAI 在其官方新闻编辑室账户X 上的一篇帖子中表示：“虽然描绘历史人物具有强烈的言论自由权，但 OpenAI 认为公众人物及其家人最终应该拥有对其肖像使用方式的控制权。授权代表或遗产所有者可以要求不在 Sora 的客串中使用他们的肖像。”

就在几周前，OpenAI 推出了其社交视频平台Sora，该平台允许用户创建逼真的 AI 生成视频，模仿历史人物、他们的朋友以及选择在平台上重现其肖像的用户。该平台的发布引发了公众对 AI 生成视频的危险性以及平台应如何为该技术设置防护措施的激烈辩论。

金博士的女儿伯妮丝·金博士上周在 Instagram 上发帖，呼吁人们停止向她发送与她父亲相似的人工智能视频。她也加入了罗宾·威廉姆斯女儿的行列，后者也呼吁 Sora 用户停止生成她父亲的人工智能视频。

《华盛顿邮报》本周早些时候报道称，Sora 用户制作了人工智能生成的视频，视频中马丁·路德·金模仿猴子叫声，与另一位民权偶像马尔科姆·X 搏斗。浏览 OpenAI 的 Sora 应用程序，很容易找到类似其他历史人物的粗俗视频，包括艺术家鲍勃·罗斯、歌手惠特尼·休斯顿和前总统约翰·F·肯尼迪。

金博士遗产的授权方没有立即回应 TechCrunch 的置评请求。

除了 Sora 如何展现人类形象之外，此次发布还引发了一系列问题，即社交媒体平台应该如何处理受版权保护作品的 AI 视频。Sora 应用程序中也充斥着各种以《海绵宝宝》、《南方公园》和《精灵宝可梦》等动画片为主题的视频。

自 Sora 推出以来的几周内，OpenAI 又对其增加了其他限制。10 月初，该公司表示计划赋予版权持有者更精细的控制权，使其能够根据自己的喜好生成哪些类型的 AI 视频。这或许是针对好莱坞最初对 Sora 反应不佳而做出的回应。

随着 OpenAI 对 Sora 的限制不断增加，该公司似乎对 ChatGPT 的内容审核采取了更加放任的态度。OpenAI 本周宣布，将在未来几个月内允许成年用户使用 ChatGPT 进行“色情”聊天。

借助 Sora，OpenAI 似乎正在努力应对 AI 视频生成带来的种种担忧。在该公司首个 AI 驱动的社交媒体平台发布后的几天里，一些 OpenAI 研究人员公开讨论了相关问题，以及该产品如何契合该非营利组织的使命。OpenAI 首席执行官 Sam Altman 表示，公司在 Sora 发布当天感到“忐忑不安”。

ChatGPT 负责人 Nick Turley本月早些时候告诉我，让世界了解一项新技术的最佳方式就是将其推广出去。他说，这正是他们从 ChatGPT 中学到的，也是 OpenAI 在 Sora 中发现的。看来，OpenAI 也在学习如何推广这项技术。