听听这篇文章
预计 6 分钟
本文的音频版本是通过基于人工智能的文本转语音技术生成的。
非营利消费者权益组织 Public Citizen 在周二的一封信中要求 OpenAI 撤回其视频生成软件 Sora 2，因为该应用程序引发了人们对错误信息传播和侵犯隐私行为的担忧。
这封信是写给该公司兼首席执行官萨姆·奥尔特曼（Sam Altman）的，信中指责 OpenAI 仓促发布该应用程序，以便抢在竞争对手之前发布。
该监管组织表示，这表明“OpenAI 不断涌入市场，其产品要么本质上不安全，要么缺乏所需的防护措施”。
信中称，Sora 2 表现出对产品安全和人们对自己肖像的权利的“鲁莽漠视”。它认为，这还进一步削弱了公众对在线内容真实性的信任。
该组织还将这封信寄给了美国国会。
OpenAI 周二没有立即回应置评请求。
更积极地回应有关名人内容的投诉
典型的 Sora 视频被设计得足够有趣，让您可以点击并在 TikTok、Instagram、X 和 Facebook 等平台上分享。
这可能是已故女王伊丽莎白二世的说唱，或者是更普通、更可信的东西。一种流行的 Sora 类型描绘了假门铃摄像机的镜头，捕捉到了一些有点不可思议的东西——比如，门廊上的一条大蟒蛇或一条鳄鱼接近一个泰然自若的孩子——最后以一个有点令人震惊的画面结束，比如奶奶用扫帚打动物时大喊大叫。
当前24:17新的人工智能视频应用 Sora 来了：你能分辨出什么是真实的吗？
无论是你最好的朋友骑着独角兽、迈克尔·杰克逊在教数学，还是小马丁·路德·金梦想着出售度假套餐——现在，使用新的人工智能应用程序 Sora，可以更轻松、更快速地将这些想法转化为现实的视频。其背后的公司 OpenAI 承诺提供防范暴力和欺诈的护栏——但许多批评者担心该应用程序可能会将错误信息推向过度……并用更多的“人工智能废话”污染社会。
公众公民加入了越来越多的倡导团体、学者和专家的行列，对让人们根据他们在提示中输入的任何内容创建人工智能视频的危险发出警告，导致未经同意的图像和现实的深度伪造在危害较小的“人工智能废液”海洋中扩散。
OpenAI 已经严厉打击了公众人物做出怪异行为的人工智能创造——其中包括迈克尔·杰克逊、小马丁·路德·金和罗杰斯先生——但这是在家族庄园和演员工会的强烈抗议之后进行的。
公共公民科技政策倡导者 JB Branch 在接受采访时表示：“我们最担心的是对民主的潜在威胁。”
“我认为我们正在进入一个人们无法真正相信自己所看到的世界。我们开始看到政治策略，其中发布的第一张图片、第一段视频就是人们所记住的。”
护栏并没有阻止骚扰
周二这封信的撰写人布兰奇也看到了对人们隐私的更广泛威胁，并表示这些威胁可能会对某些群体产生不成比例的影响。
人工智能生成的视频在网上随处可见，但是如果您的图像或声音在未经您许可的情况下被复制，会发生什么？加拿大广播公司 (CBC) 的阿什利·弗雷泽 (Ashley Fraser) 详细分析了丹麦如何尝试重塑数字身份保护以及加拿大的法律如何进行比较。
OpenAI 禁止裸体，但布兰奇表示，“女性发现自己在网上受到其他方式的骚扰”。
迷恋的利基内容已经通过了应用程序的限制。新闻媒体 404 Media 周五报道了 Sora 制作的大量女性被勒死的视频。
OpenAI 一个多月前在 iPhone 上推出了新的 Sora 应用程序。它于上周在美国、加拿大以及包括日本和韩国在内的几个亚洲国家在 Android 手机上推出。
反对它的最强烈的阻力大部分来自好莱坞和其他娱乐界，包括日本漫画业。
OpenAI 在发布几天后就宣布了第一个重大变化，称“过度节制对用户来说非常令人沮丧”，但“当世界仍在适应这项新技术时”，保持保守很重要。
随后，公司于 10 月 16 日公开宣布与马丁·路德·金的家人达成协议，防止对这位民权领袖进行“不尊重的描述”，同时公司致力于更好的保障措施；10 月 20 日，又与《绝命毒师》演员布莱恩·科兰斯顿、SAG AFTRA 工会和人才经纪公司达成另一项协议。
“如果你出名了，那就太好了，”布兰奇说。 “这只是 OpenAI 的一种模式，他们愿意回应一小部分人的愤怒。他们愿意发布一些东西，然后道歉。但其中很多问题都是他们在发布之前可以做出的设计选择。”
欧洲人工智能制作公司 Particle6 表示，他们的人工智能角色蒂莉·诺伍德引起了很大的兴趣，但包括艾米莉·布朗特、梅丽莎·巴雷拉和乌比·戈德堡在内的好莱坞演员以及美国演员工会和美国电视交易协会联盟都站出来反对这个人工智能角色。
针对 ChatGPT 的诉讼正在进行中
OpenAI 对其旗舰产品 ChatGPT 也面临着类似的投诉。上周在加州法院提起的七起新诉讼称，即使人们之前没有心理健康问题，聊天机器人也会导致人们自杀和产生有害的妄想。
这些诉讼由社交媒体受害者法律中心和科技正义法律项目代表六名成年人和一名青少年提起，声称 OpenAI 去年故意过早发布了 GPT-4o，尽管内部警告称它具有危险的阿谀奉承和心理操纵作用。其中四名受害者自杀身亡。
公众公民组织没有参与这些诉讼，但布兰奇表示，他认为这与索拉被释放的方式有相似之处。
“这在很大程度上似乎是可以预见的，”他说。 “但他们宁愿推出一款产品，让人们下载它，让人们沉迷于它，而不是做正确的事情，事先对这些事情进行压力测试，并担心日常用户的困境。”
OpenAI 回应动漫创作者、视频游戏制作者
OpenAI 上周花了很多时间回应日本贸易协会对 Sora 的投诉，该协会代表宫崎骏吉卜力工作室和视频游戏制造商 Bandai Namco、Square Enix 等著名动画师。
OpenAI 为该应用程序根据流行角色创建虚假视频的广泛能力进行了辩护，称许多动漫迷希望与他们最喜欢的角色互动。
但该公司还表示，它已经设置了防护栏，以防止在未经版权所有者同意的情况下生成知名角色。
OpenAI 在上周关于该贸易组织信函的一份声明中表示：“我们正在与工作室和权利持有者直接接触，听取反馈并了解人们如何使用《Sora 2》，包括在高度重视文化和创意产业的日本。”
