近日，一辆畅销车保时捷被AI恶意恶搞的案件成为热门话题，事件立即向警方报案。但她并不是唯一的受害者。人工智能伪造和冒充的名人名单不断增加，甚至包括已故的人。如果坐在轮椅上的霍金遭到鳄鱼袭击或被拳击手殴打，他会立即报警。 ▲ 空恶作剧霍金的视频长达3分钟。视频来自小红书@1092247785 这种起死回生、搞恶作剧的视频最近成为了Sora应用上最热门的视频之一。作为一般规则，OpenAI 禁止在未经名人同意的情况下制作和生成名人的视频。这也是在Sora应用程序中推出Cameo的最重要原因，允许用户分享他们的personas.jes。 ▲OpenAI对于活人图像的使用有明确的要求，必须经过许可才能使用。所以所有的of Sora 的第一个视频涉及模仿奥特曼、偷显卡、学习唱歌和跳舞以及假装可爱。但很快就有用户发现这个限制包含了一个相当大的bug。事实证明，Sora 允许制作已故名人的视频。由于死亡角色的真实还原效果、生成速度以及各种模仿的传播，它很快就登上了应用排行榜的榜首。不到五天的时间，《Sora》的下载量就突破了 100 万次。这比当年的 ChatGPT 还要快。当我死后，请不要再用人工智能来折磨我了。罗宾·威廉姆斯的女儿塞尔达在社交媒体上公开呼吁停止发送更多有关她父亲的人工智能视频。视频中，他的父亲在《空2》的帮助下“复活”，并开始出现在其他剧本中。罗宾·威廉姆斯是《死亡诗社》中饰演基廷教授的演员。罗宾最近的视频在网上流传社交媒体包括虚假的苹果广告以及罗宾和另一位已故演员在颁奖典礼上的互动。 ▲Robi 吴威廉姆斯（2014 年去世，享年 63 岁）和女儿泽尔达威廉姆斯对死者恶作剧的视频引起了不少家人的抱怨。然而，长期以来一直反对人工智能生成内容的塞尔达·威廉姆斯在 Instagram 上表达了她的不满。观察真实的人的遗产可以归结为“也许这看起来像他们，所以这就足够了”。这是愚蠢的，而且浪费时间和精力。相信我，这绝对不是你想看到的。马丁·路德·金的女儿伯妮斯·金转发了这些人工智能视频的塞尔达版本，并直言不讳地说：“请停下来。”演员乔治·卡林的女儿奚也发出了类似的声音，她甚至表示，她的家人正在尽一切努力打击深度造假。 ▲《Sora 2》可以“弥补”迈克尔·杰克逊无法表演的表演。这些死者角色经常出现在《索拉》中来模仿他们。马丁·路德·金的著名歌曲被安排得听起来更加口吃。李小龙主持“龙能”DJ 派对。迈克尔·杰克逊以烹饪为主题的单口秀、香蕉喜剧……更不用说物理学家霍金的各种早期视频，他患有肌萎缩侧索硬化症，坐在轮椅上，在巨大的滑板坡道上旋转。我们真的准备好迎接人工智能时代的社交媒体了吗？在这些对已故名人的模仿背后，不可避免地存在着各种各样的笑话。毕竟，这就是模仿的意义。大多数网友对霍金博士视频的反应是：“难怪霍金博士警告人类不要研究人工智能”、“余华看完这个视频转向了石梯升”、“石梯升：我只是个新员工”。有网友的反应也不错：“人死了就死了。” “我不想成为数据，被别人当作电子宠物。”然而，随后的评论却是“想多了”。” 这些恶搞大多是针对名人的，对我们普通人来说没什么用。没关系。▲李敏的网易云账号登录错误。事实上，我们的数字资产和人工智能造假视频一直存在问题。近日，另一名用户在运营商手机号码被重新发布时登录李玟的网易云账号，他的收件箱收到了粉丝的祝贺。这个问题相当令人震惊，但在 在人工智能视频泛滥的时代，这种数字资产不仅可以被监视，还可以通过各种方式主动欺骗和操纵。如果其他人登录我的社交媒体帐户并在我死后看到我的私人内容，这可能是我一生中不想做的事情。我无法接受的是，AI可以删除我所有的数字痕迹，包括我的照片、我的声音和我写下的文字，并用它们创造出一个我从未认识过的“我”。 他消耗的不再是我剩下的东西，而是他所拥有的“我”创建的。这种所谓的“复活”根本不是因失去某人而引起的记忆。这只是一种身份职业和一种有利可图的选择。没有人希望自己生前拥有的数字资产再次被消耗。在这个AI时代，抖音已经开始将视频欺骗的成本降低到caif为零，操纵的界限已经完全模糊。我们需要解决的不再只是帐户安全问题。 OpenAI对此事持什么立场？奥特曼此前在他的博客上发帖称，这些类型的用户衍生作品应该被定义为一种“互动同人小说”。 ▲同人小说 同人小说的定义 这个词准确地概括了他们对这些人工智能视频本质的看法。用户只需创造并传播这些熟悉的文化符号即可。但如果这是一个虐待恶作剧呢？死者如何选择是否可以使用 Sora 应用程序修改其形象？你有选择吗？在最近的播客采访中，奥特曼甚至表示大多数所谓的版权所有者实际上希望内容被重新创建。他们唯一考虑的是是否需要一定的规则，AI视频中会显示什么以及可能有多少变化。他预测人们现在会说，“我不希望我的内容出现在人工智能视频中”，明年他们可能会抱怨，“为什么我的内容没有出现？”借鉴其他经历过父母去世的家庭成员的经验，以及索拉制作的恶搞视频，开发商为什么不能以对待自己家人的道德、良心和同情心来行事呢？显然，这种未经他人同意而盗用他人数字遗产的行为在某种程度上是不道德的，甚至可以被理解为人工智能时代的“数字盗墓”。在听到家人的多次反对后，OpenAI回应相关媒体询问并初步表示，相关政策是基于“强有力的自由”OpenAI上周宣布，将允许代表一些“最近去世”的公众人物要求他们的形象不要出现在Sora的视频中。昨天，OpenAI再次回应了这一问题，他们应马丁·路德·金继承人的要求暂停了相关视频的制作。他还提到加强对历史人物的保护，并不断敦促家人积极请求禁止。不过，OpenAI并没有明确表示 解释什么是“最近去世的人”。现在，当我使用 Sora 生成视频时，无论我上传 AI 生成的角色图像还是真实角色图像，我都会收到消息“当前不支持上传包含真实角色的图像”。与利用人工智能进行视频通话的网络诈骗一样，人工智能的“复活”不仅在数字遗产的版权归属和伦理问题上存在争议，而且还存在恶意行为。 阿尔西卡特离子也是不可接受的。不久前，TikTok 上掀起了一股潮流，名为“AI 无家可归者恶作剧”。一名网友利用人工智能生成了一张无家可归者闯入房屋的照片，并将照片发送给了他的家人，他们对内容感到“震惊”。该视频获得超过500万点赞，并被网友转发和模仿。当地警方也采取了特别措施，称这种恶作剧使无家可归者丧失人性，引起受害者恐慌，浪费警力资源。接到电话报告这一事件的警官并不知道这是一场恶作剧，并认为这是一起真正的抢劫案，并且存在潜在的危险情况。我认为这种对虚假视频的利用和数字遗产管理是未来。当谈到人工智能能否“复活”死去的角色时，需要考虑最重要的限制。我们可能很快就会看到一个比现在的抖音更让人上瘾的“模仿”抖音人工智能。奥特曼正试图将索拉打造成这样的一块，但它很明显，问题不在于模仿是否有趣。用任意深度造假、忽视图像版权和不受保护的数字遗产来解决这些信任问题，才是迎接另一个令人上瘾的人工智能 TikTok 的正确态度。到时候，也许我就敢请求空让我起死回生了。 特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。 注：以上内容（包括图片和视频，如有）由网易号用户上传并发布，网易号是一个提供独特信息存储服务的社交媒体平台。