Instagram 上到处都是发布深度伪造内容的人——包括最近来自 Meta 一位最知名高管的内容。
11 月早些时候,Meta 首席 AI 官 Alexandr Wang 分享了一段短片,用来推广公司旗下的消费级 AI 智能体 Muse。在这段 AI 生成的短片中,Wang、Meta CEO Mark Zuckerberg、OpenAI CEO Sam Altman,以及 Muse 的拟人化吉祥物 Jolly 正在进行四人视频通话。当 Altman 加入通话时,他打扮成 Jolly 的样子,穿着毛茸茸的连帽套装,还涂了脸彩,让自己看起来像那个可爱的角色。这段短片的配文是“当兄弟们开会讨论 openai 产品战略时”,影射的是 AI 智能体竞赛以及 Muse 近期的走红。
就在几年前,描绘真实人物的 AI 内容还会引发强烈的公开声明,谴责利用该技术模仿人类。在某些情况下,法律行动也曾被威胁采取。如今,AI 内容已成为新现实肌理的一部分,尤其是在社交媒体上。例如,在中期选举之前,政治团体投放了价值数百万美元的 AI 生成广告来攻击对手。
Wang 一直在做很多被一些人称为“反公关”的事情来推广 Muse,发了数百条推文,还把更传统的营销人员称为“corposlops”。尽管如此,一位大型科技公司高管发布竞争对手的 AI 视频仍然值得注意,尤其是在一个近期因 AI 生成内容而受到批评的平台上。在 10 月一张 AI 生成的女演员 Mia Goth 图片获得传播后,这位《Pearl》主演的代理人告诉The Verge,Instagram 允许这张图片传播而不专注于“保护公众人物肖像的完整性与真实性”,这“令人无法理解”。其他名人,包括 Scarlett Johansson,也经常成为性化 AI 图像的对象;Meta 过去曾移除过一些它认定为冒充他人并使用其肖像的账号。
Meta 要求描绘人物的 AI 生成视频必须标注为 AI,就像 Wang 的帖子那样。然而,静态图像没有这样的要求,这意味着 Goth 的 AI 图像没有任何披露。更糟的是,这张图片被一个拥有 Instagram 授予的蓝色认证徽章的粉丝账号分享。
Meta 发言人 Tracy Clayton 在回应置评请求时指出,Wang 的帖子已被标注为 AI 内容。Clayton 还指出,Altman 已将其肖像开放用于 AI 内容生成,例如 OpenAI 推出其 Sora 应用时(而它很快就被伪造的 Altman 视频淹没了)。OpenAI 未回应置评请求。
关注话题和作者关注此报道中的话题和作者,以便在个性化首页信息流中看到更多类似内容,并接收邮件更新。
- Mia Sato