深度伪造技术市场兴起及其风险探讨

杰克·保罗的深度伪造策略引发关于Sora客串与数字肖像权的辩论

职业拳击手兼社交媒体名人杰克·保罗近期再次成为焦点。上周，一系列病毒式传播的视频显示他在进行化妆教程、从塔可钟商店盗窃以及抢劫7-11便利店。然而，所有这些视频都不是真实的——它们是使用某中心的Sora应用程序生成的深度伪造内容。

该软件于9月30日推出，利用人工智能生成视频，并允许人们上传自己的图像作为“客串”形象，供他人使用。保罗自愿上传了自己的客串形象供他人使用，随后在10月8日，他发布了一段TikTok视频，威胁要起诉任何传播他做他永远不会做的事情的深度伪造视频的人。说这番话时，他开始笨拙地化妆——这是一个玩笑，因为许多深度伪造视频正是描绘他在做这件事。第二天，他在X上宣布自己是“自豪的某中心投资者”和“第一位名人NIL客串用户”，并表示使用他形象生成的视频在短短六天内获得了超过10亿的浏览量。

此类尝试可能是深度伪造新数字经济的开端，而Sora可能是关键的驱动因素。“客串”功能最初似乎是Sora能力的一个有趣附加功能，现在则成为了主要吸引力之一，某中心的首席执行官已宣布计划将其货币化。这一发展为一些人带来了机会，但对另一些人则构成了巨大风险。

根据系统的实施方式，客串所有者可以设定条款和成本，这可能会为那些在未经同意的情况下被使用图像的人收回一些控制权。任何人都可以分享他们的姓名、形象和肖像权，实际上就是将他们的数字分身放入一个类似于图库的系统中。其他应用程序用户可以以小型、可追踪的方式授权使用这些形象，遵守权利持有者设定的规则，并为每次使用付费。深度伪造技术至今主要用于诽谤或勒索他人，但至少将开始为被描绘者产生版税。

当然，由于技术的发展速度远超许多用户的认知——也肯定快于监管机构的跟进速度——风险是巨大的。一个人可能同意被复制，但仍可能因经过选择性编辑或带有恶意提示生成的深度伪造内容而受到伤害。他们的图像可能很容易被盗用并在其他地方用于欺诈或歪曲，而暴露的生物识别数据不能像泄露的密码那样简单地重置。

建立NIL市场并不能解决潜在的危害，但它可能通过创造商业激励，促使通过监管来防止这些危害，以维护市场的完整性。在某些情况下，出于道德原因而不仅仅是法律原因，使用个人的NIL将是不可能的。在Sora推出的第一周，有家庭抗议对死者的深度伪造，某中心表示将添加工具来尊重这些请求。

深度伪造经济可能会以无人能预见的方式改变现状。像声田和SoundCloud这样的音乐流媒体平台改变了音乐产业，改变了歌曲的分享方式甚至创作方式。例如，它们促使音乐人录制更短的歌曲，以减少听众跳过的可能性。类似的情况会在商品化的深度伪造领域发生吗？一个市场可能会逐渐形成，人们的图像会根据需求程度被出售、交易甚至调整。面部图像的价值会随着个人受欢迎程度的波动而涨跌吗？这听起来像反乌托邦，但我们已经生活在一个形象和注意力被货币化的文化中，而且这一趋势似乎很可能继续演变。

一些名人已经开始探索商业深度伪造。2023年，音乐人格莱姆斯提出，任何使用她的AI声音创作“成功”歌曲的人，都可以获得50-50的版税分成。某机构的Dream Track项目允许创作者使用查理·普斯、黛米·洛瓦托、约翰·传奇等人的AI歌声制作配乐。体育明星大卫·贝克汉姆和佩顿·曼宁的深度伪造形象已出现在广告中，音乐人FKA twigs创建了一个深度伪造形象来处理她的社交媒体互动，而她自己则专注于音乐创作。

这让我们回到保罗决定让人们用他在Sora上的客串制作视频的逻辑：如果注意力在饱和的数字市场中是稀缺的宝贵商品，那么让世界按需生成你，就能让你获得更多关注并提升你的价值。他既是资产又是架构师，今天赚取注意力，以便明天获得版税报酬。
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）

公众号二维码

公众号二维码