用 DeepFake 制作传播小黄片, 蹲监狱加罚款

Deepfake 算法随后在 GitHub 上发布,给任何拥有足够专业知识和足够配置计算机的人提供了制作虚假视频的方法。

该算法可通过深度学习,将 A 的面容移植到 B 的脸上。

与一般图像处理算法不同的是,Deepfake 可在视频中近乎完美地实现动态 " 换脸 "。

不过 Deepfake 因为被用于制作虚假视频而声名狼藉:例如有人利用该技术制作著名女星的色情内容、伪造政治家的公开演讲,并将尼古拉斯 · 凯奇的形象植入他从未出演过的影片中。

这项技术发展得如此之快,让州和联邦立法者都陷入了困境。

受 Deepfake 技术侵害的受害者没有起诉权,因为它不受现行法律的约束。

近日(6 月 27 日),一名程序员开发出了名为 DeepNude 的应用,只要给 DeepNude 一张女性照片,借助神经网络技术,App 可以自动 " 脱掉 " 女性身上的衣服,显示出裸体。

很快,Reddit 平台将其封禁。

用 DeepFake 制作传播小黄片, 蹲监狱加罚款

Google Brain 项目的发起人和领导者,斯坦福大学的计算机科学教授吴恩达发推表示,他很开心看到 DeepNude 应用被禁。

他强调,作为一名普通人和父亲,他觉得 DeepNude 是 AI 应用中最恶心的一个。

他希望 AI 社区中的成员,谨慎利用手中的权利,多创造有助于世界进步的工具。

批评者们担心,有用户可能会利用 Deepfake 算法来传播不实信息。

上个月,众议员 Yvette Clarke(D-NY)在国会上提出了 DEEPFAKES 责任法案。

该法案将把合成图像或视频定为刑事犯罪,拟议的联邦立法是一个更广泛的法规,涵盖模仿的虚假视频和图像。

该法案将赋予受害者起诉创作者的权利,或者在法庭上以其它方式辩护他们的声誉。

英国政府正在讨论一项法律,该法律专门涉及制作核分享非自愿的亲密图像,以应对滥用和冒犯性数字产品。

讨论该法律的委员会将重点关注复仇性质的色情视频,以及利用 Deepfake 算法生成的色情内容。

技术 VS 技术科学界也试图通过技术的手段来甄别哪些是由 Deepfake 生成的视频。

由纽约奥尔巴尼大学的 Siwei Lyu 领导的一个团队发现了这些伪造视频的漏洞。

DeepFake 算法根据馈送的图像创建视频,尽管比较准确,但人工智能始终无法完美再现人类自然产生的所有生理信号。

与光线传播有关的是光线螺旋方式传播 图-1

Lyu 和他的团队特别关注一点:眨眼。

人类通常每两到三秒就会眨一次眼,但人像照片通常不会闭眼,因此通过照片对这些算法进行训练意味着生成的视频中人像很少会眨眼。

首先,他们在具有睁眼和闭眼人像的标记数据集上训练人工智能。

随后,为了对训练结果进行测试,他们自行生成了 DeepFake 视频集,甚至还做了一些后期处理,让伪造视频显得更自然。

根据 Lyu 的说法,他们的人工智能识别出了所有的伪造视频。

Lyu 解释说,在伪造视频的后期处理中手动添加眨眼并不是一个巨大的挑战,而且一些伪造的视频——包括 BuzzFeed 上的伪造视频——确实包含眨眼。

不过他们开发的这种算法,至少有助于阻止和延迟创建伪造视频的过程。

" 我们正在形成第一道防线。

"Lyu 说," 从长远来看,这实际上是制作假视频和检测假视频之间的持续战斗。

"以上内容由 " 创事记 " 上传发布。

光线传播方向光线螺旋方式传播 图-2

文 / 千鸟弗吉尼亚州正式扩大其色情禁令,这其中就涵盖了利用 Deepfake 制作的小黄片。

上述法律修正案于今年早些时候通过,并在美国当地时间 7 月 1 日正式生效。

该法律规定未经许可分享某人视频的裸照照片是违法的,无论是真实还是虚假的。

此外,其还涵盖了光标图像或其它类型的假镜头,当然 Deepfake 合成的影像也在列。

违反该规则属于第一类轻罪,最高可判 12 个月的监禁,罚款额高达 2500 美元。

失控的DeepFake 技术自 2014 年起,弗吉尼亚州就已经禁止传播裸体图像,但它没有涵盖捏造的图像或视频。

随着人工智能的飞速发展,由 Deepfake 黑科技捏造的图像或视频变得越来越普遍。

用鱼叉叉鱼的光线传播图光线螺旋方式传播 图-3

来源:http://www.yuedama.com

发表评论

图片表情