当前位置:首页>互联网

AI“换脸”成人片网上流窜,那些关于开源软件的黑暗面

2018年2月9日     来源:科技圈     编辑:HuangJiang      
分享到
近期有网友在网络论坛 Reddit 发布一款 AI 工具,可让所有人轻易将影片中的人物“换脸”制作假影片

科技的进展,或许将让真实变得越来越珍贵。近期有网友在网络论坛 Reddit 发布一款 AI 工具,可让所有人轻易将影片中的人物“换脸”制作假影片,许多网友纷纷用这款工具将女明星的脸移花接木到色情片演员身上,包括 Pornhub、Twitter 等各大平台纷纷出手禁止这类影片,同时此现象也引起不少伦理道德的讨论。

色情换脸影片泛滥,各大平台出手打击

最近网络上流传一批“名人色情影片”,不过这可不是被偷拍或外泄,而是 2017 年 12 月,有一位在网络论坛 Reddit 代号叫“deepfake”(深伪)的用户利用 AI 软件,将《神奇女侠》(Wonder Woman)主角盖儿·加朵(Gal Gadot)的脸移花接木到色情片主角身上。

后来,另一位代号叫“deepfakeapp”的用户,将“deepfake”的算法加以改造推出软件“FakeApp”,目标是要让所有没有技术背景的人,都可以利用深度学习轻易做出假影片。根据实测,有网友仅花 5 小时,就用 FakeApp 成功将洁西卡·艾芭(Jessica Alba)的脸换到 AV 女优身上,甚至将希特勒与阿根廷总统 Mauricio Macri 接在一起,丝毫看不出怪异之处。

不过,为了遏止“换脸色情片”歪风,从上星期开始,GIF 平台 Gfycat 已开始移除相关内容,交流平台 Discord 也出手封锁讨论制作换脸色情影片的服务器。全球最大色情影片平台 Pornhub 表示:“本站不容忍任何非自愿的内容,非自愿内容直接违反我们的使用条款。该条款禁止复仇色情报复(revenge porn)、深伪,以及任何未经同意或允许上传的内容。”Twitter 也表示会阻止这类移花接木内容在平台传播。

各大平台纷纷出手打击,但科技始终来自人性,而人性正毫不掩饰代表最赤裸的欲望,移除影片并不能阻挡技术的演进,而未来真实是否也将变得珍贵?

方便却被滥用,开源软件的黑暗面

Google 在 2015 年推出开源软件库“TensorFlow”,使资源不仅免费更变得开放易得,自此让机器学习研究的门槛从实验室带进大众的笔记本电脑。

不过 TensorFlow 的威力现在 Google 也难易控制,在“FakeApp”出现后,不仅名人可能变色情片主角,身边好友、同学等一般民众都更容易受害。最初“deepfake”制作影片用到的工具,是基于 TensorFlow 和 Keras 等开源软件,素材则是透过 Google图片搜索、公开图库取得,共同的特点就是公开开放且免费。

TensorFlow 是开源软件,而 FakeApp 则是代表开源软件的黑暗面,因此 Google 无法追踪软件下载后的用途,任何人都可以下载开源软件,用来制作搞笑影片或色情片没人管得着,概念就很像枪械公司卖出手枪后,消费者要用来自卫或杀人都是枪械公司无法控制及负责的。

软件开源对科技大公司有许多好处,可以驱使更多人使用 AI 创作,内部员工可以做为新产品的灵感来源,外部使用者则可以协助找出产品 bug。AT&T 实验技术副总裁 Mazin Gilbert 曾说:“机器学习的突破不是算法,而是开源,开源可以降低大众进入的门槛。”

假影片将成社交平台最头痛的事

开源软件也使 AI 开发的道德问题复杂化,各家科技公司也都试图找出解方。微软 AI 副总裁 Harry Shum 曾说:“这其实不容易,我不认为我们现在有简单的解决方法,但我们在过程中学到的是,当我们在设计机器学习算法时,会试图找出盲点。”

将 AI 从开源中移除看似可以解决眼下问题,但做法太过消极,目前许多原始代码都可在 Github 这类平台找到,学者、伦理学家、研究人员可从这些资源找到问题、提出不同观点看法,一般人也可以运用这些资源操作简单的应用。

  • 中研网
    发现资讯的价值
  • 中研研究院
    掌握产业最新情报

中研网是中国领先的综合经济门户,聚焦产业、科技、创新等研究领域,致力于为中高端人士提供最具权威性的产业资讯。每天对全球产业经济新闻进行及时追踪报道,并对热点行业专题探讨及深入评析。以独到的专业视角,全力打造中国权威的经济研究、决策支持平台!

广告、内容合作请点这里:

寻求报道 ››

【版权及免责声明】凡注明"转载来源"的作品,均转载自其它媒体,转载目的在于传递更多的信息,并不代表本网赞同其观点和对其真实性负责。中研网倡导尊重与保护知识产权,如发现本站文章存在内容、版权或其它问题,
烦请联系:jsb@chinairn.com、0755-23619058,我们将及时沟通与处理。