人工智能运用须符合正当有益原则

AI人工智能 2019-09-06 16:30103未知admin

  广被诟病的用户协议、合成视频存在的安全问题……ZAO从爆红到质疑缠身,只用了不到24小时。从人脸合成技术诞生的那一天开始,人们就没有停止过对技术被人利用作恶的忧虑。

  此次对ZAO的担忧,也折射出潜藏在每个人内心的那个疑问:如果人工智能越来越无所不能,人类该如何自处?在新一轮的产业变革中,人类的隐私和其他权益究竟如何保护?

  从一键换脸到深裸,科技伦理屡受冲击

  曾经刷屏的类似应用软件不止ZAO一款,还有脸萌、足记、天天P图……与ZAO一样,这些应用大多与图像相关,许多也需要用户上传个人照片,但是从未引起如此大规模的争议。

  据了解,能够合成视频是ZAO引爆公众讨论的关键。在此之前,图像App的玩法都是基于静态的照片,ZAO则第一次将视频换脸技术带到了普通大众的手机里。

  中国科学院神经科学博士刘耀文向记者介绍说,人工智能相关应用在过去几年迅猛增长,其中人脸识别是应用范围比较广的技术之一。如今在金融、安防、考勤等领域,人脸识别已被大量应用。比如,当用户向互联网金融公司借贷时,平台首先需要做的是“验证你是你”,由于与钱财直接相关,拦截伪造的人脸攻击就变得至为重要。

  因此,这次刷屏的合成视频便触到了许多人的心理底线:当视频也可以被伪造,还有什么可以确保真实?

  其实,换脸技术本身并不新奇。2016年上映的《星球大战外传:侠盗一号》还原了1977年《星球大战4》中总督塔金的角色,但其扮演者彼得·库欣早在22年前就已去世,特效团队为此找来一位长相酷似彼得的演员进行面部表情捕捉,然后用计算机动画技术将塔金复活。不过,出品方卢克斯影业和迪士尼均表示,在制作《星球大战外传》时已经取得了彼得家人和产权继承人的同意。

  将换脸推到风口浪尖的是一系列融合了AI技术的“假视频”。

  2017年12月,一个名为“深度伪造”的用户在美国某论坛上发布了多段色情视频。他让电脑软件学习好莱坞女星的图像资料,然后把女星的面部移植到色情片女主角脸上,引发大量讨论和抨击,最后以账号被封告终。

  不过,AI换脸并未消失。用户“深度伪造”随后直接开源了项目代码,更多效仿者随之而来,为了纪念他,便用他的名字代称“AI换脸”技术。

  据媒体报道,今年6月13日,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。美国外交政策研究所研究员克林特·瓦茨认为,深度伪造技术对美国2020年大选具有潜在威胁,若放任伪造视频扩散,则会对美国民主选举产生不良影响,挫伤选民的积极性。

眼爆科技 Copyright © 2002-2017 深圳眼爆智能科技有限公司 版权所有 备案号:* 本站资源来自互联网,我们转载的目的是用于学习交流与讨论,如果您认为我们的转载侵犯了您的权益,请与我们联系(Email:gm@ybbtb.com),我们将在3个工作日内删除相关内容。

邮箱地址:gm@ybbtb.com