眼爆科技

人脸识别不断“闯祸”,科技公司是时候成立AI伦理委员会了

时间:2019-09-09 10:30  编辑:眼爆科技

人工智能,人脸识别,人工智能,伦理,科技向善

图片来自“123RF”

科技公司或许很快会配备两个CEO:一个是Chief Executive Officer即首席执行官,另一个是Chief Ethical Officer即首席伦理官。

这几天,AI人脸识别技术在不断“闯祸”。

视频换脸App ZAO在朋友圈刷屏,很快就因为用户协议存在霸王条款、涉嫌侵犯肖像权引发用户恐慌等问题,引发巨大争议,先是被微信封杀,接着工信部就ZAO App网络数据安全问题开展问询约谈,要求其严格按照国家法律法规以及相关主管部门要求,进行整改,依法收集用户信息并使用,规范协议条款,强化网络数据和用户个人信息安全保护。ZAO随后修改用户协议并公开道歉。

人脸.jpg

另一家AI独角兽则因在校园试点“基于人脸识别的教室监控”而引发舆论大哗,相关图片显示,对应系统可以监控学生在课堂的一举一动,举手次数、打瞌睡、开小差甚至注意力是否集中,都可以被机器识别得一清二楚,并进行可视化呈现。尽管对应的技术在智能教育上呈现出广阔的应用前景,但人们却并不买账,而是担心“监控”下学习的精神压力和隐私风险。随后,这家AI独角兽回应称,网络上出现的一幅课堂行为分析图片,为技术场景化概念演示,意思是,尚未应用。

人脸识别.jpg

不论是ZAO的视频换脸技术,还是教室监控技术,本身都不新鲜。ZAO用的是开源技术,“教室监控技术”一直都是AI教育明星公司们主打的一项技术。一夜之间备受关注,原因在于,AI技术发展太快,应用门槛变低,开始来到了我们身边。

AI技术的副作用正在出现

算法、算力和数据经历几年积累后,AI威力已大不相同。百度在前不久的云智峰会上提出,AI工业化时代来了。马化腾在世界人工智能大会上表示:人工智能在未来十年会迎来高速发展。AI技术到了大规模落地到各行各业的关键时刻,是真的已经爆发了。

AI技术爆发带来的问题,是人们始料未及的,人类没有做好准备。

单单是一个人脸识别,就有大量的值得人们焦虑甚至恐惧的问题:如果换脸技术被用于恶意合成色情或暴力视频,可能会给当事人带来类似于网络暴力这样的灭顶之灾;如果人脸识别技术被任何人轻松掌握,隐私对每个人来说将会成为奢侈品;如果人脸识别技术被犯罪分子破解,人们的隐私、财产甚至人身安全都会面临巨大的威胁。

  • 共5页:
  • 上一页
  • 1
  • 2
  • 3
  • 4
  • 5
  • 下一页




  • 上一篇:物流园区如何实现高质量发展 下一篇:AI时代的“数据隐私”与“算法歧视”