人工智能安全:未来战争的风险与挑战

智能家居 2020-05-19 10:31124未知admin

随着人工智能技术的发展,人工智能已广泛应用到各行各业,推动人类社会发生广泛而深刻的变革。然而,人工智能技术是把“双刃剑”,人工智能也可能带来意想不到的安全问题。从无人驾驶汽车撞人到自主武器杀人,从脑机接口打造超级人类到人工智能自我复制,人工智能真的安全吗?特别是人工智能应用到军事领域,世界是否会陷入可怕的“人工智能军备竞赛”,而导致人工智能失控?

人工智能安全风险的根源

人工智能之所以给人类带来安全风险,一方面是人工智能技术不成熟造成的,包括算法不可解释性、数据强依赖性等技术局限性;另一方面是人工智能技术在应用和滥用过程中对不同领域造成的影响和冲击,包括对政治、经济、军事、社会伦理道德等的冲击和挑战。具体到军事领域,人工智能带来的风险和挑战,除了技术局限性和不成熟性带来的风险,还包括对现有战争机理的改变,对战略稳定性的冲击,对战争伦理道德的挑战等。本文仅选取智能情报系统的误判风险、辅助决策系统的安全风险、自主武器系统的安全风险三个方面进行分析。

智能情报系统的误判风险

基于人工智能技术的感知系统可广泛用于情报、监视和侦察任务,但是这种智能情报系统存在误判的风险。

首先,智能情报系统的视觉感知是基于已有的图象数据集进行训练,数据的数量和质量都会影响人工智能的情报判断的准确性。其次,人工智能的计算机视觉与人类的认知方法是不同的。人工智能系统在接受训练后能够对物体或人物图像进行识别和分类,但却并不能像人类一样理解对象的含义或概念。当面临新的图像数据集时就会做出错误的判断。再次,智能情报系统还可能被欺骗做出错误判断,即对抗样本攻击。例如,将一小块精心挑选的胶布粘贴到交通信号灯上能够使人工智能系统判断失误,把红灯判断为绿灯。2019年8月,来自莫斯科国立大学和华为莫斯科研究中心的两位研究人员公布了一项研究结果,只需要用普通打印机打印一张彩色贴纸贴到帽子上,就能使ArcFace等业内领先的人脸识别系统做出错误判断。在作战中,这种错误有可能导致对攻击目标的错误判断,误伤平民或者己方人员和设施。

思考:在战争中,如果采用对抗样本攻击故意使对方的人工智能系统无法分辨军人与平民,军事设施和民用设施,导致错误的攻击,谁承担责任?

辅助决策系统的安全风险

人工智能辅助决策系统在军事上的应用可加快数据处理速度,提高对象识别能力,提高人机交互水平。DARPA于2007年启动“深绿”(Deep Green)项目,将人工智能引入作战辅助决策,它通过对OODA环中的观察和判断环节进行多次计算机模拟,提前演示不同作战方案可能产生的各种结果,对敌方行动进行预判,协助指挥官做出正确决策。但是,辅助决策系统的安全风险也同样不可忽视。首先,战场环境的改变和战场的复杂性可能使人工智能系统做出错误判断,从而影响指挥官的决策。其次,如果战争双方均采用人工智能辅助决策系统,在战场上对抗双方部署的人工智能系统会使环境复杂化,超出一个或多个系统的解析力,进一步加剧了系统的脆弱性,并增加了事故和失误的可能性。第三,人工智能使决策流程和时间被大大缩短,国家之间因意外事件导致的冲突升级风险便大大提升。如果人工智能参与核打击的决策,后果将更加严重。美国国防部前副部长罗伯特·沃克曾以俄罗斯的“周长”核武控制系统为例说明人工智能不应参与管控核武器,因为它们会根据某些指标或数据做出错误判断,启动核武。在特殊情况下,人工智能可能会误判一些潜在威胁,从而更轻易地引发核战争。

眼爆科技 Copyright © 2002-2017 深圳眼爆智能科技有限公司 版权所有 备案号:* 本站资源来自互联网,我们转载的目的是用于学习交流与讨论,如果您认为我们的转载侵犯了您的权益,请与我们联系(Email:[email protected]),我们将在3个工作日内删除相关内容。

邮箱地址:[email protected]