眼爆科技

可解释的人工智能路径

时间:2018-06-07 17:00  编辑:眼爆科技

随着越来越多的企业使用人工智能(AI)为其做出决策,这使得治理工作变得至关重要,并且人工智能推理路径的可追溯性成为建立客户、员工、监管机构和其他关键利益相关方信任的关键。

人工智能(AI)将计算范式从基于规则的编程转变为基于结果的方法。它允许流程进行大规模运行,减少了人为处理错误的数量,并创造了解决问题的一些新方法。在围棋高手已使用相同的开局策略3000年后,阿尔法狗(AlphaGo)启发了围棋选手去尝试新的策略。随着人工智能采用率的增加,它将帮助组织解决传统自动化技术无法解决的“最后一公里”问题。但随着越来越多的企业让人工智能来为其作出决策,治理工作将变得非常关键。

最近,在简柏特公司(Genpact)针对最高管理层和其他高管人员的一项调查中,有63%的人表示,能够追踪一台使用人工智能设备的推理路径,这是非常重要或关键的,而在人工智能领域处于领先地位的公司中,持这一观点的人数比例达到88%。简柏特公司还与受管制市场中的财富500强企业合作,这些客户认为,在考虑使用人工智能之前,其推理的可追溯性将是一项关键要求。

为加强监管审查工作做好准备

最近,英国剑桥分析公司(Cambridge Analytica)对社交媒体数据的滥用,引起了公众的关注,该事件唤醒了企业对监管治理工作的更高要求。此外,欧盟的一般数据保护条例(GDPR)在5月25日已生效,这将解决数据和人工智能治理问题的诸多新要求。如该条例第22条所述,在其他领域中,“数据主体有权不受限于自动流程所做出的决定,包括对其产生法律效力或对其产生严重影响的分析。”在一个人被拒绝发放贷款或工作机会的情况下,这可能变得至关重要。同样,纽约市最近的算法决策透明度立法表明,美国的监管审查工作也在加强。在这种形式下,企业会很难接受“黑匣子人工智能”。

期待可追踪的人工智能技术

目前,一些技术已经足够成熟,可以提供可追溯性。在处理文本或数字时,企业可以考虑使用计算语言学,用户可以轻松地追踪推理路径并精确定位导致机器决定的单词或数据点。例如,如果第三方物流供应商同意每英里收取15美分,但其发票显示为每英里收取18美分,则机器可以利用上下文语境来提取发票中的价格和合同所约定的价格,并指出其差异。用户可以对比查看这些文件以确定机器是否判断正确。关键在于可跟踪某一决定的定义属性来自哪里,并以易于可视化的方式提供底层信息。

  • 共3页:
  • 上一页
  • 1
  • 2
  • 3
  • 下一页




  • 上一篇:安防企业这样夯实人工智能“三大支柱” 下一篇:区块链结合人工智能,发展体量是互联网至少十倍