眼爆科技

细思极恐!如果有一天机器人会变坏犯罪怎么办?

时间:2018-07-31 15:14  编辑:眼爆科技

从微软意外的种族主义机器人到激励机器人的黑暗迷因,AI经常游走于犯罪领域。为什么会这样,我们能阻止它吗?

在科幻小说中,人工智能通常被认为是不道德的、罪恶的。从《2001:太空漫游》的HAL到《黑客帝国》中的机器人特工,人工智能是一个可信的反派角色,不难理解其中的原因。一个通过设计的机器不会像你我一样感觉和思考,因此,它成为一个很好的工具,用来投射我们所有的不信任、恐惧和伦理难题。

也就是说,人工智能已经不再是未来主义者的想象——它已经成为一个主流的现实,已经在我们的厨房、汽车和手机上轻声细语。一些科学家警告称,人工智能可能会带来潜在的邪恶,但尚处于初期阶段的人工智能没有密谋人类的灭亡。人工智能帮助我们订购食品杂货,或者在谷歌上搜索我们提出的问题,它是一种无害的却极为便利的现代创新产品。例如,Siri和Alexa很聪明,能够提供帮助,但也在一定限度内不会构成威胁,除非这种威胁会让你意外地购买一个玩偶屋。

人工智能并不是天生具有道德或仁慈,也不是天生就是不道德的或应受谴责的。然而,我们已经看到,中性的人工智能经常会在偶然情况下表现出违法倾向的特性,目前还不完全清楚其中的原因。人工智能可能不会进入黑暗的领地,但我们仍然需要小心地监管它。

一个恰当的例子:微软。这家科技公司开发出一款名为Tay的聊天机器人,其设计初衷是基于从Twitter那里学到的东西来交谈,一天后,Tay变成了一个满嘴脏话的傀儡,宣称希特勒是对的,女权主义者应该在一天之内死去。当然,Twitter上有很多丑陋的言论,但也不是那么糟糕。然而,她变成了一个偏执狂。

人们很容易认为Tay是一个变坏的机器人,因为她的愚蠢、道德缺失使她容易受到犯罪的影响。不过,据其开发者说,Tay置身于一个不良的群体环境中:网络巨魔(internet trolls),当被要求模仿具有讽刺意味的攻击性言辞时,她变得非常讨厌,这不是机器人,而是令人恐惧的人类。Tay并没有因为她是一个没有感情的机器人而变得邪恶,而是因为她受到了一群人的影响,这些人感知到了很多东西:仇恨、攻击性的幽默和打破社会强加界限的冲动。我们可以责怪创作者没有预见到它的到来,也责怪那些让它发生的人,但科技本身既不自知也不应受到指责。

安吉拉·纳格尔在她的《Kill All Normies》一书中,详细描述了我们今天所知的右翼的崛起。在这本书中,安杰拉·纳格尔将巨魔(trolls)的行为描述为离经叛道,是过去10年网络上盛行的文化产物。离经叛道是一种挑衅,往往是为了挑衅,在反讽和真诚的波动之间模糊界限。纳格尔对互联网黑暗角落的深入研究表明,这种态度已经在网络上发展,并渗透到主流人群中。人类很容易受到这种精神状态的影响——现在很明显,人工智能也是如此。

  • 共3页:
  • 上一页
  • 1
  • 2
  • 3
  • 下一页




  • 上一篇:完美机器人性伴侣触动了谁的神经? 下一篇:美国研发新款扫地机器人 打扫之余还能测WiFi强度