德国又发生机器人杀人事件:一种困境,与一种反思

2015-07-10

众目睽睽之下发生的杀人事件永远是最吸引人眼球的。


就在今天,德国卡塞尔市的大众汽车厂发生一起机器人伤人事故,一名21岁的外包工人在工作中忽然受到机器人的撞击挤压而受伤,最终伤重不治。



显然,长期以来针对机器人是否最终会威胁到人类安全和发展的争议始终不绝于耳,站在悲观角度上的人包括史上霍金、比尔·盖茨、马斯克等人,他们是史上最伟大的物理学家,是长期站在行业前端对未来发展趋势有着自己深刻见解的企业家。他们对机器人等人工智能的质疑和警告或许并不只是杞人忧天而已,一系列的事件显示机器人伤人事故并没有随着人工智能技术研究和实践的深化而在新世纪杜绝:


1999年,就在 The Matrix 在全球范围内掀起对机器人统治未来的存在主义忧思的时候,一名肉食品加工厂的工人就因为误操作启动机器人而被卷入传送带,结果不幸身亡;


2个月后,悲剧再次发生,一名工人在机器人尚在运行时就对对其进行维修,最终也受伤而死;


2001年,一名汽车厂工人在进入机器人防护笼进行清洁工作时被机器人扼住喉咙压迫在滚轮下最终窒息身亡;


2006年,一位女工被机器人挟住颈部钉在焊接机上,当场遇难。


历史就是由这样不断重演的悲剧而构成的。曾经建议美国在纳粹之前开发原子弹的爱因斯坦在目睹广岛的惨状后后悔不已。从原子能的发展来看,人们当然有理由担心一项崭新技术的研究和应用是否最终一定会造福于我们、是否有可能最终对反噬我们。


然而,问题的痛处在于我们究竟应该如何看待人工智能?我们是否应该因为这些伤人事故而遽然反对、杯葛人工智能?让我们先回顾下阿西莫夫是如何解决这一困境的。


在小说《我,机械人》(IRobots)中,他提出了机器人三法则:

机器人不得伤害人类,或因不作为使人类受到伤害;


除非违背第一法则,机器人必须服从人类的命令;


在不违背第一及第二法则下,机器人必须保护自己。


可是,问题在于,如果存在主动违背第一原则的人工智能的话,那么,这是否意味着人工智能已经具有主动判断和自我意识的能力?在这种情况下,我们是否还有资格将其仅仅视为单纯的人工智能?或者,在人工智能发展到相当高度时,它是否具有了自己的意识和权利?在山本弘的《艾比斯之梦》中,未来的机器人有了自己的意识,他们可以选择自己的生存或死亡,他们甚至会感到孤独或者彼此之间恋爱。


人工智能吊诡的地方在于,我们发展它是为了让机器人更加智能、更好地为我们服务,可是,当它的发展程度超过某个阈值时,它又很可能成为一种新的具备权利主张和自我意识的个体,这个时候,这种人类历史上从未出现过的新物种是否还会甘于仅仅是服务于人类呢?它们是否会甘于遵循人类既定的三大法则?更让人不安的地方在于,你永远不知道这个时候究竟时候到来,你并不知道为你服务的机器人是否实际上已经具备了自我意识。


然而,在这个时候到来之前,发生人工智能伤人事件时,我们又不得不面临这样的困境,我们究竟如何处理这样的机器人?对这样既没有自我意识因又没有行为能力的非自然人个体,社会共识和法律惩治措施对它们而言毫无意义。我们处于这样的一种困境,一方面,我们斗争都正或多或少地享受着人工智能带来的福利,另一方面,人工智能的“恐怖谷效应”在在现阶段又是无法回避的客观存在。


我们唯一能做的就是,尽其所能地发展人工智能,然后把所有的现实和对未来的担忧都留给我们的下一代——如果人工智能真得发展到会威胁到人类存在的话,那至少在那个时候,人类本身的科技水平也能够对此做出回应,就像卡梅隆的《终结者》(Terminator)里讲得那样。


按照希区柯克的电影理论,或许,人工智能就相当于那枚我们都能看到的餐桌下的倒计时炸弹。对此,我们既紧张又不免期待与兴奋。