• app_navCreated with Sketch.app_navCreated with Sketch.

    App

    扫码下载APP

  • tougao_navCreated with Sketch.tougao_navCreated with Sketch.

    投稿

  • Sign in_navCreated with Sketch.Sign in_navCreated with Sketch.

    登录

  • register_navCreated with Sketch.register_navCreated with Sketch.

    注册

当AI面对“电车难题”时会如何选择?
红姜 03-11 14:2913016

《流浪地球》中的Moss到底算不算叛逃?

图片来源@视觉中国

图片来源@视觉中国

文 | 智能相对论,来源 | 佘凯文

《流浪地球》上映已经超过一个月了,截止目前,其国内累计票房已经突破了46亿元人民币,距离票房第一还差10亿,考虑到其已经延期上映至5月5日,冲击票房第一还是有希望的。同时它也带来的各种话题也从未停息,3月6日,电影周边人工智能MOSS的雕像开启了众筹,这台一直催促刘培强中校快点进入休眠舱的人工智能,深受影迷的喜爱。

这类具有高智能度的AI已经在包括《终结者》、《钢铁侠》及《流浪地球》等许多影视作品中出现过了,《终结者》中的天网是个大反派,在《钢铁侠》中贾维斯又是个忠仆,那么在《流浪地球》中的MOSS到底是什么属性呢?

AI面对“电车难题”会如何选择

“电车难题”是一个著名的思想实验,其内容大致是:一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来,并且片刻后就要碾压到他们。而此时你可以选择拉杆让电车开到另一条轨道上。然而问题在于,另一个电车轨道上也绑了一个人。考虑以上状况,你是否应拉杆?

在这个问题上人类做过很多调研,大部分人都会选择拉杆,让电车变道“杀一人而救五人”。

在电影中moss也面临着类似“电车难题”般的选择,在受到木星引力的影响下,地球即将撞向木星,是抛弃地球开启“火种计划”,还是选择牺牲空间站“引爆木星”。

电影中Moss通过“理性”分析其认为“引爆木星”计划的成功率为零,毅然选择了开启“火种计划”带着空间站开始“逃离”。然而事情的结果却是moss计算“错误”,引爆木星计划帮助地球成功摆脱了木星引力,使得地球重归流浪之路。

关于“电车难题”还有一个非常著名的延伸问题,同样在铁轨上被绑了5个人,一列失控的电车即将经过,在压到这5个人之前电车会经过一个桥洞,此时桥上有一个胖子,只需要将胖子推下桥,电车就会因为压到胖子而脱轨,从而解救被绑在桥上的5个人,你推还是不推?根据调查结果显示,在此时大多数人又都会选择不推,而让电车压过被绑的5人。

同样的“杀一人而救五人”,在这两种前提下却出现了截然不同的选择结果,这就是人类的“感性及道德”在作祟。在第一个前提下,选择拉杆给人的心理暗示是“我拯救了5个人”,而在第二种前提下却变成了“我杀了1个人”,于是就导致了两种选择结果。

如果在此时再次换成AI来做决断又会是什么情况呢?以电影中moss的“理智”来看,moss极有可能会推下那个胖子因为“以少换多”看起来是个划算的买卖,可是moss就会变成“杀人犯”,这在人类的道德观上又是不允许的。那么,为何由人类制造的人工智能,可能在“道德标准”的选择上却与人类完全不同,这是电影中折射出来的现实问题。

人工智能的“道德标准”该如何制定,或者是否该符合人类自身的“道德标准”这个问题将不止出现在电影之中,未来在生活中也将出现,而距离这个问题“最近”的就是“无人驾驶汽车”。

在“无人驾驶领域”关于“电车难题”的讨论已经有过很多,也针对全球数百万人做过调研统计,得出了一套“选择偏好”,例如在即将发生事故时更倾向于拯救人类而不是动物、拯救多数人牺牲少数人、优先拯救儿童等等,目前很多无人驾驶汽车也已经将这些“选择偏好”置入了无人驾驶汽车之中。但是这些选择大部分都是人类基于情感因素做出的。

所以说到底,AI会如何选择还是看人类自己,AI的程序都是由人来写的,就像电影中moss“一脸”委屈的说“自己从未叛逃,只是在执行联合政府的预定计划而已”。

但是这份偏好也仅仅只是代表了“大多数”人,像电影中的联合政府,现实生活中做出此类选择的人,还是有部分人的意愿未能满足。在这个怎么选都是“错”的前提下,有没有更优的第三种选择是无人驾驶汽车发展的障碍之一。

电影中moss有一句被广为流传的台词“让人类永远保持理智,的确是一种奢求。”从某些方面看来确实如此,所以若将AI摆在与人类同等的位置,以人类的“道德标准”来要求AI算不算得上是某种“道德绑架”呢?若是不给“无人驾驶汽车”套上人类的道德标准,而是让AI通过自己的深度学习来应对这类事情会不会让“电车难题”的答案更加“理智”?

“机器人三大定律”还能保障人类的利益吗?

做完人与人之间的选择题,还有一道选择题是机器与人,可能很多人觉得这不是个问题,在机器与人之间肯定是选人,作为人类你是这样想当然没错,可机器也是这么“想”吗?

在谈论这个问题之前我们需要了解一下“机器人三大定律”。最初“三大定律”只是阿西莫夫小说中的概念,但现在已经成为被普遍认可的机器人发展的底线之一。

第一条:机器人不得伤害人类,或看到人类受到伤害而袖手旁观.

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

回到电影当中,moss已经多次违背了这三大定律,首先,moss就杀死了俄罗斯宇航员老马,这就违背了第一条;接着,在刘培强中校与地球沟通时,moss强行切断了联系,这就违背了第二条。

而这里正是AI与人类之间“主导权”的选择,有人说在电影中moss切断通讯是因为联合政府的权利级别高于刘培强中校,所以moss是服从于最高指挥并没错,但是在电影中并未说明联合政府赋予了moss强行切断通讯的权利,在联合政府还未给回复时,moss就切断了联系,并且通过后续剧情来看,刘培强中校手动联系地球联合政府对方也并未拒接。

那么若是在实际生活中发生了类似控制权争夺的情况AI会选择服从吗?很不幸的是,这样的事情其实已经在现实中发生了,并且还造成了一次严重的事故。

2018年的狮航坠海事故想必都还有印象,机上189人全部遇难,从事后的初步分析报告来看,专家认为此次事故的原因主要是因为飞机上空速表出现故障,问题源于迎角传感器失灵,而迎角传感器的作用是测量并传输气流与机翼弦线之间形成的“迎角”这一重要飞行参数,提示飞机升力,避免失速风险。

在仪器失灵后,飞机内部系统认定此时飞机已经进入失速姿态,于是强行开启了飞机俯冲模式,在11分钟内飞机向下俯冲了24次,期间机长与机器之间展开了一场致命的控制权争夺战,但最终还是未能从飞机系统上夺回控制权,飞机以每小时700多公里的速度坠入大海。

波音公司称这是一个隐藏得很深的自动驾驶bug,这虽然看起来是一次技术上的失误,但我们也不得不考虑在不同领域赋予AI哪些或是多少的控制权是合适的。

另外,除了“主导权”的选择,AI自我“牺牲性”的选择也通过电影反映了出来,在电影最后,是由刘培强中校手动操纵空间站飞向了木星,而其实刘培强中校完全可以不用牺牲,这一过程可以由moss来自主完成。

当然这只是电影,刘培强的死是为了烘托气氛,制造效果。而“三大定律”的第三点也明确表明,机器人需要“自我保护”,在电影中moss的自我保护,使其不会主动撞向木星,并且moss收到的指令是撤离,但是它又亲眼见证了刘培强的死,这使得矛盾频发。

说明单是“三大定律”已经无法满足实际需求,或许需要“十大定律”、“二十大定律”才能更加有效构筑机器人的底层规则。

最后,回到文章标题的问题,moss在电影中的一系列行为到底算不算“叛逃”?在“三大定律”之后,阿莫西夫又补充了“第零定律”,是指“机器人必须保护人类的整体利益不受伤害。”

moss在“计算”地球无望逃离之后,它开启了“火种计划”其初衷正是保存人类文明,延续人类整体利益,所以从这个角度看moss确实没有叛逃,但是也如moss所说,人类难以保持理智,所以从感性角度来看,moss非但没有帮助刘培强中校拯救地球,还在不停地捣乱,又是在像极了“叛逃”。

也有网友开玩笑提出了一个新的视角,“moss不过是在执行任务,而没有服从联合政府安排的人是刘培强中校,所以真正在‘叛’的人是刘培强”。你又是怎么看呢?

小结

越来越多科幻电影中的元素已经走进了现实生活,人工智能威胁论也是随着科幻电影被一点点放大,科幻电影对世界产生的影响具有多样性,具体需要怎么看待,借用卡梅隆在日前与刘慈欣的“双神”对话中,所说的一句话“科幻电影不是预测未来,科幻电影是阻止不好的未来发生。”

相关推荐
嘉楠耘智创始人张楠赓:发力AI业务 不排除冲刺科创板
张楠赓在接受媒体采访的过程中也透露,嘉楠的AI芯片将是以通用、低功耗为主要方向。
站在一个路口便能够搞清楚“城市智能体”到底是什么
以一个记者的角度,为我们分析构建“城市智能体”所需要的技术和未来前景。
AI进入无障碍时代:手语识别翻译的应用,究竟意味着什么?
向善趋势究竟为这个世界带来了什么?