文|佘凯文
来源|智能相对论（aixdlun）
《流浪地球》上映已经超过一个月了，截止目前，其国内累计票房已经突破了46亿元人民币，距离票房第一还差10亿，考虑到其已经延期上映至5月5日，冲击票房第一还是有希望的。同时它也带来的各种话题也从未停息，3月6日，电影周边人工智能MOSS的雕像开启了众筹，这台一直催促刘培强中校快点进入休眠舱的人工智能，深受影迷的喜爱。
这类具有高智能度的AI已经在包括《终结者》、《钢铁侠》及《流浪地球》等许多影视作品中出现过了，《终结者》中的天网是个大反派，在《钢铁侠》中贾维斯又是个忠仆，那么在《流浪地球》中的MOSS到底是什么属性呢？
AI面对“电车难题”会如何选择
“电车难题”是一个著名的思想实验，其内容大致是：一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来，并且片刻后就要碾压到他们。而此时你可以选择拉杆让电车开到另一条轨道上。然而问题在于，另一个电车轨道上也绑了一个人。考虑以上状况，你是否应拉杆？
在这个问题上人类做过很多调研，大部分人都会选择拉杆，让电车变道“杀一人而救五人”。
在电影中moss也面临着类似“电车难题”般的选择，在受到木星引力的影响下，地球即将撞向木星，是抛弃地球开启“火种计划”，还是选择牺牲空间站“引爆木星”。
电影中Moss通过“理性”分析其认为“引爆木星”计划的成功率为零，毅然选择了开启“火种计划”带着空间站开始“逃离”。然而事情的结果却是moss计算“错误”，引爆木星计划帮助地球成功摆脱了木星引力，使得地球重归流浪之路。
关于“电车难题”还有一个非常著名的延伸问题，同样在铁轨上被绑了5个人，一列失控的电车即将经过，在压到这5个人之前电车会经过一个桥洞，此时桥上有一个胖子，只需要将胖子推下桥，电车就会因为压到胖子而脱轨，从而解救被绑在桥上的5个人，你推还是不推？根据调查结果显示，在此时大多数人又都会选择不推，而让电车压过被绑的5人。
同样的“杀一人而救五人”，在这两种前提下却出现了截然不同的选择结果，这就是人类的“感性及道德”在作祟。在第一个前提下，选择拉杆给人的心理暗示是“我拯救了5个人”，而在第二种前提下却变成了“我杀了1个人”，于是就导致了两种选择结果。
如果在此时再次换成AI来做决断又会是什么情况呢？以电影中moss的“理智”来看，moss极有可能会推下那个胖子因为“以少换多”看起来是个划算的买卖，可是moss就会变成“杀人犯”，这在人类的道德观上又是不允许的。那么，何为由人类制造的人工智能，可能在“道德标准”的选择上却与人类完全不同，这是电影中折射出来的现实问题。
人工智能的“道德标准”该如何制定，或者是否该符合人类自身的“道德标准”这个问题将不止出现在电影之中，未来在生活中也将出现，而距离这个问题“最近”的就是“无人驾驶汽车”。
在“无人驾驶领域”关于“电车难题”的讨论已经有过很多，也针对全球数百万人做过调研统计，得出了一套“选择偏好”，例如在即将发生事故时更倾向于拯救人类而不是动物、拯救多数人牺牲少数人、优先拯救儿童等等，目前很多无人驾驶汽车也已经将这些“选择偏好”置入了无人驾驶汽车之中。但是这些选择大部分都是人类基于情感因素做出的。
所以说到底，AI会如何选择还是看人类自己，AI的程序都是由人来写的，就像电影中moss“一脸”委屈的说“自己从未叛逃，只是在执行联合政府的预定计划而已”。
但是这份偏好也仅仅只是代表了“大多数”人，像电影中的联合政府，现实生活中做出此类选择的人，还是有部分人的意愿未能满足。在这个怎么选都是“错”的前提下，有没有更优的第三种选择是无人驾驶汽车发展的障碍之一。
电影中moss有一句被广为流传的台词“让人类永远保持理智，的确是一种奢求。”从某些方面看来确实如此，所以若将AI摆在与人类同等的位置，以人类的“道德标准”来要求AI算不算得上是某种“道德绑架”呢？若是不给“无人驾驶汽车”套上人类的道德标准，而是让AI通过自己的 学习来应对这类事情会不会让“电车难题”的答案更加“理智”？
“机器人三大定律”还能保障人类的利益吗？
做完人与人之间的选择题，还有一道选择题是机器与人，可能很多人觉得这不是个问题，在机器与人之间肯定是选人，作为人类你是这样想当然没错，可机器也是这么“想”吗？
在谈论这个问题之前我们需要了解一下“机器人三大定律”。最初“三大定律”只是阿西莫夫小说中的概念，但现在已经成为被普遍认可的机器人发展的底线之一。
第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观.
第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。
第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。
回到电影当中，moss已经多次违背了这三大定律，首先，moss就杀死了俄罗斯宇航员老马，这就违背了第一条；接着，在刘培强中校与地球沟通时，moss强行切断了联系，这就违背了第二条。
而这里正是AI与人类之间“主导权”的选择，有人说在电影中moss切断通讯是因为联合政府的权利级别高于刘培强中校，所以moss是服从于最高指挥并没错，但是在电影中并未说明联合政府赋予了moss强行切断通讯的权利，在联合政府还未给回复时，moss就切断了联系，并且通过后续剧情来看，刘培强中校手动联系地球联合政府对方也并未拒接。
那么若是在实际生活中发生了类似控制权争夺的情况AI会选择服从吗？很不幸的是，这样的事情其实已经在现实中发生了，并且还造成了一次严重的事故。
2018年的狮航坠海事故想必都还有印象，机上189人全部遇难，从事后的初步分析报告来看，专家认为此次事故的原因主要是因为飞机上空速表出现故障，问题源于迎角传感器失灵，而迎角传感器的作用是测量并传输气流与机翼弦线之间形成的“迎角”这一重要飞行参数，提示飞机升力，避免失速风险。
在仪器失灵后，飞机内部系统认定此时飞机已经进入失速姿态，于是强行开启了飞机俯冲模式，在11分钟内飞机向下俯冲了24次，期间机长与机器之间展开了一场致命的控制权争夺战，但最终还是未能从飞机系统上夺回控制权，飞机以每小时700多公里的速度坠入大海。
波音公司称这是一个隐藏得很深的自动驾驶bug，这虽然看起来是一次技术上的失误，但我们也不得不考虑在不同领域赋予AI哪些或是多少的控制权是合适的。
另外，除了“主导权”的选择，AI自我“牺牲性”的选择也通过电影反映了出来，在电影最后，是由刘培强中校手动操纵空间站飞向了木星，而其实刘培强中校完全可以不用牺牲，这一过程可以由moss来自主完成。
当然这只是电影，刘培强的死是为了烘托气氛，制造效果。而“三大定律”的第三点也明确表明，机器人需要“自我保护”，在电影中moss的自我保护，使其不会主动撞向木星，并且moss收到的指令是撤离，但是它又亲眼见证了刘培强的死，这使得矛盾频发。
说明单是“三大定律”已经无法满足实际需求，或许需要“十大定律”、“二十大定律”才能更加有效构筑机器人的底层规则。
最后，回到文章标题的问题，moss在电影中的一系列行为到底算不算“叛逃”？在“三大定律”之后，阿莫西夫又补充了“第零定律”，是指“机器人必须保护人类的整体利益不受伤害。”
moss在“计算”地球无望逃离之后，它开启了“火种计划”其初衷正是保存人类文明，延续人类整体利益，所以从这个角度看moss确实没有叛逃，但是也如moss所说，人类难以保持理智，所以从感性角度来看，moss非但没有帮助刘培强中校拯救地球，还在不停地捣乱，又是在像极了“叛逃”。
也有网友开玩笑提出了一个新的视角，“moss不过是在执行任务，而没有服从联合政府安排的人是刘培强中校，所以真正在‘叛’的人是刘培强”。你又是怎么看呢？
小结
越来越多科幻电影中的元素已经走进了现实生活，人工智能威胁论也是随着科幻电影被一点点放大，科幻电影对世界产生的影响具有多样性，具体需要怎么看待，借用卡梅隆在日前与刘慈欣的“双神”对话中，所说的一句话“科幻电影不是预测未来，科幻电影是阻止不好的未来发生。”
免责声明：此文内容为第三方自媒体作者发布的观察或评论性文章，所有文字和图片版权归作者所有，且仅代表作者个人观点，与 无关。文章仅供读者参考，并请自行核实相关内容。投诉邮箱：editor@fromgeek.com。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。
