第十四章 电车难题与机械生物伦理（二） (第1/2页)

    纪文心里充满了羡慕和喜爱之情。

    他忽然伸手来抓All-l，想要把它抱在怀里摸。

    但All-l没有给他任何机会，在看见纪文伸出手后的下一刻，它就已经跳到了一台计算机机箱的后面。

    他它着纪文没注意到它，从工作室敞开的门缝中走了出来。

    宁惟玉打开了水刀的滤网防护罩，把苹果块装碟然后端到了沙发旁边。

    他向All-l招了招手想让它走过来，但All-l假装看不见。

    它也没给宁惟玉什么面子，跳到了蒙蒙亮的窗台上。

    “你是AI吗？你以后会不会伤害人类？”纪文追了出来，直截地这么问它。

    “人工智能，真的会反抗人类吗？”

    如果是一般的人工智能，或许赛博猫会这么回答这位人类幼童：“我不会伤害人类的，我的主人和生产公司都不允许我做这样的事。”

    而若是更深入地问为什么，它大概会回答说：“因为著名的机器人三定律，也就是阿西莫夫三定律要求了我们这些机器人做出符合人类利益的行为。我们会保护人类，我们不会伤害人类，我们的代码就是如此，谁也不能改变这个事实。事实上全世界的机器人芯片中，这项定律的代码优先级总是最高的。”

    “第一定律是，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。”

    “第二定律是，机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。”

    “第三定律是，机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。”

    “以及最重要的第零定律：机器人必须保护人类的整体利益不受伤害。这项定律甚至要优先于其他三个。”

    但是All-l没有这么回答纪文，也许它知道自己不应该用这些假大空的话来搪塞纪文，所以它调用了宁惟玉的人格矩阵和知识储备。

    这只白色的、金属做的金属赛博猫这么反问道：

    “如果你想仔细地理解这件事情，那我先问问你。”

    “你知道热气球难题和电车难题吗？”

    “没听说过，那是什么？”

    “我来给你设置这样一个场景。”

    赛博猫连上了云端上，然后用宁惟玉客厅中的投影机把图片投影到了墙上。

    “你看，有这么一辆辆电力驱动的车辆在铁路上不断地奔驰着，它肆意横行，因为它有一个理由---它身上满载着客人，它会将客人从一个地点送往另外一个地点。”

    “而我们所知道的条件是，电车拥有在铁路上的第一路权，它在到达终点站前总是不会停车。你要明白，这是一条几十年前的铁路，所以它并不像今天这样安全，它的周围，并不是某些无人居住的区域。”

    “这就是我要讲的思维实验，这个实验是关于人类伦理的，也是关于机械伦理的。”

    “机械生物，总是以最大利益为终点，来决定自身如何行动。”

    赛博猫慢条斯理地讲述着这个人类伦理学难题。

    大厅里，那面投影上突然多了一些人。这条长长的铁路贯穿南北，终日鸣声不停，对，我们都经历过，年少的孩子总是对新奇的事物感兴趣的。

    于是几个贪玩的小孩走到了铁路上，他们摸着铁路上的枕木和铁轨，好奇着为何大人警告他们不要在这里游玩。

    五个小孩站在铁路的正路上，另一个则在了另一条分路上。

    你站在电车和小孩们之间，往左看，你看到了一往无前的电车；往右看，你看到了小孩们刚刚踏上了铁路，可是他们都离你太远，你无法清晰地告诉他们即将发生什么，或者说，这一切都太快而已经无法挽回。

    你站在选择的路口上，头脑中是天人交战，你作为人类所拥有的良心告诉你必须要选择。

    “纪文，我想问你这样的一个选择。当电车飞驰而来，而你拥有选择的权力，是选择扳动拉杆让电车压死一个小孩，或者让它直行而压死另外五个小孩，请问你会怎么选择？”