万书网 > 玄幻奇幻 > 魔法与科学的最终兵器 > 第1460页

第1460页


相对的,暂时移后作战行动的顺位,优先确保搭乘员的回收工作并不影响最终目标的实现,某种程度上还能促进这一目标的实现。
该选那边,一目了然。
面对“沙拉曼达II”摆在面前的难题,马赛拼尽全力才没露出被打个措手不及的表情。
利用别人的性命来要挟谈判对手,根据现场情况和基本原则重新排列事项的优先顺位——这已经超出了普通人工智能所能达到的极限。
只会执行指令的机器不具备判断能力,更不要说自行解释指令,调整事项的优先顺序,不拘泥于眼前的指令,以更长远的眼光和利害得失计算来判断状况。至于和人类进行沟通与谈判,设定对方无法拒绝的要求,在谈判中掌握主导权更是完全无法想象之事。
简直……就和人类一样。
在这一刻,马赛感受到的是连灵魂都为之颤抖的恶寒。那种剧烈的冲击几乎可以与皇帝交谈时相匹敌。
那是对“未知”的恐惧,也是对“非人之物”的畏惧。
“贵官有五分钟思考时间,五分钟后本机将根据贵官的回答采取行动。”
不知是否察觉到了马赛的动摇,抑或察觉到了也不在乎,钢铁之蜂冷冷说到:
“期待贵官做出明智的判断。”
“……”
“有什么好判断的,反正到最后,你丫的依然会杀掉一切吧。”
拨开马赛和感应单元,“夜莺”挡在对峙的两者之间。
“对你们这些以指令为最优先的铁皮混蛋来讲,压根就没‘遵守约定’这种概念,就算遵守了也只是为了回收搭乘员,方便下次回来再把所有人杀光。说到底,不过是把处刑名单调整一下顺序,‘杀掉所有目标’这个结果不会有丝毫动摇。”
“然也,阁下的发言符合事实。”
红色光芒睥睨着女孩,电子音说到:
“然而决定包括阁下在内的几十万人生死的,是马赛搭乘员的回答,若他回答错误,阁下现在就会死这一点是不会改变的事实。”
自律型战斗机器没有“寿命”这一概念,也不会纠结过程中的某些行为是否符合伦理道德,它们只有执行指令,只有符合命令的结果。
进化至最强;
调整消灭名单上的顺位;
两件事并不矛盾,前者是目的,后者是手段,仅此而已。
所以“沙拉曼达II”能毫不犹豫地以几十万人来要挟马赛,一旦马赛拒绝,它也一定会立即动手将新奥尔良化为人间炼狱。
“剩余时间三分十七秒,贵官的发言将决定几十万人的生死,若是在乎——”
“等一下。”
“贵官已经做出决断?”
“不。我只是想知道。”
马赛歪着脖子,满脸的懵懂,俨然一副不谙世事的样子。
“为什么你杀死人质,会是我的错呢?”


9.到那遥远的天边(十二)

世界上最沉重也最难厘清的,莫过于责任问题。
责任的划分、形式、承担对象等等就已经足够复杂,如果加上个人、部门、国家之间的利益,只会变成一团乱麻。
涉及到上万人生死的责任问题更是如此。
——都是因为你的过错,才导致这些无辜者丧生!
——如果不是你,这些人根本不用死!
——你要怎么赔偿死者家属?怎么抚平他们的痛苦!
如此义正言辞的指责面前,任何个人除了以死谢罪,没有其它任何能承担责任的方式方法。
是故,每个人都会尽力避免遇上这种事情,尽力避免承担责任。
——那些人的死,和我有什么关系呢?
这种撇清关系的话语正是最常见的免罪符。
没有关系,没有责任——最恶劣的诡辩台词,听了就让人火大。
“你丫的说什么呢?!”
面对死亡也不皱一下眉头的“夜莺”转身揪住马赛的衣领,头盔之下的面孔狰狞扭曲。
“那可是几十万人啊!!就算用不着向这个铁皮混蛋低头,你也绝不能说这种不配当人的鬼话!!”
“马赛搭乘员,提醒贵官,贵官的发言不符合逻辑,且无助于改变当前的状况。若贵官的发言是想要这种形式表达‘拒绝’,那么本机现在就对此回答做出回应。”
“不不,你们冷静一下啦。”
同时被女孩和机器吐槽,马赛急忙摇了摇头,然后一脸认真的说到:
“我很清楚现状,如果我回答‘拒绝’,‘沙拉曼达II’一定会把所有人杀光没错吧?”
“肯定。”
“动手杀人的是‘沙拉曼达II’吧?”
“肯定。”
“我并没有动手杀死任何一人,对吧。”
“肯定。”
“这就是问题了。”
少年伸出手,所有的感应单元一起将尖端朝向钢铁之蜂。
“自行重启后决定发动攻击的是你,将‘知更鸟’、‘夜莺’、这个基地、新奥尔良所有人当成人质的是你,决定要不要杀他们的也是你,最后动手杀人的也是你。所有的决定,所有的行为,全都是你做出的。这一点为什么会变成我的错呢?”
“……”
霎时间,所有的话语消失了,人们和机器都陷入了难以维持思考的空白之中。
如果是诡辩,人们还能用怒火和痛骂回敬过去,机器则会当场杀掉几个人来增加对马赛的压力。
可这是正论。
极度正当、正确,连“都是你乱说话害死别人”、“你没直接杀人,却是间接杀人凶手”这种反驳都显得苍白的正确结论。
杀不杀死人质本来就是恐怖分子或杀人机器的决定,谈判与否,接受条件与否,本来就与此无关。
血红色灯光一阵闪烁,“沙拉曼达II”问到:
“马赛搭乘员。贵官对人质可能出现伤亡一事没有任何感觉吗?”
“怎么可能。”
除了罪犯和杀人狂,没有人能平静面对眼前出现的死亡,更何况是几十万人在自己眼前被杀。
“我已经不想看见有人被杀了,更不要说对眼前的死亡没有任何感觉,像看戏一样看着别人被你杀掉。”
当个看客或许很轻松,只要高举“我对此无能为力”的免罪符就能心安理得的躲在安全地方,看着和自己毫无关系的人被杀掉。可反过来,“明知有人作恶,却连最起码的力所能及之事也不愿去做”——这种事不关己的冷漠,同样也是“恶”。
“那么贵官不会认为‘如果自己斡旋交涉得更好一些,或许人质就不用死了’?因为贵官自己的无能和无力导致几十万人丧生的大惨事发生,这不正是与贵官发生了联系吗?”
“情况演变成如此的话,我确实认为‘这是我的错’。可是啊,那是我的错误,我的责任,懊悔也好,羞耻也好,痛哭流涕也好,自杀谢罪也好,那都是我对我自己的心情,和你没有任何关系。”
“就算共和国因此灭亡也是一样?”
“‘从抵抗组织那里接手帝国制造的战争机器,结果反受其害’——共和国或许会因此陷入危机,成为他国的笑柄,被帝国声讨和索要赔偿。但是,这是国家与国家之间的事情,没有你我插嘴的余地。”
国家的责任;
个人的责任;
对自己的责任;
对他人的责任;
在马赛的心中,责任与责任之间有着明确的归属界线。
“因为自己的行为招来灾祸和危机,承受外国的责难,这是共和国的责任。杀害人质,破坏城市,杀死他人的父母妻儿,量产寡妇孤儿……VX-3001,那是身为杀人凶手的你,应当承担的责任。”
“本机是在执行最优先事项指令,如果贵官能……”
“‘因为是长官下的命令,所以杀人的是长官,而不是执行命令者’——要是能那么容易接受,这世上应该没有痛苦的人了吧。”
在战争中失去家人的遗属也好,罹患战场综合征的士兵也好,没有一个人因为这样一句话就不再痛苦。
那不是讲道理就可以接受的事情。不可能像机器接到指令切换状态一样,没有任何留恋、迷茫的将一切当成从未发生过。
“反过来你又如何?VX-3001,你觉得你做了这件事后,帝国会如何呢?那些人会只恨你吗?恨你这件工具,而不是打造你,赋予你判断能力和执行力的帝国吗?”
“贵官的发言——”
“不准绕开!回答我!你认为你的行为不会让人们将矛头对准帝国吗?你认为这不会让帝国成为众矢之的吗?你认为你这么蛮干,破坏了帝国的战略布局后,不会成为‘帝国之敌’吗?!!”
近乎咆哮的正直声音让“夜莺”揪住衣领的手松开,不知不觉间退后一步的女孩怔怔的看看男孩,又看看默然不语的钢铁之蜂。