“我不能相信,”苏珊博士说,“为此就可以把第一定律摒弃掉。”
“不是摒弃掉,是修改一下,”柯尔纳解释说。
“已制造的这些正电子脑,只输入了第一定律的前一部分,即。机器人不得伤害人。就这些修改。因而,它不必强迫自己去防止人受到外界因素的伤害,比如说伽马射线的伤害。伯格特博士,我是否正确地阐述了这个问题?”
“相当正确,”数学家赞同他说。
“而这就是你们的机器人和一般的MS-2型机器人的唯一差别吗?就这一点差别吗,皮特?”
“就这一点差别,苏珊。”
她站起身来,用结柬谈话的口气说:“现在我要睡觉。过八个小时,我想和最后看见那个机器人的人谈一谈。并且,柯尔纳将军,如果多少由我来负责这件事情的话,从现在起,我要求有公认的权力全盘掌握这次调查。”
四、你无权修正
除了有两个小时带着满腹怨恨恼怒迷糊了一会儿之外,苏珊根本没有睡着。在当地时间七点整。她敲了伯格特的房门,发现他也没有睡。看来,伯格特不嫌麻烦,随身把晨服也带到超级基地来了。他正穿着晨服坐在那里。苏珊走进来时,他放下了指甲刀。
他用温柔的声音说:“我多少已经料到,您会来的。我想,您对这一切都感到讨厌。”
“的确是这样。”
“那么,我很抱歉。但也只能如此。当超级基地要求我们来的时候,我就知道,准是修改了MS-2型机器人出了问题。但是能做些什么呢?在来这里的路上,我不能把情况向您透露,虽然我想跟您说,但是我必须保密。关于修改一事是最高机密。”
心理学家苏珊不满地嘟嚷着:“你本来应该告诉我。(机器人公司)在不征得心理学家的同意之前,无权这样修改正电子脑。”
伯格特扬起眉毛,叹口气说:“苏珊,您要明智点。您不可能对他们施加影响。在这种问题上政府决心自行其是。他们想搞出超原子驱动;辐射物理学家则想获得不会来打扰他们的机器人。他们算是搞到了这样的机器人。而这意味着要歪曲第一定律。我们得承认,从构造的角度来看,这是可能的。他们坚决保证,只需十二个这样的机器人,并且这十二个机器人只在超级基地内使用;一旦超级驱动达到完善的程度,就立即把十二个机器人拆毁。而且他们保证采取预防措施。他们坚持要保密,情况就是这些。”
苏珊透过牙缝不高兴他说:“我还是辞职吧。”
“这未必会有用。政府提出给公司一笔巨款,并威胁说,如果拒绝的话,政府将颁布反机器人法。那时,我们的处境就会很困难。现在我们的处境已相当糟糕。如果这件事泄漏出去,柯尔纳和政府会受损害,但是机器人公司遭受到的损失要大得多。”
心理学家盯着他:“皮特,难道您不了解这一切意味着什么吗?难道您不明白,摒弃第一定律意味着什么?这不仅仅是个保密的问题。”
“我不是个小菝子,我知道摒弃可能意味着什么。它可能意味着完全失去稳定可靠性,还会带来完全可以想象得到的正电子域等式的答案。”
“从数学上讲,是这样。但是您能把这些大致地变换成心理学的观念吗?皮特,一切正常的生命都会有意识或无意识地反对统治。如果这种统治来自能力低下的一方,这种反感就会更加强烈。在体力方面,一定程度上也包括智力方面,机器人,任何一个机器人都优越于人。是什么东西使它变得顺从的呢?只有第一定律!噢,要是没有这第一定律,您给机器人一下命令,它就可能把您搞死。这太不可靠了,您怎么想的呢?”
“苏珊,”伯格待露出了半带同情、半带逗笑的神态,“我得承认。您刚讲的这种弗兰克斯坦变态心理是有一定道理的。即然第一定律摆在了首位嘛。但是,我要一再重申,第一定律不是被摒弃了,而是略被修改,”
“而大脑的稳定可靠性会怎样呢?”