“这很简单。机器人学中的反应与人的反应不尽相同。这真是遗憾。人的自觉动作比条件反射的动作要缓慢得多。而机器人则不然。在它们身上,仅仅是一个人们自由选定的问题。否则,自由的动作和被迫的动作速度都是一佯的。我原希望看到第十号内斯特在第一次试验时会吃惊,因而它作出反应的时间会推迟。”
“但是它没有这样。”
“恐怕是没有。”
“那么,我们没有什么进展喽,”将军带着沮丧的表情仰靠在椅子里,“你们到这里已经五天了。”
九、我们也怕死
这时,苏珊走了进来,砰的一声关上门。“皮特,把您的图表拿开。”她叫道,“您是知道的。它们不说明任何问题。”
当柯尔纳欠起身子迎接她时,她不耐烦地嘟哦了几声,然后接着说:“我们必须尽快地再试试别的。我不喜欢现在这种状况。”
伯格特和将军交换了一个顺从的眼神,问道:“出什么差错了吗?”
“您指的是特别的差错吗?那倒没有。不过,我不喜欢让第十号内斯特继续躲避我们。这太糟糕了。这只能满足它那已经膨胀的优越感。恐怕,它的动机不再其是遵从命令了。我想,这不如说是它神经病似的竭力想以机智胜人。这是一种病态的、危险的状况。皮特,我求您的事,您做了吗?您是否巳把我想要的,修改了的机器人MS-2型的几点不稳定因素给计算出来了?”
“正在进行。”数学家毫无兴趣地说。
她面带愠色地瞪丁他~会儿,然后转向柯尔纳将军;“将军,第十号内斯特已确切知道我们在干什么。它无须在这个试验中上我们的钩。尤其在第一次试验之后,它已看出,没有真正的危险在威胁我们的人。其它的机器人是不得不那样做;而它却是精心地装出了这种反应。”
“那么,您认为我们现在应该做什么呢?苏珊博士。”
“下次不能再让它作出这种虚假的反应。我们将重复这个试验,但要增加一些东西——在我们的人和机器人之间安装上能电死这些内斯特型机器人的高压电线。电线多放一些,使得它们没法从上面跳越过去。而且事先要告诉机器人,碰上电线就会死。”
“别说了!”伯格特突然恶狠狠地对她喊道,“我反对这个办法。我们不能为了找出第十号内斯特,而把价值200万元的机器人电死。总还会有别的办法嘛。”
“您有把握吗?您连一点办法也没找到。无论怎么说,这不是要电死那一个问题。我们可以安上继电器,当重物压上去时,继电器就会切断电源。如果机器人把自己的重量压上去时,继电器就会切断电源。如果机器人把自己的重量压到上面。它就不会死。但是这一点事先不能让它们知道,您明白吗?”
将军的眼睛里闪出了希望的光芒。他问:“那能行吗?”
“应该能行。这种情况下,第十号内斯特将会留在原位,如果命令它去碰电线,它会死的。因为关于必须执行命令的第二定率要优先于关于要保存自己的第三定律。但是,并最有人命令它去那样,它将只按自己的意志办。其它机器人也将是按自己的意志办。对其它机器人来讲,关于人的安全这第一定律将驱使它们去死。尽管没有命令它们。但是,我们这个第十号内斯特则不然。由于第一定律已不完整,再加上没有接到要那样去做的命令。第三定律。即:要保存自己,将成为最首要的起作用的因素。因此,它没有其它的选择,只有留在自己的位置上。这不是被迫的反应。”
“那么,今天晚上能做吗?”
“今天晚上可以,”心理学家说,“如果电线能及时安装上的话。现在我去告诉机器人,让它们知道它们将面临什么样的情况。”
有一个人一动不动、一声不响地坐在椅子里。一件重物坠落了,很决地向这个人砸下去。在最后一刹那间,用同步的方式使一根铁棍突然有力地一击,把重物打到一边。
仅仅一次……
在实验室的观察间里,苏珊博士从小巧轻便的折叠椅上站了起来。一瞬间惊讶得气都憋住了。
六十三个机器人全安安静静地坐在自己的椅子里,严肃地盯着自己面前那个受到威胁的人。谁也没有动。
苏珊生气了。她简直到了怒不可逼的地步。但地看着机器人一个接着一个进入这间房间,又一个接着一个走了出去,而不敢表现出这种怒气。这更使她感到怒火中烧。她校对了一下名单。第二十八个机器人应该进来了——下面还有三十五个在等着她呢。
第二十八踌躇地走了进来。