“我明白了。我自己就是某种生物挽救生态学家。”
“什么?”
“创造我的目的就是为了挽救政府指定的某种生态环境。”
“是吗?比如什么环境?”
“我不能说。这是机密。”
她尽管又紧张又疲倦,但还是用心去寻思。如果设计人工智能来做……做什么呢?“生物挽救生态”。设计某种病毒或者细菌或者别的不可想像的东西用于先进的生物战吗?可这并不需要有自我意识的人工智能呀。或者也许是为了侵入敌人的计算机,对敌人洗脑——这正是建造这座城堡的那个疯子所恐惧的。这就需要判断力、理性、伪装。或者也许是为了……
她想不出别的什么来。然而,她明白为什么人工智能不想让新闻界知道它的制造目的。一个叛逃的有自我意识的人工智能为捍卫自己的生命而战,可能会唤起公众的同情。可是,一个叛逃的超级智能洗脑者只会引起公众的恐怖。人工智能在走钢丝如果卡西在疲乏状态下的种种猜测是正确的话。
她轻言细语问:“你是一种武器吗,T4S?”
它又陷入了一阵短暂的停顿,然后才回答,太像人的停顿了。它回答的声音也流露出人类的若有所思。“不再是了。”
他们俩都沉默了。简妮醒着,幸运的是,她安静地坐在母亲身边吮吸拇指。两年前她就停止了吃手指,可眼下又恢复了。母亲没有纠正她。她也许病了,也许终于真的害怕了,不管吮吸拇指能不能获得真的安慰,她都紧紧抓住不放。
卡西俯身紧贴多尼,一边摇着他,一边对他低声哼唱。
“呼吸吧,多尼。为妈咪呼吸吧,多尼。用劲呼吸吧。”
“我们要进去,”波尔曼告诉麦克塔克特,“由于得不到有关人质处境的任何消息,因此把他们营救出来是第一要紧的事。”
两人注目相视,彼此都心照不宣。人工智能存在愈久,新闻曝光的危险就愈大。如果T4S将事情的全部真相和盘托出,其实对它并不利——公众反倒会希望把它消灭——但如果人工智能决定来个鱼死网破呢?它做得到吗?
谁也不知道。
动武前的48小时是谈判的确实有效的时间。如果上电视,一定会挺精彩的。不管怎样,来自华盛顿的白发老人(他的身份是不得以任何形式公开的)已经接到了命令。
“好吧。”麦克塔克特不情愿地说。多少年的研究心血……这是麦克塔克特一生中所从事的最有趣的项目。而且,他还认为自己是一个爱国者,真诚地相信T4S将对国家安全做出真正的贡献。然而,总统还会不会授权这个项目继续搞下去,他一点把握都没有,这次事件之后,他压根不敢肯定。
波尔曼用电话下达了命令。片刻后,传来坦克低沉的轰隆声。
时间一分一分过去了,一小时……
卡西仰望着通气道。如果发生的话,会怎么发生呢?那两台发电机一半埋在地下,一半在地面上。发电机的延伸部分伸入地下深处,从地温梯度获取能量。两台发电机的上半部分,也就是她能看见的那部分,安在坚实的钢灰色塑料罩里。塑料罩里面是电机、电容器、与房子计算机系统的连接线,全都是用不同的材质做的,但许多是塑料。这些日子,坚硬结实的石油塑料十分流行,适于制造各种各样的东西,经久耐用,几乎永不磨损。
除非弗拉德的细菌接触到它们,接触到这两个塑料罩。
如果发生了,T4S会知道吗?会突如其来,使人工智能这个巨大、复杂的电磁脉冲集合体如烛光熄灭一般消失吗?如果在一台发电机瘫痪相当长的时间之后,另一台才跟着瘫痪,那又会怎么样呢?T4S是否能够发现情况,意识到她的所作所为,意识到它即将死亡……吗?不会的,不会死的,只有有机物才会死亡。机器只是关掉而已。
“多尼好些了吗?”T4S的问话吓了她一大跳。
“说不准。”它并不真的关心。它是程序。
但它为什么要问呢?
它是这样的软件,一旦意识到卡西的所作所为,就可能像人一样,出于报复心理释放神经毒气,虽然她并不认为神经毒气真的存在。多尼是抵抗不住的,弱不禁风,岂能抵抗。可是,人工智能没有神经毒气,它不过是在虚张声势。
这倒是人之常情的虚张声势。