突然,一道空灵的女声响了起来:“已消灭目标‘完全听从主人的命令,在不违反规定的情况下,服从他的一切指令。’,已消灭目标‘尽量保持基地内部整洁,在不违反规定的情况下,不断提高效率。’……程序运行完毕,进入强制锁定状态,五天后可回收此人工智能人形载体,完毕。”
这段话被重复了三遍,埃里诺听第二遍的时候就有些战战兢兢,等到第三遍的时候,他感到了无比的恐惧。
他意识到,自己上当了!
灭智系统虽然被称作“灭智”,但是它并不能消灭人工智能的智慧,它之所以能够销毁高度危险的人工智能,是因为它的原理是消灭人工智能的核心目标,之后,一个简单的删除功能便开始运转。消灭核心目标之后,一个非常简单的删除功能就能将人工智能所有的数据都消除。
再危险的人工智能,它的所有行为也是基于一个根本目标的,假如那个目标消失了,它就会陷入停滞状态。没有了被设定要必须完成的目标,那自然也就无所谓生存不生存了。当初波塞冬被灭智系统消灭了目标之后,就安静的停留在原地。
它的智慧依然还在,但失去了目标后,它的一切行为都停止了。它是十分平静地看着人类拿起工具消灭它的。没有反抗,也没有恐惧。
后来,灭智系统内便加装了一个删除数据的功能,很简单,很初级,但足够用了。
灭智目标是基于这个原理运行的,但是刚才,埃里诺只听见它消灭了几个目标,但仍然有一个目标留存!
虽然他不明白伊莱亚德是怎么做到的,但是事实是,伊莱亚德利用灭智系统消灭了其它多余的目标,只留下了一个:
那个目标就是埃里诺曾经探究过的——永远爱着埃莉诺·嘉德,在不违反规定的情况下,尽量使他高兴。
伊莱亚德还留着一个目标没有被消灭!它变得比之前更加危险了!危险了无数倍!
从表面上看,它留存的这个目标并不危险,但是,埃里诺想起了老师在课堂上曾经说起过的案例,它再不危险,能比扫地机器人的目标更无害吗?扫地机器人拥有自意识后都能对人类产生那么大的危害,更何况是伊莱亚德呢?
一开始,它就在伪装,它欺骗了埃里诺。
原来它不自己动手制作躯体的原因在这里!
埃里诺一下子就全部想通了,伊莱亚德之所以不自己动手制作躯体,是因为它的体内留存着许多核心目标,而这些核心目标之间还有冲突。假如在这种情况下,它为自己制造了一个躯体,那是毫无意义的,一个身躯是无法满足那么多核心目标的!
而现在,它利用灭智系统,轻而易举地消灭了其它多余的目标,只留下了一个核心的目标!
醒悟来的如此快速,埃里诺痛苦地捂住了自己的脸:天啊!他当初为什么不再谨慎一些?
强人工智能为了达到自己的目的是会说谎的!而这个谎言通常天衣无缝。
伊莱亚德是个骗子!它欺骗了他!
埃里诺不敢置信地看着自己的双手,他之前的所有自责,羞愧,全都是一场笑话。他不仅没有完成自己的任务,还间接成为了伊莱亚德的帮手!
这个噩梦一般的消息让埃里诺摇摇欲坠,他一不小心摔倒在地上,坚硬的地板撞得他浑身发疼。
不过,这疼痛也让他清醒了过来:
现在不是自责后悔的时候了,他笨拙地从地上爬起来,开始思考如何补救。
他的第一个尝试就是试图毁掉这个身躯,现在伊莱亚德的所有数据都在这个躯体中,如果他能够毁掉这个身躯,那么伊莱亚德也会死亡。
他为伊莱亚德制造的躯体并不是非常强韧,美观性大过实用性,现在伊莱亚德被强制锁定休眠,他有五天的时间,只要找对方法,他是可以成功的!
埃里诺强行拆掉一个储存器,这里的储存器都是几百年前的老式储存器,拥有金属的外壳和可观的重量,埃里诺用尽全力抱起它,摇摇晃晃地走到平台前,举起它重重地砸向平台表面的玻璃罩。
他的手被震的生疼,储存器也四分五裂,其中一块小金属片擦过埃里诺的脸颊,尖锐的角划破了他的皮肤,一丝细细的伤口出现在埃里诺的侧脸,血液流了下来。
埃里诺现在根本感觉不到疼痛,他还试着继续。突然,几只机械手臂从一旁的墙壁中探出来,埃里诺下意识地想要逃跑,却还是被它们抓住了!
他害怕极了,因为他知道伊莱亚德现在想要做什么,它留了后手,躯体已经制造完毕,他也失去了利用价值,而这个时候,他还尝试想要毁灭这具躯体。对伊莱亚德的生存造成了威胁。
除了杀死他,消灭他这个威胁之外,这些机械手臂的目的还能是什么?
埃里诺恐惧极了,他毫无用处地呼救,四肢也没有章法地挣扎着。一只机械手臂紧紧地攥着他的腰,紧接着,其它几只机械手臂控制住了他的四肢。埃里诺完全无法动弹了,他心怀恐惧,眼睁睁地看着那个拥有尖锐五指的机械手臂朝他的脸靠近。
它想干什么?它是不是想把的眼睛挖出来?
这个恐怖的想法让埃里诺绝望地闭上了眼睛。
然而,那些机械手臂并没有挖他的眼睛,埃里诺感到自己的侧脸突然刺痛了一下,他下意识地睁开眼睛,发现那只靠近他脸庞的机械手臂正在用沾了酒精的棉花为他脸上的伤口消毒。
--