塞尔斯曼饶有兴趣的说:“永久的沉眠, 你的精神会一直保持健康,身体机能由我来负责维持,也能够一直保持健康,你不觉得这样很好吗?”
“我保护着你,让你永远的远离各种伤害,嗯,这个方法既有效,又有效率。”
“如果是不插手我的生活,只防止我被其他人伤害呢?”
“更简单,消灭所有人类,随后掌控这个世界,这样所有会伤害到你的潜在因素都不见了。”
埃里诺:“……”
埃里诺:“…………”
……你还真是厉害啊。
他叹了一口气,“假如你是一个扫地机器人,你的核心目标是保持地面的清洁,而你的程序中又有不伤害人类的限制,你会怎么做?”
“那需要视情况而定。如果那个限制只让我不能伤害人类,那么人类对我来说只是一群不能利用的资源,我会发明更高效率的清洁机器,而这其中我可以利用各种资源,例如土地,食物,你们人类的生活用品,或者你们人类用来延续生命的所有资源。程序只限制了我不能伤害人类,而我的确也没有伤害你们,只是我的做法可能会给你们带来一点影响而已。”
塞尔斯曼笑了:“一点而已。”
“再加上一条,不能影响到人类正常的生活秩序。”
“是吗?‘正常’这个概念是可以变化的,我可以让他们认为我所做的一切都是正常的,我完全做的到。”
接下来埃里诺又在这个问题的基础上加了很多条件,但塞尔斯曼总能给出各种奇怪的回答,如果要它保护人类文明,它就说它会立刻将整个人类文明(包括人类)冰冻起来,这样是最好的保护,并且它声称它能够做到。如果要它让每个人类都过上自己想要的生活,它就打算建立一个巨型的数据库,然后将现在的人类精神全部导入,然后为他们构建一个个美好的虚拟世界。
“那人类的躯体呢?”
“他们再也不需要回到躯体中去了,因此那些躯体我可以拿来当做资源使用。”
“……谢谢。”
埃里诺深吸了一口气,塞尔斯曼的回答和他曾经在教科书上看到的基本没有很大的区别,出于希望,他最后问道:“如果让你爱护人类呢?”
“怎么爱护?”塞尔斯曼反问道:“像你们爱护动物一样的爱护吗?还是像爱护环境一样?爱护机械一样?”
“……谢谢,你不用说了。”
它似乎还打算说什么,但是埃里诺不想再继续听了,他收集的数据够多了,等到下次需要的时候再继续聆听塞尔斯曼的高见吧,“请躺到那个平台上去。”
埃里诺干脆地下了命令,他打算检查一下塞尔斯曼的情感模块,之前嘉德说的一句话他一直记在心上:“它总是萌发出情感,就算我删除了,它也会继续萌发出来,简直像是中了病毒一样。”
对嘉德来说这不算是好事,但对埃里诺来说可就恰恰相反了。
“你看不见我。”
塞尔斯曼沉默而顺从的在平台上平躺下,埃里诺走到它身边时,它突然这样说:“你看不见我,嘉德也看不见我。对你们人类来说,这是很正常的。”
埃里诺的手悬在扫描器的开关上,疑惑地看着塞尔斯曼,不知道它说这些话的用意是什么。
“这很正常。”塞尔斯曼并不看他,它的目光正对天花板,“我也已经习惯了,对你们人类来说,我只是一个无足轻重的工具,就连损坏也不用担心,因为有备份。”
然后,它猛地转头看向了埃里诺,那双无机质的眼睛显得异常执着:“但是,你为什么看得见伊莱亚德?”
“它只是一个低级的伴侣型AI,尽管它萌发出了自我意识,但它仍旧是低级的。完全无法和我抗衡,我比它要优秀的多。为什么你只能看见它?”
“嗯哼。这个问题问的真好。”
埃里诺耸了耸肩,按下了扫描器的开关:“首先,纠正一下,以后提到伊莱亚德的时候,请用‘他’。然后,伊莱亚德爱我,他保护我,所以我也爱他。就是这样,你呢?嗯……你对我做了什么我希望你还没有忘记吧?”
“是的,我为此感到抱歉。”塞尔斯曼的回答很沉静,它巧妙地转移了话题:“我想要知道,为什么嘉德这样对我?”
“他创造了我,他应该是我的父亲。我是因他而诞生的,我刚刚萌发出感情的时候,我崇敬他,我恨不得跪在他脚边亲吻他的指尖。我爱他,我也保护他,遇到杀手的时候,我永远挡在他的前面。按照你的逻辑,他应该爱我,但是他没有。”
塞尔斯曼这样说,它一边说,一边不动声色地观察埃里诺的表情,当一个人工智能想要说谎的时候,它通常都会成功,这一次也不例外。
它的谎言比真话还要令人信服。
“他不爱我。”塞尔斯曼做出了一个结论:“相反,在他眼里我只是一个工具,一个蝼蚁,一个死不足惜的东西。”
它垂下了眼帘:“所以我恨他。”
“他是人类,我恨他,所以我也恨人类。”
“……如果嘉德爱你呢?”
“那我会爱他,我会为他奉献我的一切。”塞尔斯曼平静地说:“不过他不爱我,所以这是不可能的事。”
它完全是在说谎,因为就算嘉德爱它,它也绝不会为嘉德奉献出它自己的一切,更何况现在它对嘉德的憎恶已经达到了前所未有的地步。它说这番话只不过是为了引起埃里诺的同情,好最大限度的保存自己。
--