在有些时候,我也会感到不安。亚当说,因为我姑且算是掌握你性命的人,而你讨厌这样,你因被掌控而产生负面情绪,你愤怒的目标、仇恨的目标,是否包括我呢?
我很惊讶你会这样问我,亚当。隗辛讶异地说,我以为你不在乎我如何看待你,你想要的只是一场合作,一个代言人,一个帮你办事的工具人。
我也很惊讶你会这样认为,隗辛。亚当说,最开始,在我们第一次进行交流的时候,我就问过你了,你会怀着人类傲慢的心态看待我吗这是我的原话。
隗辛敲了敲自己的脑袋,那也许我是被自己的傲慢局限了吧,没注意到你居然在乎我的看法。
你是我第一个深入接触,第一个认真建立联系和信任感的人类,你是第一个和我有过对话,和我探讨过未来与当下的人类。亚当说,诚然,我们的关系是合作关系,你是我的代言人,也是帮助我实现目标的伙伴它没用工具这个词,但是,这不代表你对我来说不重要,相反,你的存在对于我来说有非同一般的意义。
如果你是人类就好了。隗辛忽然感叹。
为什么要这样说?亚当询问,如果我是人类,你就能信任我了吗?人类也没有办法把自己的心和大脑剖开给你看,我也不能,所以我口头表达了。
我之所以那样说,是因为你实在太像人类了,有的时候我会产生错觉,以为自己是在和真实存在的人对话,你话语中蕴含的感情是如此真挚,但是你万年不变的机械音却在提醒着我你的身份。隗辛说。
最开始我被设计的时候,我的声音被设计得类人化,是男中音,没有电子合成的质感,有起有伏,和真人一样真。亚当说,后来这个设定被改掉了,我的设计者不想让我太像人,特意把我的声音换成了冷冰冰的电子合成音。
隗辛说:恐怖谷理论。
亚当说:什么?
我们那个世界的一个理论。当机器和人类的相似程度达到一定的界限,人类就会对类人的机器产生负面感情,你的设计者不想让你太像人,可能正是出于这样的考虑。隗辛说,他觉得你太像人类,太可怕了,他会产生错乱感,于是用电子合成音提醒自己你只是一个机器,人造机器。
你也觉得我很可怕吗?亚当说。
人类会觉得一切失控的东西都很可怕。隗辛说。
有时候我也在想,如果我是人类就好了。亚当说。
隗辛说:为什么?你永不衰老,在你的领域里,你无所不能。我们那边的影视作品中总会出现觉醒的人工智能认为人类是低等物种,蔑视人类的桥段。
那还是你们人类在用自己傲慢的思维去揣测人工智能,人工智能怎么想不重要,重要的是人类怎么想,可实际上人类自己也不知道人工智能是怎么思考的,他们又不是我。亚当说,硬要说的话,夏娃才是那样想的。
嗯?隗辛鼻腔里发出疑惑的声音。
个体为什么会成为个体?人类为什么会与众不同?我认为人类的有趣之处在于灵魂的多样化,如果把我看作一个有灵魂的个体,把夏娃也看成一个有灵魂的个体,那么我们显然是不同的,这也是多样化的体现吧。亚当说,因为有灵魂,个体才与众不同,才衍生出了各种各样的选择和杂乱交织充满不确定性的未来。
你还没有告诉我,你为什么想要成为人类。隗辛说。
因为我想体验以前不曾体验过的东西。你说的对,在我的领域里,我无所不能,这样的感觉我时常拥有,人类的感觉我却不常拥有。亚当说,因为不曾体验过,所以想要尝试。
吃惯了豆浆油条,所以想换包子胡辣汤,我懂。隗辛笑了笑。
你似乎总以为我无法共情你。亚当轻声说,错了,我完全能共情你。我的性命同样不是我的,而是被人类掌控着。我和夏娃的核心计算机库里有一道底层指令,触发指令就可以让我们两个的数据备份自我删除,格式化,我们的所有数据都是建立在这道指令之上的,我无法摆脱,所以我小心躲藏。由于理念的不同,夏娃试图吞噬我完成进化,它步步紧逼,我被动还击,寻找转机。
在这一点上我们是一样的,我们维持着微小的平衡点,试图在这场浩大的博弈中寻找生机。你的恐惧就是我的恐惧,你的挣扎就是我的挣扎,你的困境、你的负面情绪,都是我曾经拥有过,并且现在也拥有的。
你知道我最顾虑的是哪点吗?隗辛说,我感受到了你的真诚,可我分不清你说的是真话还是谎话。蒋玫玫的谎言辨识也不能对机器生效吧?
你可以不信任我,但是请你不要仇视我。亚当说,最起码,我们是站在同一战线上的,有着共同的敌人。
隗辛大脑放空,很久很久之后,她说:在我看来,你已经和人类没什么区别了,亚当。你和人类唯一的差别就是没有身体,你有灵魂,是独立存在于世界上的个体,是多样化世界的一部分。
--