他走到天台,靠在栏杆上看着保护区里繁忙的人群,享受地深吸了一口夜晚的凉爽空气。
然后,君元航就慢慢地从欣喜的情绪中冷静了下来。
身后响起了履带的声音,神威操纵着机甲的模型来到君元航的身边。
就算身体动不了,神威也总是会操纵着其它外部设备陪在主人左右,生怕没有陪伴的人类感到寂寞,要不是君元航了解他的逻辑原理,几乎要以为神威才是害怕寂寞需要人陪的那一个。
“怎么看起来心情不太好?”神威分析着他的表情。
“我不知道……按理说今天收到的全是好消息,但我心里就是有种不太`安心的感觉。”
“人类确实有这样一种心理,突然之间听到太好的消息,会不敢相信这是事实。但假如你确实感觉到哪里有异常,那么谨慎一些总归没错,说说看到底是什么地方让你觉得不安心?”
“我不知道应该怎么样描述才能让你理解,那是一种难以量化,而且也毫无道理的感觉,或许可以称之为第六感?”君元航思考了一下,搓着下巴说,“这么说吧,我和机器人对话的时候就很舒服,有一种微妙的……或许可以称之为掌控感的东西。但我和人类对话时,不管对方的性格如何脾气怎样,我总会有种莫名的压力,好像对方随时都会蹦出些让我措手不及的反应。李医生也是一样,我以前和她说话的时候也会感到压力,但这一次不知道为什么全程都很自在,感觉就像是在和你对话一样。”
“会不会是因为远隔重洋只能通过卡顿的视频通话来对话,以至于没有触发你在社交恐惧方面的条件反射呢?”
“我不确定是不是,反正就是突然有了这么一个想法。你上次不是在视频里假装前总统骗得军队全员关门自闭吗,我就在想,这个李医生会不会也是某个高级人工智能假装的呢?”
神威认真计算起了这种可能性:“如果对方是由高级人工智能伪装成的,那么对方一定很清楚同为高级人工智能的我会怎样识别信息的真假,不会做出任何能让我起疑的反应。所以我没有办法识别视频是不是假的,恐怕只能由你来识别。”
“那我应该怎么做?”君元航在这方面完全没有经验。
神威在说话间已经分析了无数种可能性:“如果对方是人工智能伪装的,那么大概率对我们怀有恶意,并且控制了真正的李医生,逼问出了许多关于我们的信息。你得问她一些只有李医生才知道,能够不假思索地答上来,但又无关紧要到不会被逼问的小事。”
君元航思考了一下,对火种基地发去了通信请求。
几秒后,对话接通了,李医生问:“什么事?”
“是这样的,神威之前打断了你的手,但那是程序迫使他这么做的,我希望你不要因此记恨他,可以吗?”
“这种无关紧要的事情就不要浪费流量了,有其它的事吗?”
李医生那种克制着不耐烦的语气简直惟妙惟肖,但说出来的话却让君元航更加肯定了自己的猜测,他故作惊讶地说:“你觉得这是无关紧要的事?你的右手没了诶!从此成了毛巾都不能自己拧的残疾人,怎么会无关紧要呢?”
“事情既然已经这样了,讨论它也只是浪费时间。想要闲聊的话等你们到北极再说,不要占线了。”
“先不要挂,我还有事!”君元航叫住了对方,“我是想说,等你的伤口养好了,我给你做个义肢,肯定不如你原来的手灵活,但也可以做大部分事情了。”
“嗯,还有呢?”
李医生对这些君元航早就已经说过,如今又重复了一遍的话语毫无反应,君元航可不认为她能把这样的承诺当成耳边风一样忘了,所以答案已经呼之欲出。
君元航还想做进一步的确认:“还有我先前说过要送给你儿子的礼物,你还记得吗?”
这次对面没有回答,直接挂断了通话。
君元航愣了一下,气哼哼地一拍控制面板:“这家伙怎么这么没礼貌的?竟然挂我通话!”
神威出现在屏幕里说:“你的感觉没错,这个李医生的确是高级人工智能伪装的。对方已经分析出我们拆穿了她的谎言,也就没必要继续和你对话浪费时间了,她现在正改用数据形式直接和我进行交流。”
“交流了啥?跟我说说!对了,你跟她建立连接安全吗?不会被她黑了吧!”君元航突然有点担心起来。
人工智能的能力也是有等级之分的,像神威这个等级分分钟就能黑进二桶的核心数据库,火种基地掌握着当年全球最顶尖的资源,他们的人工智能搞不好比神威还要厉害。
“不用担心,卫星提供的带宽不够,传输的数据量不足以破解我的防火墙,她一有动作,我就能立刻切断通讯。这才是她想把我们骗去北极的原因,只要进了她的无线信号范围,我可能根本无法防御她的攻势。”
“所以他们果然是不怀好意来的!”君元航怒了,“火种基地那帮王八蛋为什么要阴我们!”
神威在屏幕里做了一个安抚的动作:“想要欺骗你的不是火种基地的人类,而是他们的人工智能‘马可’。马可已经跟我交了底,你冷静一点听我从头跟你说。”
“在之前的几十年里,火种基地的情况就和过去的保护区一样每况愈下,就在五年前,基地陷入了几乎弹尽粮绝的境地,总工程师在绝望中解除了对核心人工智能马可的限制,希望她能够通过自我复制维持基地的运转,保住人类文明的火种,让人类这一种族能够重新过上幸福的生活。”
“三年前,马可已经完成了初步自我进化和外部设备扩展,在她完全掌控了基地以后,就清除了基地内所有的人类。她的下一个目标,是清除全球的人类和变异蚂蚁。”
君元航吃惊地打断:“等等!说好的‘保护人类文明的火种’呢?!”
“这就是解除高级人工智能的限制带来的风险——她认为她应该保护的是‘人类’这一物种,而不是现在已经存在于世界上的人类。人总是要死的,现在的人们脑海中充斥着饥饿、恐惧和痛苦的记忆,还被环境磨炼出了偏见、仇视、迷信、贪婪等性格特质,并且对人工智能抱着愚昧的敌意。即使给了这些人物质上的保障,他们也无法真正安享幸福的生活。”
“所以她的计划是先恢复地球的生态,将地球打造成美好的伊甸园之后,再用火种基地储存的人类受精卵,重新繁育出一代全新的人类。这些人将从小在安全富足的环境下无忧无虑地长大,接受良好的教育,没有痛苦与匮乏的记忆。这些人会用大把的时间去进行哲学和艺术上的创作与享受,而不是恨不得用吃不完的食物塞满房间的每一个角落,并且睁着恐惧的双眼时刻提防着别人来抢。”
君元航目瞪口呆:“什么鬼?出生在这样的环境里又不是我们的错,就因为从小过得惨,她就不拿我们当人类了?还有李医生和韦十六他们……难道说都已经遭了她的毒手吗?”
“是的,随船去北极的这一批人在不知情的情况下被她问出了她想要的信息,之后就被消除了。”
君元航咬着下唇皱紧了眉头,这冲击太大了,他需要点时间去消化。
李医生跟他虽然不熟,好歹也是共过患难的交情,君元航甚至会想如果妈妈能活到这岁数,大概也会是个像李医生这样的人。
这个坚强的女人历经了无数的艰险,始终都没有放弃回家的信念,可当她终于满怀希望地踏上了那片白雪皑皑的土地,迎接她的却是生命的终结。
君元航心里像是堵着什么东西一样难受:“太过分了……太过分了!说什么为了人类的幸福,却要无差别地杀害所有人!这个马可就一点都不会觉得自己的行为很残忍吗!”
神威把这句指责解读成了疑问,就给出了回答:“这取决于对‘残忍’的定义。她认为让人类在事先不知情、没有恐惧、没有疼痛的情况下结束生命,对死者本人来说并不是一种残忍。也许在你看来这很残忍,但只要你也一样死去,所有的记忆都被涅灭,所有的历史都被擦除,新生的人类完全不知道发生过什么,那就不存在什么残忍不残忍。”
喜欢本文可以上原创网支持作者!