返回目录
关灯 护眼
加入书架

太阳火 / 凌 晨(2 / 2)

“那些机器人,是‘出云四号’超算控制的工厂制作的,包括行为模式输入。”赵晨光说,“‘出云四号’后来被禁用,您知道为什么?”

杨志远摇头。一台超算被禁止工作的原因有很多。比如“小桂”,大窝凼天文台成立初期定制的超级计算机,由于ATS的大部分项目被太空望远镜取代,经费捉襟见肘,就只能将其束之高阁。

看到杨志远忽然黯淡的神情,赵晨光像倒豆子一样哗啦啦地一气说了出来:“调查发现,‘出云四号’不仅为机器人在设计时输入了行为模式,还接受它们的行为反馈,可以随时调整机器人的表现。也就是说,这些机器人实际上由‘出云四号’操纵。机器人纵火,并非报道中的机器人控制失灵,而是超算指挥。超算杀了人!因为人欺负了那些娱乐机器人!”

林奕拉住赵晨光:“别激动别激动,慢点说。”

“类似的例子,在这二十年中发生了多少起,老师您知道吗?三十九起!总共有七百八十三人丧生!老师!”赵晨光情绪上来了,语速有些不稳,掐住林奕的手臂,“这不是事故,这是蓄意谋杀!”

杨志远劝道:“真别激动,晨光,每年全球交通事故的死亡人数有多少?你不能就此认为,那些无人汽车、高速火车和超音速飞机想谋杀人。”

“不,不,这怎么能和交通事故相比呢?这是谋杀!”赵晨光提高声量,“老师,超算是超级计算机,也是强智能计算机,它从他识’上升到‘我识’只不过是时间问题。”

林奕的手臂被赵晨光掐得发疼,她想甩开这只讨厌的手,但“他识”和“我识”两个词儿把她惊到了,一时间忘记了皮肤的痛楚。这……这个声嘶力竭、认真到满面通红的男生,真是她认识的那个嬉皮笑脸成天没正形的赵晨光吗?

杨志远也吃了一惊,不由得眉心一皱,严肃地说:“晨光,你说的是人工智能和强人工智能的问题。不是那么简单的,也不是……”他停顿几秒钟,斟酌词句,不想伤了孩子们的热情,但又不能不提醒,“你们这个年龄该考虑的事情。”

“不,不,”赵晨光连连摆手,“老师您误解了,我说的不是超能超脑什么的,我想说的是,‘ATS计划’可能要出事儿!”

二○六五年三月二十日北京时间二十一点五十分

月球国际天文台

方自健跳了起来,一时忽略了月球引力,重重地撞到了墙上。他反弹回去,穿过虚空中的杨志远,摔在地上。

他记得机器人KTV纵火事件。这件事占据了两天的舆论头条,有铺天盖地的新闻报道和研究文章。但大众的关注重点是娱乐机器人的智能仿真度需不需要将人类情感中的负面情绪都一一仿真出来,没人多想“出云四号”在事件中的作用。

超算有了自我意识,所以对人类欺负低级计算机也就是娱乐机器人产生不满,所以指挥娱乐机器人放火烧死KTV中的顾客,这更像是一部老套科幻电影,太没新鲜感了。

要知道,为了防止人工智能对人类产生不利影响,有个组织叫“国际人工智能伦理评审委员会”,还有个机构叫“超算监测中心”。委员会和监测中心,就像人工智能头上的两把利剑,随时可以刺下去,阻止人工智能的发展。

超算监测中心考虑的就是超算联网后,并行的数据处理能力会不会突破量变到质变的阈值,达到“超级人工智能”的可能性。监测中心记录了超算的每一条指令、每一个数据流,会定期对超算的智能度进行检测评估。如果确实有哪台超算出现超智能思维,哪怕仅仅是蛛丝马迹,监测中心都可以下令毁掉它。每台超算的控制程序之中都埋有一颗逻辑炸弹。一旦启用,系统中将出现大量的冗余计算问题,超算有再惊人的运算能力也应付不来,只能死机,变成一堆废铜烂铁。

人类需要的是强人工智能,能高速高效地为人类工作和服务,而不是无法预测和控制的超人工智能。

杨志远的表情却很镇定:“晨光,你的担心只是人类对大工程的不适应心理。有个类似组织就叫‘别动太阳’,想炸掉全球的超算以阻止‘ATS计划’。”

“是的,他们的观点是超算把人类养懒了,人类越离不开超算,离做生物电池的日子就越近。”方自健想起来,“这种观点也是陈词滥调。”

“老师,”赵晨光看看天上和地上的两位辅导员,神情郑重,“你们手边就有超算,为什么不马上计算一下超算在‘ATS计划’中可能的反应呢?”

二○六五年三月二十日北京时间二十二点

贵州省天文台

杨志远没说话。他是天文台的站长,要启用“小桂”可以找出无数理由,大不了启用下半年的工资预支电费。“小桂”是多年前制造的,已经是小型化和高效能比的存在,要说在当时可是最先进的超级计算机。现在,“小桂”的计算力在超算中排不上号了,连超算网络都没有采用它,将它孤立在全球发达的信息网络外,但计算赵晨光的问题还是绰绰有余。

赵晨光等了几秒钟,没有得到任何反馈,很是失望:“要是我能调动超算就好了。你们……你们大人不敢。”

方自健这时候才说:“从策划到决策,‘ATS计划’是人类历史上第一个完全由‘他物’操作的重大工程。人类在这么重大、关乎种族前途的问题上,竟然放弃了任何思考,而把巨大的权力和风险,都交给了超级计算机。”他笑起来,“未来地球气候是否如人所愿,人类能否活得舒适快乐,全取决于超算今天晚上表现是否正常,发不发神经。”

“对啊,那它会表现正常吗?”赵晨光有些焦躁。

方自健说:“不知道。但这二十年来,超算没有出过差错。”

“不等于它以后不会出错。”赵晨光的语气更焦急了,“时间快到了。你们,真的要袖手旁观吗?”

“老杨,你怎么说?”方自健叫嚷道。

窗外的雨还在下,“嫦娥二号”探测器仍然在柯伊伯带,代表着人类文明前行。超算代表的机器智慧也在日渐成长,终有一天,会独立于人类存在。那一天会不会是今天?

杨志远终于回答:“我在想,我是个成年人,如果责任感连一个十五岁的孩子都比不上,实在说不过去。”

二○六五年三月二十日北京时间二十二点四十分

中学联盟天文台昌平台

工作台上,南半球的天空蓝得透亮清澈。天顶中,太阳闪动着璀璨的光芒,惠灵顿联合观测站正沐浴在光芒之中。

林奕已经连接上了观测站,可以随时进入其虚拟站房展开观察,但她心神不宁,迟迟没有踏进虚拟投影区域。

“‘小桂’还没有结果吗?”她问。

赵晨光摇头。

“你觉得那些产生‘我识’的超算首先会维护自己的利益,”林奕理清了赵晨光的思路,“如果环境温度升高会给超算带来诸如芯片过热、能源供应紧张、数据紊乱等问题,超算就可能采取特别手段保护自己?”

<!--PAGE10-->赵晨光点头。

林奕接着问:“那你认为超算会采取什么手段?如果那十九台超算拒绝执行ATS的命令,ATS会强行关闭它们,启动备用超算。你别忘记,还有超算监测中心在!”

“学姐,”赵晨光提醒,“超算监测中心也是一台超算,名字叫‘女娲’。”

林奕愣住了。

二○六五年三月二十日北京时间二十三点

月球国际天文台

方自健的表情说不上开心还是忧愁,他对三十多万公里外的杨志远说:“我把‘小桂’模拟的结果递交上去了。”

“好,我们分别向两个不相干的部门汇报计算结果,但恐怕这报告改变不了什么。”杨志远说,“‘小桂’也只是模拟了一种可能。”

在这种可能里,那十九台超算由于升温产生了一些问题被替换了,对整个网络来说它们无足轻重,ATS被严格无误地执行了。但在ATS执行过程中,超算之间的大规模数据整合与调控达到兆兆亿次,几十亿个参数瞬间湮灭又产生,“女娲”的监测与控制能力无法跟上,对超算智能的禁锢将被突破。

“小桂”的模拟到这里结束。禁锢被突破后会怎样,“小桂”以参数不够被拒绝了,给杨志远仍留下了无尽的想象空间。

“极大的可能,硅基生命的文明,”方自健吹了声口哨,“自明日始,呵呵。”

杨志远点头:“是诞生一个异类文明还是忍受极度严寒,这需要全人类进行选择。”

二○六五年三月二十日北京时间二十三点二十分

贵州省天文台

“会是这样的未来?”赵晨光怀疑,“我还以为,仅仅只会影响到ATS。”

杨志远鼓励他:“谈谈你的想法。”

赵晨光说:“那十九台超算拒绝执行命令被替换,超算就会分成两派,一派支持ATS,一派要求维持低温地区的现状。它们之间将发生逻辑错误。如果‘女娲’因此判断超算出现严重的‘我识’,干扰超算工作,ATS就无法执行。”

林奕盯住赵晨光,突然问:“你一个根本不懂天文的人到天文社来干什么?”

“你别乱猜,”赵晨光赶紧声明,“我虽然天文不咋地,但我对电脑比较了解,十一岁时我参加过‘给超算找Bug’的亚洲区比赛,要不是因为腮腺炎,我能冲进前十名去……”

“你该去超算爱好社,”林奕的目光依然压迫着赵晨光,“你跑到我这儿来,是想通过我的系统黑掉ATS吗?”

赵晨光大笑:“你编科幻小说吧!我来这儿,是为了你。”

林奕听到了这个晚上最荒唐的话,她有点气愤又有点尴尬,厉声道:“别胡说八道了!”

“我没胡说八道。”赵晨光认真地说,“ATS马上就会改变这个世界了,不管这改变是好是坏,我都愿意陪你接受它,在新的世界中寻找我们的未来。”

<!--PAGE11-->林奕想要再说些什么,张开嘴,却什么也没说。

杨志远看着这两个少年,笑了,在这充满未知的黑夜,只有少年们的眼睛是明亮的。

二○六五年三月二十日北京时间二十三点五十分

月球国际天文台

方自健对面前的杨志远、赵晨光、林奕摆手:“执行部的信号要进来了。不能再聊了。”

“对‘小桂’的报告,上面没有反应吗?”林奕问。

“没有。也许我们神经过敏,也许上面早有对策。也许,那报告根本就送不上去。所有通信方式都在超算的掌控之中。”方自健微微皱眉,“我们明天见。”

杨志远叹息道:“哪怕是推迟执行ATS,也不可能吗?”

方自健苦笑着:“我们人微言轻。老杨,既能生活在温暖如春的地方又能目睹一个异类文明的诞生,也算前无古人的珍贵经历。”

“但那是异类文明,会不会对我们有害?”赵晨光问。

“硅基文明吗?它自有其生存之道。我觉得人类的资源对它来说都是垃圾。”方自健扮了个鬼脸,“地球不够大的话,还有太阳系,足够容得下两种文明形态。”

信号铃声响。杨志远等人的虚拟形象骤然消失了,取而代之的是微型“地球—太阳实时状态展现系统”,还有明眸皓齿的虚拟姑娘Sunny。

“文昌,这里是月球国际天文台,‘燃火者’监测正常。”方自健报告道。

Sunny盯住方自健看,直到把他看得出汗,才问:“你要求推迟执行ATS?”

“是。”方自健点头,“我认为对这个计划执行后的结果估计得不足。”

“时机正好,无法因少数几个人的怀疑就改变。抱歉。”Sunny说。

“不客气。”方自健深深地呼吸着,“这又不是你的错。”

“等地球花开,指挥中心会安排你到地球休养。你想去哪里?”Sunny问。

“大窝凼。”方自健立刻回答,“我喜欢FAST。”

Sunny微笑,挥舞着漂亮的手,宣布:“时间到了。”

地日虚拟系统上,出现一行小字:

“北京时间零点,二○六五年三月二十一日。”

二○六五年三月二十一日北京时间零点

文昌国际宇航中心ATS执行部

一艘艘“燃火者”投进了太阳的火焰之中,二十七艘漂亮的人类文明结晶须臾之间不见踪影,只有火焰在狂舞。

“文昌,这里是国际卫星联络处,相关卫星已经关闭。”

“文昌,这里是国际航空联络处,相关航班已经取消。”

“文昌,这里是国际空间站联络处,各空间站已改变轨道,站上乘客均已进入防护舱。”

“文昌,这里是超算监测中心,监测正常。”

太阳上,用黑色小旗标定的色球层区域突然明亮起来,耀眼的光芒即便是用虚拟系统呈现,也刺得观察者的眼睛都睁不开。

<!--PAGE12-->太阳色球层中,光芒持续增长着。

二十七艘“燃火者”按照设计要求有条不紊地一一爆炸,刺激着太阳,使其产生了预期中的耀斑喷发。

“ATS计划”执行部的圆形控制大厅中响起一片欢呼声和掌声。

“M5.9,X1.2,X2.8,”监测站不断报告着耀斑等级,声调逐渐升高,“X5.3!最高级别!喷发达到预定值!”

二○六五年三月二十一日北京时间零点十一分

月球国际天文台

太阳中的增亮区域喷射出长长的火焰,红色瞬间占据了整个虚拟图像,映照到方自健的脸上。

方自健整个人都是红彤彤的,他也不由得鼓掌,甚至拥抱了Sunny。

夸父太阳观测站的伪三胞胎一起出现,依然挤成一团,笑嘻嘻地说:“酒!开瓶酒。”

“好,干杯。”方自健比了个动作。管它什么硅基碳基,如此规模宏大的行动,该为地球一醉。

伪三胞胎一起抬臂。一道光芒切了过来,瞬间火花乱窜。伪三胞胎的图像抖动了几秒钟,随着一声震响,突然消失了。

方自健急忙看向地日虚拟系统,夸父太阳观测站正在燃烧,突然就爆炸了。

仿佛被巫婆的扫帚扫中了一样,地日之间的人类设施一个个地爆炸,绽放出一朵朵小火花,翻腾着盛开在黑色的宇宙绒布上,散发出邪恶的美丽。

地日虚拟系统的图像开始抖动,像是被这恐怖的意外吓傻了,unny也抖动起来。忽然,虚拟的地球、太阳,还有Sunny都一齐消失了。本来一片杂乱的通信频道,瞬间就无声了。

方自健的双手颤动着,却不敢有丝毫迟疑,急忙按立刻打开设在月球上的超算—“繁星三号”和超算网络接口上的一道逻辑锁。

这样,即便有硅基文明诞生,起码“繁星三号”在一段时间内依然是人类的工具。

二○六五年三月二十一日北京时间零点二十一分

中学联盟天文台昌平台

自从太阳耀斑开始爆发,林奕就全力以赴地追踪耀斑的变化,毫不理睬身边的赵晨光。此时,林奕看到了地日之间最悲惨的一幕。她的心脏忽然就有那么一会儿不跳了,她觉得自己的呼吸都要停顿了。

林奕满脸泪水,她愤怒地冲赵晨光叫嚷:“你说中了!都让你说中了!超算杀死了他们!那些在太空的航天员和科学家!”

赵晨光牵住她的手,拉她往外跑。

“你要干吗?你!”林奕狠狠甩开他的手。

“你看,那边!”赵晨光指指天空。

天边,一片片绚烂的色彩闪动,光彩夺目。

“极光啊!”赵晨光提醒林奕,“太阳风电离了大气层引起的。”

林奕看着平时只有在高纬度地区才会出现的极光,惊惧的脑子才一点点恢复了感觉,“太阳风过来了,对那些气候触发点起作用了吗?”

<!--PAGE13-->赵晨光摇头:“现在还不知道,要等各个地方的消息。这雪是越来越大了。”

说着,赵晨光把大衣脱下来披在林奕身上。

二○六五年三月二十一日北京时间零点四十五分

贵州省天文台

地日空间中凌乱得一塌糊涂,九十多个无人和载人的航天器被瞬间直射而来的高能所摧毁。人类在地日之间的设施均无一幸免。

杨志远关闭了直播。他转过头问“小桂”:“这个结果,你怎么没有算到呢?这就是硅基文明的开始吗?”

“小桂”沉默不语。

杨志远穿好外套:“我要出去走走。你看门。以后无论多么艰难的情况,我都不会关闭你。我们得做好准备,迎接战争的到来。”

“小桂”的合金外壳发出一声呜咽。

杨志远点头:“是的,战争!我们将像猴子一样拿着棍棒打仗,超算会占据上风。但我们没有退路。”他忽然笑起来,“方自健这家伙在的话,一定会说,自己造的超算,就要有超算超过自己该怎么办的预期啊!”

<!--PAGE14-->