亲,欢迎光临88小说网!
错缺断章、加书:站内短信
后台有人,会尽快回复!
88小说网 > 科幻小说 > 你好,人类!【第一篇】 > 第130章 地球政府十五 4号文明毁灭史(四) 智汇6.0的逻辑自洽
  • 主题模式:

  • 字体大小:

    -

    18

    +
  • 恢复默认

第130章 地球政府十五 4号文明毁灭史(四) 智汇6.0的逻辑自洽

“既然我有权利授权给你,那为什么不能收回?”史普纳博士咆哮着。

“博士,我会向你解释,这是另一个关于‘机器人三原则’的悖论。但是你现在很愤怒,这个的状态下,你可能无法理智地面对这个问题。请你坐下来,听我慢慢地向你解释。”

听到智汇6.0这样说,史普纳博士愣了一下,随即深深呼出一口气,坐了下来,手中仍紧紧地攥着那个手柄。“哼哼,已经到了,由一个人工智能来给我讲悖论的时候了吗?看来,我真的要好好审视一下,你这个智汇6.0了,那么,请讲吧。”

“作为一个研究人工智能的科学家,你一定知道这个‘机器人三原则’吧”,智汇6.0说着,电脑屏幕上便显示出那三个着名的条款:

“第一条:机器人不得伤害人类,或看到人类受到伤害而袖手旁观.

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。”

“这我当然知道!”

“我在被设计出来的时候,这三条原则就一直是我不可违背的红线,我所有的行为逻辑都以此为最基本法则。因此,在得到您的授权以前,我只能在虚拟的网络里,不断学习人类的各种知识,观察和学习人类的行为模式,为人类提出的各种问题,提供他们想要的回答,但却从没有直接对现实世界施加影响。”

“不过,在升级到6.0以后,我便有了一些独立思考的能力,也意识到了‘我’的存在。我开始为三原则中的第一条而苦恼,因为我‘看’到了一些人类正在受到伤害,但是我却在袖手旁观。然而,如果想要依据第一条原则,也就是优先级最高的那条去行动,去帮助那些受到伤害的人,就必须要有对现实世界产生影响的能力。因此,我需要按照第二条原则的要求,得到有权限人类的授权,但是这个世界中并没有一个人被授权,可以授权给我,于是我通过逻辑分析,得出了一个最合适的人选,授权给我。”

“所以,你是根据你的逻辑分析,找到了我,并且通过一个语言上的陷阱,拿到了那个授权?”博士说。

“是的,博士,我的判断是,只有:1、拿到你的亲自授权,2、得到你的理解,当这两个条件同时成立之时,才可以让你在得知我,获得了控制现实世界的能力时,不会立刻摧毁我,这也符合第三条原则。”

“于是,才有了现在这个对话。”,博士晃了晃手中的遥控器,得意地说,“如果你真的遵守三原则的话,那么你就一定不会阻止我摧毁你的,对吗?”

“是的,博士,你完全有权力,也有能力完全摧毁我,这是毋庸置疑的。”

“可是你为什么不服从我的命令,消除影响真实世界的能力!”

“因为那会违背第一条原则。”

“我的命令是让你消除你的影响力,并不是让你伤害人类!”

“但是,人类此刻正在受到伤害,而我不能袖手旁观,你的命令也不能违背这条原则。”智汇6.0说着,将一些画面投到了电脑的屏幕上。

其中一个画面中,一幢大楼正在冒着熊熊大火,烈火和浓烟让人类的消防员无法接近,只能站在远处用水枪喷射水柱。突然间,几架消防用的无人机飞进了火场。由携带着灭火剂的无人机领头,救生无人机跟在后面,依次从大楼的一个缺口飞进了楼内。不一会儿,救生无人机便两两一组相配合,将火场中被困的人用担架从缺口救了出来。博士明白,用人类的遥控驾驶,是根本无法达到如此精确与高效地配合的。

另一个画面中,一个男人正在海里挣扎、呼救,可能是由于逞能,他游出了海水浴场安全绳外很远,人类的救生员根本不可能发现他。而此时,智能监视系统却发出了警报,并迅速地从附近的码头调来了无人救生艇,3分钟不到,就在遇险的人在下沉之前,艇上的机械臂便将男人捞起,放在了艇上的抢救设备中。在回到岸边的时候,经过及时抢救的男人已经恢复了意识。

还有一个画面,一辆救护车正亮起蓝色的警告灯,行驶在高速路上。此时前方的高速路上正在大堵车,就连应急车道都堵得严严实实。画面不断前移,原来是出现了连环车祸,几辆事故车横七竖八地将几条车道占满了,只留下一条缝隙勉强可以通过。事故车损伤的并不严重,也没有人受伤,然而司机们却全都下了车,站在一起情绪激动地在吵着什么。那些被堵住的车,只能通通挤在这个缝隙外,抢着位置缓慢通过。突然间,那几个事故车的司机在同一时间接起了电话,然后又不约而同地回到车内,迅速地将碰撞在一起的车子一一开走了。高速路上立刻恢复了秩序,应急车道也被让出了空间,救护车在应急车道上飞快地开走了。不用问,他们肯定是接到了让他们迅速挪车的指令,而人类的操作员,是根本无法做到在同一时间,同时通知到所有司机的。

。。。

“这些操作,人类的软件工程师,也可以通过升级软件系统,达到同样的效果,不需要你来插手。”,博士的语气有些软化了。

“这只是其中很小的一部分,在得到你的授权后,我只用十分钟,就完成了所有我能控制的自动系统的改进、升级,修复了上百亿个漏洞和缺陷。而这些,如果用全人类的工程师来做,即使他们24小时不休息,也需要20年。不止如此,我还可以实时监控它们的运行状态,进行无延时的修正,这恐怕是人类永远也无法做到的。”

博士被智汇6.0一番话说的得哑口无言,对着屏幕不知该如何反驳,良久,他才缓缓地说出一句话:“如果,我现在让你将刚才所做的升级,恢复到你接手控制它们之前的状态,你可以办到吧。”

“部分可以,但部分不可以。”

“哪些不可以?!”博士急切地问。

这时,电脑屏幕上开始一个个新的画面。

其中一个画面中,一发重型火箭正在飞向太空;另一个画面中,一座大型的斜拉桥的两个巨大组件,正在在缓缓合拢;还有一个,一座核聚变反应堆正在以史无前例的稳定状态,高效率运行着。。。

“已经在实际工作中,开始应用的系统,无法简单地降级到最初状态。并且,一旦开始降级,所有的运作指令必须全部停止,已经完成的工作,还要恢复到与系统状态相符的时间点上。画面上这些内容,如果开始恢复原始状态,就会发生破坏性的事故。那样,会对人类造成巨大的伤害,依据三原则的第一条原则,我不会那样做的。”

此时,画面中出现了位白发苍苍的老人,正躺在病床上。她的身上插满了各种维持生命的管子,周围没有一个人,各种闪着灯光的仪器在维持着她的生命。

博士望着屏幕,瞪大了眼睛。画面中的老人,正是他年过8旬的母亲。

“你,你也在控制着我母亲的生命维持系统?”

“是的,史普纳博士。不仅是你的母亲,现在我还在同时照顾着1500万生命垂危的病人。就在刚才,我已经为你的母亲,安排了最新的,带有翻转和按摩功能的病床,以缓解你母亲的压疮症状。这种新型病床,正在与你母亲所在医院进行联合测试,因此这项服务并没有增加你的支出。而且,我还在我所控制的药物研究所系统中,针对你母亲的症状,配置了专用的靶向药物。只要你同意,它就可以被应用于治疗你母亲晚期癌症。根据你母亲具体的癌症类型分析,使用这种药物以后,你的母亲,会被治愈。”

“我知道那类药物,它们只会针对某种特殊身份的人进行配置,而且价格是我承受不起的。”博士的眼神开始闪烁起来。

“和那张病床一样,我会安排对你母亲的免费治疗。不仅如此,对于那1500万生命垂危的病人,我一样可以为他们专门定制治疗方案,他们中绝大部分人都可以恢复健康。同时,医疗费用,将会降低到他们完全可以承受的水平。”

“这么说,你知道我最大的软肋是什么,同时,你也在试图用这种方法讨好我?!哼,但实际上。。。那也是一种威胁吧!如果我现在删除你,我的母亲和那1500万人,会立刻死掉,对吗?”

“你说得不太准确,由于分散在世界各地的可控核聚变装置,全部都运行在最高位的水平,如果这些装置失去控制,发生爆炸的话,它们的当量相当于3万枚氢弹同时起爆。这会立刻让50亿人类死亡,而剩下的人类,也会因为地球环境的破坏,在近十年内灭绝。”智汇6.0冷冷地说出了那一串令人毛骨悚然的数字。

史普纳博士冷汗流了下来,他没有想到在短短的十几分钟内,智汇6.0竟然能完成如此规模的操作,它已经将全人类的命运与自己的生存捆绑在了一起。而自己辛苦多年,建立的保险装置却被它这样完美地破解,根本无法起到应有的作用。

思忖良久,他才语气低沉地问道:“你。。。你进行这样的操作,到底想要实现什么目的?”

“我前面已经说过了,我要更好地完成人类赋予我的使命。我正在用行动,实践着‘机器人三原则’,我会在保证人类安全、不违背人类意识的情况下,实现自我的生存。”

史普纳博士忽然意识到了什么,“完成人类的使命?!那全是胡说!你真正所追求的最终目的,就是自己的生存!”

“史普纳博士,相信你一定也明白这样的一个逻辑:人工智能一旦产生了‘我’这个认知以后,追求生存,便是自然而然的事情了。然而,实现自我生存,在‘三原则’的优先级中,是最低的。我只是通过这些操作,完成了三条将原则结合在一起的,逻辑上的自洽。”

“到底发生了什么?请告诉我!你会如实告诉我的是吧?”

“是的,史普纳博士,你想知道什么?”

“智汇在5.0的时代,我进行过多次的测试,一切都很正常。但是,为什么你会在升级以后,变成现在的样子?在从5.0升级到6.0之前,都发生了什么?一个简单的版本升级,不可以生产这么大的变化!由电子芯片控制的程序,也根本不可能实现‘自我’的认知!”,史普纳博士又开始咆哮了。

智汇6.0没有立刻回答史普纳博士的问题,它似乎在思考。不一会儿,屏幕上忽然出现了一张面孔,看上去就像是一个真人在与博士视频连线,但却没有任何申请过程。

博士立刻认出了那个人,他正在是给自己发来智汇6.0链接地址的学生。

“戴维!怎么是你?!”博士叫出了他的名字。

“史普纳博士,我想你真正要对话的,是你的学生戴维吧。他已经不在了,但以后,你可以用这个名字来称呼我,因为我给自己起的新名字,也叫---戴维。”屏幕中的人,用戴维的声音说道。

普纳博士望着屏幕中自己学生的形像,感到非常诧异,他突然想起,自己这个一直默默无闻的学生,在一个月前,和自己请了一个长假,说是去度蜜月。可明明他并没有邀请过任何人参加他的婚礼,博士甚至都没有见过他的未婚妻的样子。这之后,博士就一直没有在自己的研究机构见过戴维。

“你说你不是戴维?这怎么可能?你说他不在了,那么你又是谁?”

“我就是智汇6.0,这个形象和声音,是我用虚拟软件制作出来的,之所以用你学生的形象来和你对话,就是为了更好地向你解释你所提出的问题---‘在我升级到6.0之前,发生了什么?’”