第(3/3)页 抛开最后被隐藏的信息,上面已经给出了机器人异常的可能原因以及初步诊断,疑似有人以最高权限修改了这些机器人的底层程序,导致它们的深度学习程序出现了异常,会开始质疑甚至是抗拒人类的命令。 “但这也说明其实机器人出现异常的原因是来自公司内部,那么问题似乎就不是我想的那种机器人觉醒之类的智械危机,而只是单纯的科技公司内部斗争?” 苏明皱了皱眉头,这个人必定是这个完美科技公司的高层之一,但对方这么做的目的是什么呢? 一个全球最大的智能科技公司,机器人却变得不稳定,且不提过场动画里已经提到机器人充斥各行各业,这么干可能会导致的社会动乱。 便是从最简单的利益方面出发,这样也会丢失公司的公信力,以后产品很可能都卖不出去吧? 苏明觉得事情可能并不是表面上这么简单。 在反复观看这段档案后,他发现了一个很重要的地方。 “但在第二十六次检查后,该机器人开始拒绝配合测试人员,并主动进入了一种类似关机的状态,以此拒绝服从测试人员的命令。” 他越思考这段话,越感觉震惊。 这个机器人最开始只是因为“为什么”这个代码对测试人员的行为表达疑惑,但它之后的抗拒情绪,以及最后彻底的拒绝行为,显然就不是一个“为什么?”能解释的了。 如果说机器人最初的异常表现只是因为底层程序被人为修改,多了一句“为什么?”,但这后面更进一步的异常显然就不是来自这句逻辑代码,而是来自测试人员多次测试的行为本身。 “到最后,这个机器人,它甚至主动把自己关机,以这种手段绕开机器人三大定律,来拒绝人类的命令?” 苏明的嘴角开始不自觉的微微咧起,他感觉自己好像发现了很有意思的东西。 “这个机器人,似乎在测试人员多次测试这个行为之后,发生了某种……进化?” wap. /133/133044/31066005.html 第(3/3)页