第一九六章 蜕变(2/2)

“那些都不重要，你就别去想它们了。”莫丁宽慰他道。

“好的，我们现在这儿隐蔽好，等到天一黑，我们就乘坐小艇逃到更远的地方去。”宾尼仍然记得他的职责。

“行！等我们逃出包围圈获得自由了，我们仍做好朋友，好吗？”

“好的！我们一直是朋友。”

莫丁觉得经过这一番波折，宾尼的智商没有受到影响，但他的“情商”却像退化到了7、8岁儿童的水平。现在的宾尼是一个完全不受人控制的机器人，对于他的创造者来说，已经蜕变成完全陌生的机器人。不知道在今后的岁月中，这个蜕变后的机器人会走上一条什么样的道路。

“宾尼，你害怕死亡吗？”莫丁继续跟机器人闲聊着。

“我必须尽量生存下来，避免死亡，但是‘害怕’这种感情用词是你们人类专有的，对我们机器人并不适用，如果有需要，机器人可以付出死亡的代价，但是不用害怕。”对于宾尼这样的回答，莫丁觉得应该是内部程序设定好的结果，作为一名机器人战士，在战场上生存下来是非常重要的。

“宾尼，假如这个世界只剩下你一个人存在了，你最想做什么呢？”

“嗯……”出乎莫丁意料之外，宾尼竟然“思考”了一会才说道：“我想再造一个和我一样的机器人。”

“哦？为什么呢？”莫丁很感兴趣问道。

“我想要一个朋友，山特告诉我说，朋友是世界上最珍贵的东西。”

莫丁有些明白了，这个机器人在向他的教官山特学习的过程中，出现了令人工智能原创者意想不到的偏差，以至于宾尼的价值判断超过了命令优先权，让他突破了原创者的安全控制手段，发生了“叛乱”。

现代量子计算机技术的发展，已经使得计算机的运行速度和存储能力得到极大的提高，它不再是人们在设计人工智能计算机程序时，需要考虑的资源限制问题。

所以设计者们为了解决程序运行过程中出现的种种问题，往往会不断的增加和修改程序，加进去一个又一个的修订模块，使得人工智能程序变得越来越庞大和复杂，

这样做的后果就是，单纯依靠人脑，已经很难再从底层代码逐条逐句的分析程序执行的可靠性。所以一旦在这个庞大程序的构建过程中，某个程序员疏忽或者恶意嵌入了bug，也很难被检查出来，这就给人工智能程序的运行埋下了隐患。

所以人类制造了比自己大脑还要复杂的智能计算机系统，就面临着失去控制的危险。

而像朱时禹那样的聪明人，就懂得使用蓝猫那样的伴生机器人，让价值观与自己完全一致的绝对“忠诚”的机器人伙伴，去解决关于机器人的问题，这也不失为一种对付未来机器人必然失控问题的最好办法。

用机器人对付机器人，有点像清朝的那些皇帝们，用来对付洋人入侵的思路，但最终的结果却是惨败。所以，这种办法，不知道能让人类走多远。但除此之外，还有更好的办法吗？除非人类永远不发展智能机器人，但那是不可能的。

人类需要发展，需要借助外力，同时又要避免被“进化”出来的高级物种所取代，唯一的办法就是提高自身，通过修炼意识、诞生元神，克服人类生物大脑的天然限制，莫丁觉得这才是生命进化之路的正确选择。