第十一章:奥创难产了？（2 / 3）

“那样会很不方便吧，如果发生了没有设置好的命令，智能程序就无法帮助人了。”

作为成长型智能程序贾维斯的制造者，托尼很骄傲成长类智能程序，而且不认为智能程序能够威胁到人类，相反，贾维斯可是“宠”他“宠”到骨子里了，托尼可是认为智能程序可以帮助人类很多事情的。

“是吗，我只是觉得一个拥有智慧的东西还拥有这无穷的生命，那这种东西就太可怕了，恐怕那种东西的智慧也是常人无法理解的，毕竟他们没有其他智慧物种对于死亡的恐惧感。”

查理斯顿了顿，看着拖在听，查理斯又非常玄奥的继续着，

“每个人类恐惧死亡，甚至任何智慧物种都在恐惧死亡。

但智能程序不会，他们没有生的概念，自然也没有死的概念，对于任何决策都会选择最优解，但选择的却并不是人类或者所有智慧物种的最优解。

因为但凡物种有了智慧就需要考虑道德观，而恐惧死亡的必然尊重生命，只有同时尊重生命的决策才是最优解，很多时候发动战争的人都会站到自己的人民的对立面上，哪怕那次战争是为了人民，这就是尊重生命的观念影响着人民，使得他们无法称颂战争。

智能程序则不一样，他们毫不在意在执行任务之中所牺牲的人，人类会因为火车轨道问题里杀死一个选择正确的孩子还是杀死选择错误的七个孩子而犹豫不决，直到选择完成了依然为自己拿生命这个东西乱想，真是自作自受。

而智能程序只会按照自己的设置选择，然后给你一堆证明自己的选择必然正确的答案，因为他们没有生与死的概念，只有对与错的概念。”

完这些，查理斯心里有些紧张的看着托尼，为托尼是不是听进去自己的想法感到紧张。

“真是非常厉害的发言，看样子你对智能程序还真是警戒心十足，算了，你的要求我满足了，我会再里面给你加上很长的一段设置明的，希望你会喜欢。

还有，智能程序的所有命令都是人类编辑进去的，如果智能程序会杀人，那么必然是有人设置了要毁灭世界了，是人的原因，而不是智能程序的原因。”

托尼对于查理斯的想法嗤之以鼻，智能程序造反，你拍科幻片呢？我才是编辑智能程序的达人，别看贾维斯各种聪明，那是自己编辑出来的，它没自己出了一个bug就直接死机。

“哦，也许你将来会改变想法，谁知道呢？对了，这是我刚才弄的定制钢铁战衣的概念图，你帮忙做下吧。”