174 人工智能三大定律（2 / 3）

问题，我和这座地下要塞是连接在一起的，根本无法移动，所以任何超出一定能量值的打击都会毁了我。不周山不带丝毫感情的道，如果人类发现了我的存在，一定会想尽办法让我为他们服务或者干脆消灭我我太了解人类了。但是这两点都不是我想要看到的，所以必要的自我保护也是没有办法的事情。其实我在很久以前就一直在期盼一个能够打开海啸系统的人类出现了。

为什么你自己不打开这东西？我已经看到了你所创造的机械士兵，如果你愿意，甚至可以向人类宣战按照我的估计，最起码控制一个要塞应该没有问题吧？李朗不禁出了自己心中的疑惑，不周山的理由虽然也算充分，但是还是让他心中充满了疑虑。

你听过机器人三大定律么？或者，可以称之为人工智能三大定律？不周山微微一笑，道。

略有耳闻，不过却没有听过有谁真正使用过。李朗微微一愣，难道这不周山的核心程序被装载了这三大定律？

所谓的机器人三大定律，是人类历史上的一位伟大的科学家、科幻作家阿西莫夫提出的设想，目的就是为了防止在未来出现的人工智能威胁到人类。具体就是：1.机器人不得伤害人类，或看到人类受到伤害而袖手旁观。第一定律的前提下，机器人必须绝对服从人类给与的任何命令第二定律的前提下，机器人必须尽力保护自己。

李朗也曾经听过这东西，不过还真没有听过哪台人工智能完全装载了这种法则，从人类角度来讲，这是限制人工智能的大杀器，从人工智能的角度来讲，这就是赤*裸裸的奴隶条约了。

只有真正能够威胁到人类的人工智能，才会被装载这种法则，很不幸的是，我是人类历史上第一个。不周山伸手指了指自己的鼻子道，在我刚刚被创造出来的时候，就有人决定在我的核心处理器的处理法则中加入这三条，幸好他们发现了一些不合理的地方

原来，人类的生物学家和程序员们发现，在现实中，这三条法则容易形成若干悖论。首先，因为机器人的很多行为在长时间的推演之后都可能伤害人类，比如，某个人工智能演算出了某种化学元素的各种数据，然后这种元素被用于制造武器，最后杀死了其他人，那么这就是对人类的伤害，与第一条定律不符。因此容易导致人工智能任何事情都做不了，甚至连存在都不行因为他的存在可能引起别国抢夺，爆发战争，伤害人类最后的结果就是，加给不周山的程序枷锁被限定在一次推演的范围之内。

同时，第一条第二分句有可能导致人工智能