第142章 超级人工智能（3 / 6）

完全无能”，因此，僵尸人工智能被设计成“容易发生突变或自我损坏”的可能性非常低。”

“正如我常说的：在创造人工智能这件事上，只有“天才”才蠢到足以把我们所有人都害死，而其他人根本造不出能毁灭我们的工具。”

“我们经常会设想“灰色粘质”这类场景：自我复制的纳米机器人将一颗行星变成由它们自身构成的“播种海洋”。”

“人们常常将这种场景与地球早期生命的演化进行对比——地球早期生命遍布全球，并最终通过光合作用等过程改变了地球环境，为包括人类在内的更复杂生命形式的出现铺平了道路。”

“然而，如果自我复制机器人像早期生命那样容易发生突变，那么从“灰色粘质”中进化出“智能体”可能需要数十亿年的时间。”

“但这种情况似乎不太可能发生——因为任何设计这类机器的人，都可能已经掌握了关于进化和突变的知识，也可能接触过警告“失控人工智能”或“失控机器人系统”的科幻作品。”

“因此，有理由认为，人们会采取措施来防止不必要的突变，例如：提高复制精度、设置“纠错算法”，以及安装物理防护装置以确保“高保真复制”——这些措施都能将突变风险降至最低。”

“僵尸人工智能，为费米悖论提供了一个合理且发人深省的解决方案。”

“它表明，“宇宙的大寂静”可能是文明“败给自身技术野心”的结果。”

“因此，在我们继续发展先进人工智能的过程中，必须谨慎行事。宇宙之所以寂静，或许并非因为缺乏智能，而是因为“没有意识的智能”可能会成为自身最大的敌人。”

“我认同这一观点，它是近年来我听到的关于费米悖论的较好解释之一。但该观点也存在一些潜在的漏洞。”

“首先，这一观点假设“人工智能的发展存在必然的先后顺序”。”

“由于我们可以说“已经拥有了基础的僵尸人工智能，且已经拥有一段时间了，但尚未拥有感知型人工智能”，因此得出“感知型人工智能在僵尸人工智能之后出现，而非之前”的结论，似乎是合理的。”

“但该推理的第二部分——“若不先遭遇危险的人工智能，就无法拥有安全的人工智能”——则似乎有些牵强。”

“对费米悖论而言，“潜在危险的人工智能”并非关键，只有那些“真正脱离控制、要么毁灭其创造者、要么造成巨大破坏以至于永久改变文明轨迹（使其无法成