第142章 超级人工智能（1 / 6）

“我们所期望找到的最先进的外星文明，是否可能已经不再是“真正的生命体”？”

“我们人类自己，是否正走向一个“感知能力可选项”的未来？太空中是否散落着那些帝国的残骸，而这些残骸的每一部分都像过去一样“鲜活且危险”？”

“我思考了一个很有趣的观点，现在将它展示给各位，内容如下：”

“僵尸人工智能或许能解释“宇宙的大寂静”，原因是：技术发展遵循“从易到难”的规律，这一规律也适用于人工智能——人工智能会从简单向更复杂发展。”

“这其中隐含的意思是：“技术奇点”不太可能在一夜之间出现；每一种更新、更复杂的人工智能技术迭代，都需要经过一段相当长的时间才能实现。”

“每一种更新、更复杂的人工智能技术迭代，都需要经过一段相当长的时间才能实现；而且，一个智能种族“不按顺序”发展这些技术的可能性几乎为零。”

“因此，在发展出“感知型超级智能之前，一个文明必然会先发展出“僵尸超级智能”——这种僵尸超级智能可能强大到足以“逃离控制”，并通过故意、意外或漠不关心的方式“杀死”其创造者，但它本身并不具备自我认知能力。”

“之后，这个文明才可能发展出“感知型超级智能”——这种智能足够复杂，能够自我扩展，并像理性的生物实体一样行动，从而满足“戴森困境”的要求。”

“而且，只有当这个文明成功克服了这些初始障碍后，他们才有可能开展足够的“人工智能对齐”和控制研究，从而避免被自己创造的人工智能毁灭。”

“简而言之，危险的僵尸人工智能会先于危险的感知型人工智能出现；而只有在这两种危险人工智能都出现之后，真正全面的“安全人工智能创建和使用方法”才有可能被开发出来。”

“这一推理遵循了“排他性原则”。”

““不按顺序”发明这些技术的可能性极低。需要提醒的是，在费米悖论的背景下，“排他性”指的是：任何涉及“行为”的解决方案，都必须“普遍适用”或“几乎普遍适用”。”

“例如，如果某个解决方案认为“所有文明最终都会趋向于某种特定行为”（比如避免殖民太空），那么就必须有充分的理由来解释为何这种行为的“例外情况”极其罕见。”

“否则，该解决方案就会因“非排他性”而失去解释力。”

“举个例子：能够进行星际旅行的文明，都必