《理性：从人工智能到僵尸 – 地图与真实的土地 – 第四部分：神秘的答案 – 不要说“复杂性”》
很久很久以前……
这是我第一次见到马塞洛时的故事，后来我与他一起研究了一年的人工智能理论；但当时我还没有收他为徒。 我知道他在国家级数学和计算奥林匹克竞赛中比赛，这足以引起我的注意；但我还不知道他是否可以学会思考人工智能。
我曾问过马塞洛，让他表达关于人工智能会发现如何解决魔方的问题的想法。 不是以预先编程的方式，那样的话太平凡了，而是人工智能自身如何发现魔方的规则，并推理出如何利用它们。 人工智能将如何自己发明“操作(operator)”或“操作组合（macro）”的概念？这是解决魔方的关键。
在讨论的某个时刻，马塞洛说：“嗯，我认为AI需要复杂度才能执行X，需要复杂度来执行Y —”
我说：“别说‘复杂性’。”
马塞洛问：“为什么？”
我说：“复杂度本身绝不应成为目标。 你可能需要使用特定算法，这些算法增加了一定复杂性，但是为了复杂性而增加的复杂性只会使事情变得更难。” （我在想那些人，那些提倡只要互联网“足够复杂”，就会“觉醒”变成AI的人。）
马塞洛说：“但是要做到这一点必须要有一定的复杂性。”
我短暂地闭上了眼睛，试图思考如何用语言来解释这一切。 对我而言，在讨论人工智能时，说“复杂性”简直就像是在舞会中踏出错误的舞步。 没有人能以足够快的速度用语言来思考他们意识流的每一句话，因为那将需要无限递归。 我们用言语思考，但是我们的意识流位于语言层次之下，是过去洞察力和残酷经历的遗留所驯化导致的……
我说：“你读过《技术说明的技术说明》吗？”
“读过。” 马塞洛说。
“好，”我说：“ ‘复杂性’ 并不能集中你的概率。”
“哦，”马塞洛说，“就像‘涌现’。 嗯……现在，我必须考虑X怎么样才能真的出现……”
就是在那一刻，我对自己想到，“也许这个人可以教。”
复杂性不是一个无用的概念，它具有数学上的定义，例如柯氏复杂性[1]柯氏复杂性：在算法信息论中，一个对象（比如一段文字）的柯氏复杂性是衡量描述这个对象所需要的信息量的一个尺度。由安德雷·柯尔莫哥洛夫于1963年发现。详见：https://zh.wikipedia.org/wiki/%E6%9F%AF%E6%B0%8F%E5%A4%8D%E6%9D%82%E6%80%A7和VC复杂度[2]VC复杂度：在VC理论中对模型复杂度的一种衡量方式，由前苏联/俄罗斯统计学家兼数学家弗拉基米尔·万普尼克与亚历克塞·泽范兰杰斯提出。 详见：https://zh.wikipedia.org/wiki/VC%E7%BB%B4。 即使是从直观的角度来看，复杂性通常也值得考虑——你必须判断假设的复杂性，并在有证据支持的情况下确定其是否“过于复杂”，或者着眼于设计并使其更简单。
但是概念本身并不是有用的或无用的，而是要看用法正确与否。 马塞洛尝试使用这一概念的时候，他实际上在尝试不付任何代价去解释。至少在我的领域，这是一个极其普遍的失误。 你可以参加关于人工通用智能的讨论，并发现人们一遍又一遍地重复同一件事情——不断跳过他们不了解的事情，并且对此毫无知觉。
转瞬之间就会发生：将一个不可控的因果节点放在一个神秘事物后面，这个因果节点听起来像是一种解释，但不是。 错误发生在语言层次以下。 它不是特殊的性格缺陷引起的； 这是人类默认的思维方式，也是自古以来人类的思维方式。
你必须避免跳过神秘的部分，必须停留在那里，直面它。 有许多词语可以跳过神秘，其中有些词在其他情况下使用是合法的，例如“复杂性”。 但是，根本的错误是跳过，忽略其背后的因果节点。 跳过不是一个想法，而是一个微思考。 你必须密切注意才能不迷失。 训练自己避免跳过是本能问题，而不是语言推理。 你必须感觉到地图的哪些部分仍然空白，更重要的是，要注意这种感觉。
我觉得在学术界，要彻底解决问题的压力十分巨大，因为只有这样才能呈现出外观完整的论文。与明显不完整的地图（标签上写着“我不知道这部分的工作原理”或“然后发生奇迹”）相比，一个看似完整的模型，其中包括一些“涌现现象”，能让你获得更多荣誉。期刊甚至可能不会接受前者的论文，因为谁知道这些未知的步骤其实才是发生所有有趣的事情的地方？而且没错，有时就是会发生地图的所有非魔法部分全都不重要的情况。这就是你有时需要为之付出的代价：进入尚未绘制地图的区域，并试图逐步解决问题。然而，正因如此，了解哪一部分还没有完成就显得尤为重要。通常，人们根本不敢进入没有地图的区域，因为他们非常担心这是浪费时间。
而且，如果你正在一家革命性的AI初创公司工作，彻底清除问题的压力会更大。否则，你将不得不承认自己还不知道如何构建人工智能，然后你目前的人生计划便会应声在耳边崩溃。但是也许我过度解释了，因为跳过是人类的默认思考模式。如果你想查找示例，只需看着人们讨论宗教、哲学或灵性或任何他们没有专业培训过的科学。
我和马塞洛在人工智能的工作中建立了约定：当遇到某些我们不了解的事物时，通常会说“魔法”（例如，“ X魔法般地作用于Y”），以提醒自己这是一个未解决的问题，我们理解中的缺口。说“魔法”比“复杂度”或“涌现”要好得多；后面的单词会产生一种理解上的错觉。请明智地说“魔法”，并留一个占位符，以提醒你以后需要做的工作。
翻译：yzhaobk
校对：潜艇
注释
| ↑1 | 柯氏复杂性：在算法信息论中，一个对象（比如一段文字）的柯氏复杂性是衡量描述这个对象所需要的信息量的一个尺度。由安德雷·柯尔莫哥洛夫于1963年发现。详见：https://zh.wikipedia.org/wiki/%E6%9F%AF%E6%B0%8F%E5%A4%8D%E6%9D%82%E6%80%A7 |
|---|---|
| ↑2 | VC复杂度：在VC理论中对模型复杂度的一种衡量方式，由前苏联/俄罗斯统计学家兼数学家弗拉基米尔·万普尼克与亚历克塞·泽范兰杰斯提出。 详见：https://zh.wikipedia.org/wiki/VC%E7%BB%B4 |