《理性：从人工智能到僵尸–地图与真实的土地– 第四部分：神秘的答案 –不要说“复杂性”
很久很久以前…
这是我第一次见到马塞洛时的故事，后来我与他一起研究了一年的人工智能理论；但当时我还没有收他为徒。 我知道他在国家级数学和计算奥林匹克竞赛中比赛，这足以引起我的注意；但我还不知道他是否可以学会思考人工智能。
我曾问过马塞洛，让他表达关于人工智能会发现如何解决魔方的问题的想法。 不是以预先编程的方式，那样的话太平凡了，而是人工智能自身如何发现魔方的规则，并推理出如何利用它们。 人工智能将如何自己发明“操作(operator)”或“操作组合（macro）”的概念？这是解决魔方的关键。
在讨论的某个时刻...
《理性：从人工智能到僵尸 – 地图与真实的土地 – 第四部分：神秘的答案 – 科学外套
X战警的电影预告片里，有个画外音说：“每个人体内……都有一套遗传密码……可以突变。”显然，突变可以使你获得各种各样的超能力。比如变种人暴风女可以召唤闪电。
亲爱的读者，我求求你想想产生电流所需要的生物结构、免于被电流伤害所需要的生物适应性、以及精准控制闪电所需要的神经环路。如果我们真的观察到任何生物通过一代突变就获得了这些能力，这将彻底否定新达尔文主义的自然选择模型。这将比在前寒武纪发现兔子化石还要糟糕。如果进化理论真的能外延到解释暴风女，那它将能解释一切，而我们都知道那会意味着什么。
X战警的漫画里使用诸如“进化”、“突变”、“遗传密码”之类的术...
《理性：从人工智能到僵尸 – 地图与真实的土地 – 第四部分：神秘的答案 – 猜老师的密码
当我还小的时候，我读了些诸如费曼的《量子电动力学：光和物质的奇妙理论》之类的物理科普书。从中我知道了光是波，声音是波，物质也是波。我九岁的时候对自己的科学读物引以为傲。
在长大些后，我开始读《费曼物理学讲义》。我因此发现了波动方程并如获珍宝。我能看懂这个方程的推导，但回过头去看整个过程，却不能从直觉上一眼看穿。所以接下来的三天时间，我一直在断断续续琢磨这个方程，直到我发现它明显得令人难为情。当我最终明白的时候，我意识到自己一直以来都接受了物理学家信誓凿凿所说的光是波，声音是波，物质也是波，却完全不明了对于...
译注：原文点此）发布于2015年6月2日，为EY的基友Scott Alexander在当时的流行测试图下创作的胡逼即兴短篇。翻译已授权。
《理性：从人工智能到僵尸–地图与真实的土地– 第四部分：神秘的答案 –毫无意义的“涌现”
燃素说和生命力理论的失败是历史上的后见之明。 我敢大胆质疑，列举一些我认为有类似缺陷的新兴理论吗？
我提名涌现涌现现象（emergenceemergent phenomen）——通常定义为对某些系统的研究，这些系统的高级行为是由于许多低级元素的相互作用而产生或“涌现”的。 维基百科：“复杂系统和模式是由相对简单的多种交互作用产生的。”）问题在于，从字面上来看，这种描述适合我们宇宙中夸克之上的任何现象。 想象一下，市场崩盘的时候说 “这不是夸克！”， 这像是一种解释吗？ 不像？ 那任何人都不该说“这是一种涌现现象！”
我抗议的是作为名词的“涌现”，而不是它的动词形式，表示“出现” 或者 “源自”意思的涌现。 说“ X 源自 Y” 没有问题——如果 Y 是特定的，带有内部运动部件的详细模型。 “源于” 是另一个含义完全相同的合法短语：根据广义相对论的特定数学模型，引力“源自”时空的弯曲。 根据量子电动力学的特定模型，化学“源自”原子之间的相互...
《理性：从人工智能到僵尸–地图与真实的土地– 第四部分：神秘的答案 –虚假的因果
对于希腊炼金术士火元素的问题，18世纪的答案是燃素。点燃木头，使其燃烧。橙黄色的“火”到底是什么东西？为什么木头变成了灰烬？对于这两个问题，十八世纪的化学家回答道，“燃素。”
……好吧，这就是他们的答案：“燃素。”
燃素从燃烧的物质中逃逸出来，变成了可见的火焰。随着燃素的逃逸，燃烧的物质失去燃素，变成灰烬——一种“真实的物质”。封闭容器中的火焰熄灭是因为空气中燃素已经饱和，不能容纳更多燃素了。木炭燃烧后留下的残余很少，因为木炭几乎是纯粹的燃素。
当然，没人用燃素理论去预测化学变化的结果。你先看到结果，然后用燃素理论去解...
《理性：从人工智能到僵尸 – 地图与真实的土地 – 第三部分：注意困惑 – 后见之明贬低科学价值
这篇文章主要基于迈尔斯《探究社会心理学》的节选((David G. Meyers, Exploring Social Psychology (New York: McGraw-Hill, 1994), 15–19.))，这些节选本身值得一读。
库伦·墨菲（Cullen Murphy），《大西洋月刊》的编辑，曾说过社会科学里就“没有什么观点或结论不是拾人牙慧……日复一日，社会科学家从象牙塔中走出来，然后日复一日地发现人类的行为就跟预期的差不多”。
当然，这些“预期”都是后见之明。（后见之明偏差：已经知道...
《理性：从人工智能到僵尸 – 地图与真实的土地 – 第三部分：注意困惑 – 证据期望值守恒论
莱德里希·斯皮（Friedrich Spee von Langenfeld），一个听取被宣判女巫忏悔的牧师，在1631年曾写下《罪案中的谨慎》Cautio Criminali）一书((也译作《论审案或对女巫起诉的谨慎性》，原文为拉丁语。在书中，作者公开对“玩弄巫术”的控诉提出异议，并呼吁当局对当时的审判流程进行改革。详见https://en.wikipedia.org/wiki/Friedrich_Spee))；其中，他犀利地描述了宣判被指控女巫的决策树：如果她曾经的生活邪恶不堪，那么她是有罪的；如果她曾经的生活无可指摘，这也是罪证，因为她在尽量表现得品德优秀，以掩饰自己巫婆的身份。在她被关进了监狱后，如果她很害怕，这证明了她的罪恶；如果她毫不害怕，这同样证明了她的罪恶，因为女巫最会假装无辜和虚张声势。或者，当听到对巫术的指控时，她可能会想要逃跑或纹丝不动：如果她跑了，那就证明她有罪；如果她没有，说明魔鬼已经定住了她，让她无法脱身。
斯皮牧师听过许多女巫的忏悔，因而得以观察到指控树的每一个分支：不论被指控的女巫说什么或者做什么，都能成为指控她的证据。在任何个例中，你只会听到两难困境中的一个分支。这就是为什么科...
《理性：从人工智能到僵尸–地图与真实的土地– 第三部分：注意困惑 –没有证据表明=证据表明没有
摘自罗宾·道斯的《不确定世界的理性选择》((Robyn M. Dawes, Rational Choice in An Uncertain World, 1st ed., ed. Jerome Kagan (San Diego, CA: Harcourt Brace Jovanovich, 1988), 250-251.))
事实上，这种后见之明、将证据套到假设中的做法，曾出现在美国历史中最令人痛苦的篇章：二战初期对日裔美国人的囚禁。1942年2月21日，加州州长厄尔·沃伦在旧金山国会听证会前作证时...
《理性：从人工智能到僵尸 – 地图与真实的土地 – 第三部分：注意困惑 – 奥卡姆剃刀
一种解释越复杂，仅仅在信念空间中找到它就需要越多的证据。（在传统理性中，它常被表述得颇有歧义，“一个命题越复杂，就需要越多的证据去证明。”）我们如何衡量一种解释的复杂度？又如何决定需要多少证据？
奥卡姆剃刀原理常常被表述为“符合事实的最简单的解释”。罗伯特·海因莱因((罗伯特·海因莱因：美国硬科幻小说作家，人称“科幻先生”。详见https://zh.wikipedia.org/wiki/%E7%BE%85%E4%BC%AF%E7%89%B9%C2%B7%E6%B5%B7%E8%90%8A%E5%9B%A0))曾回应说，最简单的解释是“街上那个人是女巫；是她干的”。
通过观察可以发现，句子的长度并不是衡量“复杂度”的好方法。仅仅“不禁止某事发生”的拟合是不充分的。
为什么一个句子的长度不足以衡量其复杂度？因为当你大声说出一句话的时候，你在使用听众共...
