哈利波特与理性之道

授权和转载须知

《理性：从人工智能到僵尸 – 地图与真实的土地 – 第三部分：注意困惑 – 证据期望值守恒论

莱德里希·斯皮（Friedrich Spee von Langenfeld），一个听取被宣判女巫忏悔的牧师，在1631年曾写下《罪案中的谨慎》Cautio Criminali）一书((也译作《论审案或对女巫起诉的谨慎性》，原文为拉丁语。在书中，作者公开对“玩弄巫术”的控诉提出异议，并呼吁当局对当时的审判流程进行改革。详见https://en.wikipedia.org/wiki/Friedrich_Spee))；其中，他犀利地描述了宣判被指控女巫的决策树：如果她曾经的生活邪恶不堪，那么她是有罪的；如果她曾经的生活无可指摘，这也是罪证，因为她在尽量表现得品德优秀，以掩饰自己巫婆的身份。在她被关进了监狱后，如果她很害怕，这证明了她的罪恶；如果她毫不害怕，这同样证明了她的罪恶，因为女巫最会假装无辜和虚张声势。或者，当听到对巫术的指控时，她可能会想要逃跑或纹丝不动：如果她跑了，那就证明她有罪；如果她没有，说明魔鬼已经定住了她，让她无法脱身。

斯皮牧师听过许多女巫的忏悔，因而得以观察到指控树的每一个分支：不论被指控的女巫说什么或者做什么，都能成为指控她的证据。在任何个例中，你只会听到两难困境中的一个分支。这就是为什么科...

授权和转载须知

《理性：从人工智能到僵尸–地图与真实的土地– 第三部分：注意困惑 –没有证据表明=证据表明没有

摘自罗宾·道斯的《不确定世界的理性选择》((Robyn M. Dawes, Rational Choice in An Uncertain World, 1st ed., ed. Jerome Kagan (San Diego, CA: Harcourt Brace Jovanovich, 1988), 250-251.))

事实上，这种后见之明、将证据套到假设中的做法，曾出现在美国历史中最令人痛苦的篇章：二战初期对日裔美国人的囚禁。1942年2月21日，加州州长厄尔·沃伦在旧金山国会听证会前作证时...

授权和转载须知

《理性：从人工智能到僵尸 – 地图与真实的土地 – 第三部分：注意困惑 – 奥卡姆剃刀

一种解释越复杂，仅仅在信念空间中找到它就需要越多的证据。（在传统理性中，它常被表述得颇有歧义，“一个命题越复杂，就需要越多的证据去证明。”）我们如何衡量一种解释的复杂度？又如何决定需要多少证据？

奥卡姆剃刀原理常常被表述为“符合事实的最简单的解释”。罗伯特·海因莱因((罗伯特·海因莱因：美国硬科幻小说作家，人称“科幻先生”。详见https://zh.wikipedia.org/wiki/%E7%BE%85%E4%BC%AF%E7%89%B9%C2%B7%E6%B5%B7%E8%90%8A%E5%9B%A0))曾回应说，最简单的解释是“街上那个人是女巫；是她干的”。

通过观察可以发现，句子的长度并不是衡量“复杂度”的好方法。仅仅“不禁止某事发生”的拟合是不充分的。

为什么一个句子的长度不足以衡量其复杂度？因为当你大声说出一句话的时候，你在使用听众共...

授权和转载须知

《理性：从人工智能到僵尸–地图与真实的土地– 第三部分：注意困惑 –爱因斯坦的傲慢

1919年，阿瑟·爱丁顿爵士率领探险队前往巴西和普林西比岛，目的是观测日食，从而验证爱因斯坦广义相对论。一位记者问爱因斯坦，如果爱丁顿的观测结果与他的理论不符，他会怎么做。爱因斯坦的回答十分有名：“那我会为上帝感到遗憾。理论是正确的。”

这似乎是一种相当不明智的说法，公然无视实验至高无上的传统理性。爱因斯坦似乎过于傲慢自大，拒绝履行科学家的义务，不肯屈服于自然的答案。谁能在实验测试之前，就知道理论是否正确呢

当然，最后事实证明爱因斯坦的确是对的。我尽量避免在别人正确的时候批评他们。如果他们真的值得批评，等他们犯错...

授权和转载须知

《理性：从人工智能到僵尸–地图与真实的土地– 第三部分：注意困惑 作为理性主义者的力量

这是我在IRC聊天室中发生的事情；那是很久很久之前，那时的我还在IRC聊天室中闲逛。时间模糊了记忆，我的文字可能不太准确。

在IRC聊天室中，有人说他的一个朋友需要医疗建议。他的朋友说他一直出现急性胸痛的症状，所以他叫了一辆救护车，救护车来之后，医护人员却告诉他没事就走了，现在他胸痛越来越严重了，要怎么办？

这个故事让我感到困惑。我记得曾读过一篇关于纽约流浪汉的报道：他们叫救护车只是想要被带到一个暖和点的地方，但是医护人员总是不得不将他们带到急诊室，即便同样的事情已经发生过26次。因为如果不这样做，救护车公司...

授权和转载须知

《理性：从人工智能到僵尸–地图与真实的土地– 第三部分：注意困惑 –支持一个信念需要多少证据？

我曾将证据定义为“与一个信念有因果纠缠关系的事件。”将纠缠定义为“随目标状态的变化而变化”。那么我们需要多少纠缠——多少证据——来支持一个信念呢？

让我们从一个简单的数学问题开始：中彩票有多难？假设有70个球，拿走后不放回，6个号码相同即中奖。那么共有131,115,985（₇）种可能的组合，因此任意一张彩票会有1/131,115,985（0.0000007%）的可能性中奖。如果想要中奖，你就需要足够强的证据来支持131,115,985种组合中的某一种。

假设你可以做些测试，从概率上来区分某个组合...

授权和转载须知

《理性：从人工智能到僵尸 – 地图与真实的土地 – 第二部分：虚假信仰 – 掌声提示光

在2007年的奇点峰会上，一位演讲者呼吁民主、多国合作发展的人工智能。因此我问他

假如有一群民主共和国联合起来开发人工智能，这个过程中夹杂了很多政治活动——一些利益群体有不同寻常的巨大影响力，而另一些则没有被公平对待——换句话说，就好像现代民主的产物一样。又或者，假设一群反叛的书呆子在他们的地下室里开发了个人工智能，并用它拉拢世界上的每个人——给没有手机的人发手机——不管大众说什么，都满足他们。你觉得这两种哪个更“民主”，哪种更安全？

我想知道他信仰的到底是民主政治的实效，还是选举的道德正确。但那个演讲者却回...

授权和转载须知

《理性：从人工智能到僵尸 – 地图与真实的土地 – 第二部分：虚假信仰 – 信念外套

至此，我们已经甄别了控制预期，对信念的信念，伪称信念和异教欢呼。其中，控制预期的信念是“适当的信念”，其他的属于“不适当的信念”。适当的信念可以是错误的或者非理性的，比如有人虔诚期待祷告会治好孩子的病。但不适当的信念可以说“根本就不是信念”。

还有一种不适当的信念是群体认同，也就是归属感。罗宾·汉森有个绝妙的比喻，说这种信念就像穿着特殊服饰，比如牧师法衣或者犹太无边便帽；因此，我把这种信念称为“信念外套”。

以人本现实主义心理学的观点来看，那些驾驶飞机撞向世贸大楼的穆斯林，无疑将自己视为捍卫真理、正义和伊斯兰教义的英雄；他们是在将世界从电影《独立日》里的外星怪物手中拯救出来。但只有毫无人生经验的书呆子才会在阿拉巴马州的酒吧里公开讲出这个观点。这不是美国人的说辞。美国人要说恐怖分子“憎恨我们的自由”，用飞机撞大楼是“懦夫的行为”。就算是为了精准描述敌人如何看待这个世界的方式，“英雄般的自我牺牲”和“自杀式炸弹袭击”也不能出现在同一句话里。自杀式炸弹袭击者的勇气和利他主义这种说法正是敌人的“外套”——这很明显，因为敌人就是这样说的。自杀式炸弹袭击者的懦弱和反社会性则是美国人的“外套”。你甚至不能打双引号，来谈论敌人如何看待这个世界；就像你不能在万圣节打扮成纳粹一样。

信念外套或许能解释为什么人们可以对不适当的信念如此热情。我怀疑仅仅只有对信念的信念”，“伪称信念”是不能创造真诚、深刻、强大的情感的。虽然我坦白自己并不是这方面的专家，但是我感觉：那些不再期待自己所信仰的宗教是真理的人，会竭尽全力说服自己他们依旧充满激情，而这种绝望会被误认为激情。但这已经不同于他们儿时心中的火焰了。

另一方面，人们很容易真心诚意，充满激情，出于本能地归属于群体为他们最爱的球队喝彩。（这是“共和党 vs. 民主党”诈骗的基础，也是其他国家错误的两难困境的来源，不过这是另一个话题了。）对于一个群体的认同感是非常强烈的感情力量，人们可以为此奋战至死。一旦人们认同了一个群体，他们就会满怀归属感和热情地披上这个群体的信念外套。

翻译：yzhaob校对：糖颗颗

授权和转载须知

《理性：从人工智能到僵尸 – 地图与真实的土地 – 第二部分：虚假信仰 – 伪称信念与异教欢呼

我曾参加过一个讨论组，讨论“科学和宗教能否相容”。当时有个女人，一个异教徒，喋喋不休地讲地球的诞生是因为一头远古深渊中出生的巨型奶牛舔了最早的神灵，给予了他生命，而神灵的后代杀了远古巨人，并用他的尸体创造了地球......她的神话很长，细节丰富，甚至比地球是立在巨龟背上的说法更加荒诞，而且很明显，凭她的科学知识她肯定知道这一点。

我还是觉得我找不到合适的语言来描述在这个女人讲话时我的感觉。她说的时候带着......骄傲？自我满足？一种做作的自我炫耀？

那个女人像是永远也讲不完她的创世神话，但其实很可能只...

授权和转载须知

《理性：从人工智能到僵尸 – 地图与真实的土地 – 第二部分：虚假信仰 – 宗教声称自己不可证伪

我所知的最早的科学实验记录是以利亚和巴尔祭司((出自《圣经》。当时以色列王国进入南北分裂时期，分为以色列王国及南犹大。以利亚按照神的旨意，警告亚哈王，如果继续崇拜偶像，神将审判以色列，让以色列经历旱灾。三年旱灾后，以利亚再次与亚哈王见面，并约好在迦密山，透过献燔祭，确认哪边敬拜的神才是真神。结果以利亚的祭坛兴起降火的神迹，让所有人不得不承认"耶和华才是真神!"并解除了三年旱灾的窘境。详见https://zh.wikipedia.org/wiki/%E4%BB%A5%E5%88%A9%E4%BA%9E))的故事。这挺讽刺。

以色列人民在信奉耶和华与巴尔之间犹豫不决，于是以利亚宣布，他要做个试验来解决争议——在那个时代，这可是个新颖的...