理性:从人工智能到僵尸

不要说“复杂性”

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第四部分:神秘的答案 –不要说“复杂性”

很久很久以前…

这是我第一次见到马塞洛时的故事,后来我与他一起研究了一年的人工智能理论;但当时我还没有收他为徒。 我知道他在国家级数学和计算奥林匹克竞赛中比赛,这足以引起我的注意;但我还不知道他是否可以学会思考人工智能。

我曾问过马塞洛,让他表达关于人工智能会发现如何解决魔方的问题的想法。 不是以预先编程的方式,那样的话太平凡了,而是人工智能自身如何发现魔方的规则,并推理出如何利用它们。 人工智能将如何自己发明“操作(operator)”或“操作组合(macro)”的概念?这是解决魔方的关键。

在讨论的某个时刻...

科学外套

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 科学外套

X战警的电影预告片里,有个画外音说:“每个人体内……都有一套遗传密码……可以突变。”显然,突变可以使你获得各种各样的超能力。比如变种人暴风女可以召唤闪电。

亲爱的读者,我求求你想想产生电流所需要的生物结构、免于被电流伤害所需要的生物适应性、以及精准控制闪电所需要的神经环路。如果我们真的观察到任何生物通过一代突变就获得了这些能力,这将彻底否定新达尔文主义的自然选择模型。这将比在前寒武纪发现兔子化石还要糟糕。如果进化理论真的能外延到解释暴风女,那它将能解释一切,而我们都知道那会意味着什么。

X战警的漫画里使用诸如“进化”、“突变”、“遗传密码”之类的术...

猜老师的密码

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 猜老师的密码

当我还小的时候,我读了些诸如费曼的《量子电动力学:光和物质的奇妙理论》之类的物理科普书。从中我知道了光是波,声音是波,物质也是波。我九岁的时候对自己的科学读物引以为傲。

在长大些后,我开始读《费曼物理学讲义》。我因此发现了波动方程并如获珍宝。我能看懂这个方程的推导,但回过头去看整个过程,却不能从直觉上一眼看穿。所以接下来的三天时间,我一直在断断续续琢磨这个方程,直到我发现它明显得令人难为情。当我最终明白的时候,我意识到自己一直以来都接受了物理学家信誓凿凿所说的光是波,声音是波,物质也是波,却完全不明了对于...

毫无意义的“涌现”

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第四部分:神秘的答案 –毫无意义的“涌现”

燃素说生命力理论的失败是历史上的后见之明。 我敢大胆质疑,列举一些我认为有类似缺陷的新兴理论吗?

我提名涌现涌现现象(emergenceemergent phenomen)——通常定义为对某些系统的研究,这些系统的高级行为是由于许多低级元素的相互作用而产生或“涌现”的。 维基百科:“复杂系统和模式是由相对简单的多种交互作用产生的。”)问题在于,从字面上来看,这种描述适合我们宇宙中夸克之上的任何现象。 想象一下,市场崩盘的时候说 “这不是夸克!”, 这像是一种解释吗? 不像? 那任何人都不该说“这是一种涌现现象!”

我抗议的是作为名词的“涌现”,而不是它的动词形式,表示“出现” 或者 “源自”意思的涌现。 说“ X 源自 Y” 没有问题——如果 Y 是特定的,带有内部运动部件的详细模型。 “源于” 是另一个含义完全相同的合法短语:根据广义相对论的特定数学模型,引力“源自”时空的弯曲。 根据量子电动力学的特定模型,化学“源自”原子之间的相互...

虚假的因果

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第四部分:神秘的答案 –虚假的因果

对于希腊炼金术士火元素的问题,18世纪的答案是燃素。点燃木头,使其燃烧。橙黄色的“火”到底是什么东西?为什么木头变成了灰烬?对于这两个问题,十八世纪的化学家回答道,“燃素。”

……好吧,这就是他们的答案:“燃素。”

燃素从燃烧的物质中逃逸出来,变成了可见的火焰。随着燃素的逃逸,燃烧的物质失去燃素,变成灰烬——一种“真实的物质”。封闭容器中的火焰熄灭是因为空气中燃素已经饱和,不能容纳更多燃素了。木炭燃烧后留下的残余很少,因为木炭几乎是纯粹的燃素。

当然,没人用燃素理论去预测化学变化的结果。你先看到结果,然后用燃素理论去解...

后见之明贬低科学价值

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第三部分:注意困惑 – 后见之明贬低科学价值

这篇文章主要基于迈尔斯《探究社会心理学》的节选((David G. Meyers, Exploring Social Psychology (New York: McGraw-Hill, 1994), 15–19.)),这些节选本身值得一读。

库伦·墨菲(Cullen Murphy),《大西洋月刊》的编辑,曾说过社会科学里就“没有什么观点或结论不是拾人牙慧……日复一日,社会科学家从象牙塔中走出来,然后日复一日地发现人类的行为就跟预期的差不多”。

当然,这些“预期”都是后见之明。(后见之明偏差:已经知道...

证据期望值守恒论

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第三部分:注意困惑 – 证据期望值守恒论

莱德里希·斯皮(Friedrich Spee von Langenfeld),一个听取被宣判女巫忏悔的牧师,在1631年曾写下《罪案中的谨慎》Cautio Criminali)一书((也译作《论审案或对女巫起诉的谨慎性》,原文为拉丁语。在书中,作者公开对“玩弄巫术”的控诉提出异议,并呼吁当局对当时的审判流程进行改革。详见https://en.wikipedia.org/wiki/Friedrich_Spee));其中,他犀利地描述了宣判被指控女巫的决策树:如果她曾经的生活邪恶不堪,那么她是有罪的;如果她曾经的生活无可指摘,这也是罪证,因为她在尽量表现得品德优秀,以掩饰自己巫婆的身份。在她被关进了监狱后,如果她很害怕,这证明了她的罪恶;如果她毫不害怕,这同样证明了她的罪恶,因为女巫最会假装无辜和虚张声势。或者,当听到对巫术的指控时,她可能会想要逃跑或纹丝不动:如果她跑了,那就证明她有罪;如果她没有,说明魔鬼已经定住了她,让她无法脱身。

斯皮牧师听过许多女巫的忏悔,因而得以观察到指控树的每一个分支:不论被指控的女巫说什么或者做什么,都能成为指控她的证据。在任何个例中,你只会听到两难困境中的一个分支。这就是为什么科...

没有证据表明=证据表明没有

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第三部分:注意困惑 –没有证据表明=证据表明没有

摘自罗宾·道斯的《不确定世界的理性选择》((Robyn M. Dawes, Rational Choice in An Uncertain World, 1st ed., ed. Jerome Kagan (San Diego, CA: Harcourt Brace Jovanovich, 1988), 250-251.))

事实上,这种后见之明、将证据套到假设中的做法,曾出现在美国历史中最令人痛苦的篇章:二战初期对日裔美国人的囚禁。1942年2月21日,加州州长厄尔·沃伦在旧金山国会听证会前作证时...

奥卡姆剃刀

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第三部分:注意困惑 – 奥卡姆剃刀

一种解释越复杂,仅仅在信念空间中找到它就需要越多的证据。(在传统理性中,它常被表述得颇有歧义,“一个命题越复杂,就需要越多的证据去证明。”)我们如何衡量一种解释的复杂度?又如何决定需要多少证据?

奥卡姆剃刀原理常常被表述为“符合事实的最简单的解释”。罗伯特·海因莱因((罗伯特·海因莱因:美国硬科幻小说作家,人称“科幻先生”。详见https://zh.wikipedia.org/wiki/%E7%BE%85%E4%BC%AF%E7%89%B9%C2%B7%E6%B5%B7%E8%90%8A%E5%9B%A0))曾回应说,最简单的解释是“街上那个人是女巫;是她干的”。

通过观察可以发现,句子的长度并不是衡量“复杂度”的好方法。仅仅“不禁止某事发生”的拟合是不充分的。

为什么一个句子的长度不足以衡量其复杂度?因为当你大声说出一句话的时候,你在使用听众共...

爱因斯坦的傲慢

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第三部分:注意困惑 –爱因斯坦的傲慢

1919年,阿瑟·爱丁顿爵士率领探险队前往巴西和普林西比岛,目的是观测日食,从而验证爱因斯坦广义相对论。一位记者问爱因斯坦,如果爱丁顿的观测结果与他的理论不符,他会怎么做。爱因斯坦的回答十分有名:“那我会为上帝感到遗憾。理论是正确的。”

这似乎是一种相当不明智的说法,公然无视实验至高无上的传统理性。爱因斯坦似乎过于傲慢自大,拒绝履行科学家的义务,不肯屈服于自然的答案。谁能在实验测试之前,就知道理论是否正确呢

当然,最后事实证明爱因斯坦的确是对的。我尽量避免在别人正确的时候批评他们。如果他们真的值得批评,等他们犯错...