理性:从人工智能到僵尸

我盲目而鲁莽的青春

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 我盲目而鲁莽的青春

俗话说,大人告诉孩子们不要去做的事情,他们自己全都做过,这就是他们知道为什么不要去做。

很久之前,在那遥远得难以想象的过去,我还是一个虔诚的传统理性主义者,认为自己拥有相应的能力,然而我那时候了解的并不是贝叶斯理性主义。当小埃利泽面对一个貌似神秘的问题时,传统理性的规则并没有阻拦他产生一个神秘的答案。这,绝对是,我生命中曾犯过的最尴尬的错误,至今我仍不敢回想。

我对神秘问题的神秘答案是什么?我不讲这个,因为它是个很长很复杂的故事。那时候我还年轻,是个纯粹的传统理性主义者,还不知道特维斯基和卡尼曼的教诲...

合乎法则的不确定性

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第四部分:神秘的答案 – 合乎法则的不确定性

罗宾·道斯在《不确定世界中的理性选择》一书里,描述了特沃斯基的一个实验:((Dawes, Rational Choice in An Uncertain World; Yaacov Schul and Ruth Mayo, “Searching for Certainty in an Uncertain World: The Difficulty of Giving Up the Experiential for the Rational Mode of Thinking,” Journal of Be...

阳性偏差:望向黑暗

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第四部分:神秘的答案 – 阳性偏差:望向黑暗

课堂上,我在黑板写下三个数字:2-4-6。“我心里有个规律,”我说,“某类三个数字的序列遵循这一规律,数列2-4-6恰巧符合这个规律。你们每个人的桌子上都有一叠卡片。在卡片上写下一个三个数字的数列,如果这个数列符合规律我就会标‘是’,反之我会标‘否’。之后你们可以写下另一组数字,继续问我它是否符合规律,依此类推。直到你确信你已经知道规律的时候,在卡片上写下这个规律。你想试多少数列都可以”。

以下是一个学生猜测数列的记录

4-6-2 否4-6-8 是10-12-14 是

这时候这个学生就写下了他猜测的规律。你...

不要说“复杂性”

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第四部分:神秘的答案 –不要说“复杂性”

很久很久以前…

这是我第一次见到马塞洛时的故事,后来我与他一起研究了一年的人工智能理论;但当时我还没有收他为徒。 我知道他在国家级数学和计算奥林匹克竞赛中比赛,这足以引起我的注意;但我还不知道他是否可以学会思考人工智能。

我曾问过马塞洛,让他表达关于人工智能会发现如何解决魔方的问题的想法。 不是以预先编程的方式,那样的话太平凡了,而是人工智能自身如何发现魔方的规则,并推理出如何利用它们。 人工智能将如何自己发明“操作(operator)”或“操作组合(macro)”的概念?这是解决魔方的关键。

在讨论的某个时刻...

科学外套

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 科学外套

X战警的电影预告片里,有个画外音说:“每个人体内……都有一套遗传密码……可以突变。”显然,突变可以使你获得各种各样的超能力。比如变种人暴风女可以召唤闪电。

亲爱的读者,我求求你想想产生电流所需要的生物结构、免于被电流伤害所需要的生物适应性、以及精准控制闪电所需要的神经环路。如果我们真的观察到任何生物通过一代突变就获得了这些能力,这将彻底否定新达尔文主义的自然选择模型。这将比在前寒武纪发现兔子化石还要糟糕。如果进化理论真的能外延到解释暴风女,那它将能解释一切,而我们都知道那会意味着什么。

X战警的漫画里使用诸如“进化”、“突变”、“遗传密码”之类的术...

猜老师的密码

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 猜老师的密码

当我还小的时候,我读了些诸如费曼的《量子电动力学:光和物质的奇妙理论》之类的物理科普书。从中我知道了光是波,声音是波,物质也是波。我九岁的时候对自己的科学读物引以为傲。

在长大些后,我开始读《费曼物理学讲义》。我因此发现了波动方程并如获珍宝。我能看懂这个方程的推导,但回过头去看整个过程,却不能从直觉上一眼看穿。所以接下来的三天时间,我一直在断断续续琢磨这个方程,直到我发现它明显得令人难为情。当我最终明白的时候,我意识到自己一直以来都接受了物理学家信誓凿凿所说的光是波,声音是波,物质也是波,却完全不明了对于...

毫无意义的“涌现”

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第四部分:神秘的答案 –毫无意义的“涌现”

燃素说生命力理论的失败是历史上的后见之明。 我敢大胆质疑,列举一些我认为有类似缺陷的新兴理论吗?

我提名涌现涌现现象(emergenceemergent phenomen)——通常定义为对某些系统的研究,这些系统的高级行为是由于许多低级元素的相互作用而产生或“涌现”的。 维基百科:“复杂系统和模式是由相对简单的多种交互作用产生的。”)问题在于,从字面上来看,这种描述适合我们宇宙中夸克之上的任何现象。 想象一下,市场崩盘的时候说 “这不是夸克!”, 这像是一种解释吗? 不像? 那任何人都不该说“这是一种涌现现象!”

我抗议的是作为名词的“涌现”,而不是它的动词形式,表示“出现” 或者 “源自”意思的涌现。 说“ X 源自 Y” 没有问题——如果 Y 是特定的,带有内部运动部件的详细模型。 “源于” 是另一个含义完全相同的合法短语:根据广义相对论的特定数学模型,引力“源自”时空的弯曲。 根据量子电动力学的特定模型,化学“源自”原子之间的相互...

虚假的因果

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第四部分:神秘的答案 –虚假的因果

对于希腊炼金术士火元素的问题,18世纪的答案是燃素。点燃木头,使其燃烧。橙黄色的“火”到底是什么东西?为什么木头变成了灰烬?对于这两个问题,十八世纪的化学家回答道,“燃素。”

……好吧,这就是他们的答案:“燃素。”

燃素从燃烧的物质中逃逸出来,变成了可见的火焰。随着燃素的逃逸,燃烧的物质失去燃素,变成灰烬——一种“真实的物质”。封闭容器中的火焰熄灭是因为空气中燃素已经饱和,不能容纳更多燃素了。木炭燃烧后留下的残余很少,因为木炭几乎是纯粹的燃素。

当然,没人用燃素理论去预测化学变化的结果。你先看到结果,然后用燃素理论去解...

后见之明贬低科学价值

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第三部分:注意困惑 –后见之明贬低科学价值

这篇文章主要基于迈尔斯《探究社会心理学》的节选((David G. Meyers, Exploring Social Psychology (New York: McGraw-Hill, 1994), 15–19.)),这些节选本身值得一读。

库伦·墨菲(Cullen Murphy),《大西洋月刊》的编辑,曾说过社会科学里就“没有什么观点或结论不是拾人牙慧……日复一日,社会科学家从象牙塔中走出来,然后日复一日地发现人类的行为就跟预期的差不多”。

当然,这些“预期”都是后见之明。(后见之明偏差:已经知道答案的个...

证据期望值守恒论

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第三部分:注意困惑 – 证据期望值守恒论

莱德里希·斯皮(Friedrich Spee von Langenfeld),一个听取被宣判女巫忏悔的牧师,在1631年曾写下《罪案中的谨慎》Cautio Criminali)一书((也译作《论审案或对女巫起诉的谨慎性》,原文为拉丁语。在书中,作者公开对“玩弄巫术”的控诉提出异议,并呼吁当局对当时的审判流程进行改革。详见https://en.wikipedia.org/wiki/Friedrich_Spee));其中,他犀利地描述了宣判被指控女巫的决策树:如果她曾经的生活邪恶不堪,那么她是有罪的;如果她曾经的生活无可指摘,这也是罪证,因为她在尽量表现得品德优秀,以掩饰自己巫婆的身份。在她被关进了监狱后,如果她很害怕,这证明了她的罪恶;如果她毫不害怕,这同样证明了她的罪恶,因为女巫最会假装无辜和虚张声势。或者,当听到对巫术的指控时,她可能会想要逃跑或纹丝不动:如果她跑了,那就证明她有罪;如果她没有,说明魔鬼已经定住了她,让她无法脱身。

斯皮牧师听过许多女巫的忏悔,因而得以观察到指控树的每一个分支:不论被指控的女巫说什么或者做什么,都能成为指控她的证据。在任何个例中,你只会听到两难困境中的一个分支。这就是为什么科...