Tag Archives: AI2ZB

语义停止信号

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 语义停止信号》

孩子问:

Q: 石头是怎么来的?
A:在村子的中心,从石块上凿下来的。

Q:那石块是哪里来的呢?
A:大概是从山上滚下来,立在我们村子里的。

Q:那山是从哪里来的呢?
A:和所有的石头一样:是原始巨人伊米尔的骨。

Q:那原始巨人伊米尔是哪里来的呢?
A:从金伦加鸿沟而来。

Q:从金伦加鸿沟是哪里来的呢?
A: 永远不要再问这个问题。[1]伊米尔(Ymir),金伦加鸿沟(Ginnungagap)均出自北欧神话。

解释/崇拜/忽略?

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 解释/崇拜/忽略?》

当我们的部落在草原上徘徊,寻找果树和猎物时,时不时地,雨水从天而降。 

“为什么有时水从天上掉下来?” 我问我们部落里的大胡子智者。 

这个问题他以前从未想过,他想了一会儿说:“天空之灵不时地战斗,当他们战斗时,他们的血液从天空中滴下。”

“天空之灵来自哪里?” 我问。 

他压低声音, “从以前开始。 从很久很久以前开始。”

你不知道为什么会下雨的时候,有几种选择。 首先,根本不问为什么——不深究这个问题,或者一开始就根本不考虑这个问题。 这是”忽略”指令,…

让历史为你所用

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 让历史为你所用》

有一种思维习惯,我称之为“根据虚构证据进行归纳的逻辑谬误”。例如,那些在人工智能的新闻里谈论《终结者》电影的记者,通常并不会将《终结者》当作预言或确凿事实。但这部电影会被想起(或者说可获得),仿佛它是一桩例证式的历史事件那样。仿佛那个记者曾见过它在其他某个星球上发生过,所以它也很可能会在地球上发生。更多相关内容请阅读第七部分,《潜在影响全球危险判断的认知偏差》

还有一种错误,与归纳虚构证据正相反:不能被历史证据充分打动。归纳虚拟证据的问题在于,它是虚构的——它从未真正发生过。它并不源于我们真实…

未能从历史中吸取教训

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 未能从历史中吸取教训》

很久以前,在我野蛮鲁莽的青春岁月,在我还不知道贝叶斯之道时,我对一个看似神秘的问题给出了一个神秘的答案。许多挫败接踵而来,但其中一个错误显得尤为关键:年轻的我没有意识到,解决一个谜题就该让它变得不那么令人迷惑。我曾试图解释一个神秘现象对我来说意味着给它找到一个起因,将它拟合到一个完整的现实模型中。如果那就是现象的本源,为什么它会让这个现象不那么神秘呢?我曾试图解释这个神秘现象,而不是(用某种不可能的魔力)将它翻译成一种寻常的现象,一种在一开始甚至不会需要非寻常解释的现象。

作为一个传统理性…

我盲目而鲁莽的青春

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 我盲目而鲁莽的青春》

俗话说,大人告诉孩子们不要去做的事情,他们自己全都做过,这就是他们知道为什么不要去做。

很久之前,在那遥远得难以想象的过去,我还是一个虔诚的传统理性主义者,认为自己拥有相应的能力,然而我那时候了解的并不是贝叶斯理性主义。当小埃利泽面对一个貌似神秘的问题时,传统理性的规则并没有阻拦他产生一个神秘的答案。这,绝对是,我生命中曾犯过的最尴尬的错误,至今我仍不敢回想。

我对神秘问题的神秘答案是什么?我不讲这个,因为它是个很长很复杂的故事。那时候我还年轻,是个纯粹的传统理性主义者,还不知道特维斯基和卡尼…

合乎法则的不确定性

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 合乎法则的不确定性》

罗宾·道斯在《不确定世界中的理性选择》一书里,描述了特沃斯基的一个实验:[1]Dawes, Rational Choice in An Uncertain World; Yaacov Schul and Ruth Mayo, “Searching for Certainty in an Uncertain World: The Difficulty of Giving Up the Experiential for the Rational Mode of Thinking,” Journal of Behavioral Dec

阳性偏差:望向黑暗

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 阳性偏差:望向黑暗》

课堂上,我在黑板写下三个数字:2-4-6。“我心里有个规律,”我说,“某类三个数字的序列遵循这一规律,数列2-4-6恰巧符合这个规律。你们每个人的桌子上都有一叠卡片。在卡片上写下一个三个数字的数列,如果这个数列符合规律我就会标‘是’,反之我会标‘否’。之后你们可以写下另一组数字,继续问我它是否符合规律,依此类推。直到你确信你已经知道规律的时候,在卡片上写下这个规律。你想试多少数列都可以”。

以下是一个学生猜测数列的记录:

4-6-2 否
4-6-8 是
10-12-14 是

不要说“复杂性”

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 不要说“复杂性”》

很久很久以前……

这是我第一次见到马塞洛时的故事,后来我与他一起研究了一年的人工智能理论;但当时我还没有收他为徒。 我知道他在国家级数学和计算奥林匹克竞赛中比赛,这足以引起我的注意;但我还不知道他是否可以学会思考人工智能。

我曾问过马塞洛,让他表达关于人工智能会发现如何解决魔方的问题的想法。 不是以预先编程的方式,那样的话太平凡了,而是人工智能自身如何发现魔方的规则,并推理出如何利用它们。 人工智能将如何自己发明“操作(operator)”或“操作组合(mac…

科学外套

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 科学外套》

X战警的电影预告片里,有个画外音说:“每个人体内……都有一套遗传密码……可以突变。”显然,突变可以使你获得各种各样的超能力。比如变种人暴风女可以召唤闪电。

亲爱的读者,我求求你想想产生电流所需要的生物结构、免于被电流伤害所需要的生物适应性、以及精准控制闪电所需要的神经环路。如果我们真的观察到任何生物通过一代突变就获得了这些能力,这将彻底否定新达尔文主义的自然选择模型。这将比在前寒武纪发现兔子化石还要糟糕。如果进化理论真的能外延到解释暴风女,那它将能解释一切,而我们都知道那会意味着什么。

X战警的漫画里…

猜老师的密码

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 猜老师的密码》

当我还小的时候,我读了些诸如费曼的《量子电动力学:光和物质的奇妙理论》之类的物理科普书。从中我知道了光是波,声音是波,物质也是波。我九岁的时候对自己的科学读物引以为傲。

在长大些后,我开始读《费曼物理学讲义》。我因此发现了波动方程并如获珍宝。我能看懂这个方程的推导,但回过头去看整个过程,却不能从直觉上一眼看穿。所以接下来的三天时间,我一直在断断续续琢磨这个方程,直到我发现它明显得令人难为情。当我最终明白的时候,我意识到自己一直以来都接受了物理学家信誓凿凿所说的光是波,声音是波,物质也是波,却完全…