理性:从人工智能到僵尸

什么是证据?

《理性:从人工智能到僵尸–地图与真实的土地– 第三部分注意困惑– 什么是证据?

转自Thoughts Memo汉化组的翻译,以补全本站第一卷的内容

点击此处跳转至知乎栏目原译

如无知乎账户/懒得登录,可点击此处查看知乎栏目原译


「雪是白色的」这个陈述,当且仅当雪确实是白色时才是真实的。——Alfred Tarsk

如实陈述存在的事物存在,不存在的事物不存在,这就是真理。——亚里士多德,《形而上学》第四卷

如果你认为这两段引言还不足以完整定义「真理」,可以直接阅读简单的真理一文。在本文中,我将重点讨论「证据」这个概念。(需要说明的是,我将探讨的是关于事实的信念,而非情感或道德判断,这一区别在感受理性一文中有详细阐述。)

让我们设想这样一个场景:你正在街上行走,突然发现鞋带松开了。紧接着,出于某种奇怪的原因,你开始相信鞋带确实松开了。这个过程是这样的:阳光照射到你的鞋带上并被反射;部分光子穿过你的瞳孔,落在视网膜上;光子的能量触发了神经脉冲;这些神经脉冲被传递到...

《理性:从人工智能到僵尸》第二卷及后续翻译

躺平停止更新近两年之后,很高兴看到Thoughts Memo翻译组接手翻译此书的第二卷!

《理性:从人工智能到僵尸》第二卷及后续目前可点此在知乎专栏查看,其英文原文可点此查看。

在大型语言模型(LLM)盛行的时代,语言本身已不再构成障碍,取而代之的是信息的易得性。从这个角度来说,能够在更多中文用户容易接触到的平台发布后续文章,无疑是正确之举。

愿各位阅读愉快

看到自己瑕疵的镜头

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地– 第一部分可以预见的错误– 看到自己瑕疵的镜头

光线离开太阳,击中你的鞋带后反射;一些光子通过你的瞳孔,进入视网膜;光子的能量激发了神经脉冲;神经脉冲传递到大脑中处理视觉的区域;产生的视觉信息重建为3D模型,被认为是一条松开的鞋带;因此你相信你的鞋带没系紧。

这便是刻意理性的秘密——整个过程不是魔法,你可以理解这个过程。你可以理解你是怎么看到你的鞋带的。你可以思考什么样的思维过程可以创造出和现实相符的信念,什么样的不会。

老鼠能看见,但是不能理解“看见”。你可以理解“看见”,因此你可以做到老鼠不能做的事。花点时间来赞叹这件事,因为这件事值得赞叹。

老鼠能看见,但是不知道自己有视觉皮质,所以不能矫正视觉上的幻觉。老鼠生活的世界里有猫,洞,奶酪和捕鼠夹——但是没有老鼠的大脑。它们的摄...

真正属于你

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 真正属于你

德鲁·麦克德莫特 (Drew McDermott) 有一篇经典论文:《人工智能遇上自然愚昧》((Drew McDermott, “Artificial Intelligence Meets Natural Stupidity,”SIGART Newslette, no. 57 (1976): 4–9, doi:10.1145/1045339.1045340.)),批评了一些AI程序。这些程序试图用语义网络((语义网络:关联起概念的网络。这一概念在认知科学和人工智能的文献中相当古老 http...

附录:亚霍达·尤德科夫斯基, 1985-2004

授权和转载须知

译注:作者的弟弟于2004年去世,该文是他的弟弟去世后的一系列电子邮件串,同时也是感受理性的附录。原文请点击此处


给不是超人类主义的背景介绍

超人类主义不喜欢死亡。如果可以的话,我们会终结死亡。为了这一目标,我们支持相关研究,希望能通向一个人类击败了死亡的未来。死亡是一个极其困难的技术问题,需要通过生物技术、纳米技术和其它技术手段攻克。我不会讲被称之为“未来”的神话,也不会像是陈述事实一样说人类总有一天会摆脱死亡——我没有预见未来的魔法技能。但死亡是大恶,无论何时,只要我有能力,我就会反对死亡。如果我能创造一个人们永生,或者至少可以活个几十亿年的世界,我会这么做的。我不认为人类会永远卡在我们目前所在的这个尴尬阶...

终止好奇心:以科学之名

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 终止好奇心:以科学之名

想象一下,在现场直播电视摄像机的全景下,我举起双手,念出咒语,唤起了灿烂的光芒,照亮了手的前方。 再想象一下,我在詹姆士·兰迪((詹姆士·兰迪(James Randi),美国著名舞台魔术师、科学怀疑论者,曾参与许多揭秘超能力的节目))和所有怀疑者的全力监督下施展了这种明显的,无可辩驳的魔法。 我认为,这会引起相当程度的好奇心。

但是现在假设我不想上电视。 我既不想分享力量,也不想分享背后的原理。我想保护自己魔法的秘密,但同时也想随时随地施展我的魔法。我想用我的闪光咒语在火车上读书,而不会招来好奇...

语义停止信号

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 语义停止信号

孩子问

Q: 石头是怎么来的?A:在村子的中心,从石块上凿下来的。

Q:那石块是哪里来的呢?A:大概是从山上滚下来,立在我们村子里的。

Q:那山是从哪里来的呢?A:和所有的石头一样:是原始巨人伊米尔的骨。

Q:那原始巨人伊米尔是哪里来的呢?A:从金伦加鸿沟而来。

Q:从金伦加鸿沟是哪里来的呢?A: 永远不要再问这个问题。((伊米尔(Ymir),金伦加鸿沟(Ginnungagap)均出自北欧神话。)

考虑关于“第一因”的相似悖论。科学追踪事物的起源直到宇宙大爆炸,不过为什么发生了大爆炸?时间的零点始于大爆炸这个说...

解释/崇拜/忽略?

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 解释/崇拜/忽略?

当我们的部落在草原上徘徊,寻找果树和猎物时,时不时地,雨水从天而降。

“为什么有时水从天上掉下来?” 我问我们部落里的大胡子智者。

这个问题他以前从未想过,他想了一会儿说:“天空之灵不时地战斗,当他们战斗时,他们的血液从天空中滴下。”

“天空之灵来自哪里?” 我问。

他压低声音, “从以前开始。 从很久很久以前开始。”

你不知道为什么会下雨的时候,有几种选择。 首先,根本不问为什么——不深究这个问题,或者一开始就根本不考虑这个问题。 这是"忽略"指令,是大胡子智者最初选择的。 其次,可以尝试构想某种解释——...

让历史为你所用

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 让历史为你所用

有一种思维习惯,我称之为“根据虚构证据进行归纳的逻辑谬误”。例如,那些在人工智能的新闻里谈论《终结者》电影的记者,通常并不会将《终结者》当作预言或确凿事实。但这部电影会被想起(或者说可获得),仿佛它是一桩例证式的历史事件那样。仿佛那个记者曾见过它在其他某个星球上发生过,所以它也很可能会在地球上发生。更多相关内容请阅读第七部分,《潜在影响全球危险判断的认知偏差》

还有一种错误,与归纳虚构证据正相反:不能被历史证据充分打动。归纳虚拟证据的问题在于,它是虚构的——它从未真正发生过。它并不源于我们真实宇宙的分布;虚拟和现实系统性地不同。但历史是确实发生过的,它应该是可利用的。

在我们祖先生活的年代,世界上没有电影:眼见即为实。那些栩栩如生的影像所呈现出的虚构故事能如此强烈地影响我们又有什么好奇怪的呢?与此相反,那些真实发...

未能从历史中吸取教训

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 未能从历史中吸取教训

很久以前,在我野蛮鲁莽的青春岁月,在我还不知道贝叶斯之道时,我对一个看似神秘的问题给出了一个神秘的答案。许多挫败接踵而来,但其中一个错误显得尤为关键:年轻的我没有意识到,解决一个谜题就该让它变得不那么令人迷惑。我曾试图解释一个神秘现象对我来说意味着给它找到一个起因,将它拟合到一个完整的现实模型中。如果那就是现象的本源,为什么它会让这个现象不那么神秘呢?我曾试图解释这个神秘现象,而不是(用某种不可能的魔力)将它翻译成一种寻常的现象,一种在一开始甚至不会需要非寻常解释的现象。

作为一个传统理性主义者,曾经的我知道占星学家和天文学、炼金术士和化学,以及生命力理论者与生物学的历史故事。但神秘现...