Tag Archives: AI2ZB

为何寻求真实

授权和转载须知

《理性:从人工智能到僵尸-地图与真实的土地-第一部分:可以预见的错误-为何寻求真实?以及……

博客克服偏见下有些评论谈到了为何要寻求真实(幸好没多少人问我何为真实)。我们将想法纳入理性框架(它决定了既定思维模式的优劣)的动机,正是始于探索真实的初心。

有人说,“好奇是第一美德。”好奇心的确是探寻真实的理由,虽说可能并非唯一,却有着独特而崇高的纯洁性。如果你是出于好奇寻找真实,那你将根据个人喜好来决定解决问题的优先顺序。更棘手的挑战,虽意味着更大的风险,却比简单的那些更值得努力,纯粹因为它们更有趣。

我估计有人会反驳说,好奇是种情绪,因而并不理智。如果某种情绪是基于错误的信念,或者更确切地说,是基于非理性的认知行为,那我会认为它是不理性的。“如果拿冷熨斗靠近你的脸,你却坚信它是烫的,现实就会与...

繁琐的细节

授权和转载须知《理性:从人工智能到僵尸 - 地图与真实的土地 - 第一部分:可以预见的错误 - 繁琐的细节试图赋予一原本枯燥而不可信的叙述以艺术真实性,仅仅需要确凿的细节…—— 呸呸,出自吉尔伯特和沙利文的音乐剧《天皇》[1--------------------合取谬误是指人类估计概率P(A,B)[A,B两事同时发生的概率]会比单单概率P(B)[仅事件B发生的概率]大,虽然概率论告诉我们P(A,B) ≤ P(B)。例如,在1981年的一个实验中,68%的被试对象认为,与“里根将为未婚妈妈提供联邦支持。”相比,“里根将为未婚妈妈提供联邦支持,并削减联邦政府对地方政府的支持。”更有可能发生。[2一系...

何谓偏见

授权和转载须知

《理性:从人工智能到僵尸-地图与真实的土地-第一部分:可以预见的错误-何谓偏见

偏见是我们获得真理的某种障碍。(它作为“障碍”的特性正源于我们对真理的追求。)然而,有许多障碍并不是“偏见”。

如果我们首先问“偏见是什么”,则问错了顺序。俗话说,“有四十种疯狂,但只有一种常识。”真理是一个狭窄的目标,是所有构想中的一小片。“她爱我,她不爱我”是一个二元问题,但E=mc^2是方程空间中的一个小点,就像所有彩票里那张中奖的那张一样。错误不是特殊情况;成功才是,先验的成功概率太低,以至于需要一个解释。

我们不是怀着道德责任来“消除偏见”,仅仅因为偏见有害、邪恶并且不应如此。如果有人在社会教化中把理性当成了...

虚假的解释

授权和转载须知

《理性:从人工智能到僵尸-地图与真实的土地-第四部分:神秘的答案-虚假的解释

很久很久以前,有一位物理系的教授,有一天,他把学生们找进教室,给他们展示了一块方形大金属板,旁边是一个暖炉。学生们把手放在金属板上,发现朝着暖炉的一面比较冷,而远离暖炉的那面却是热的。导师问他们,你们觉得为什么会这样呢?有些学生猜是热传导,有的学生猜金属板有奇怪的物理特性。他们想了很多有创造性的解释,却没有一个人屈尊说“我不知道”或者“这不可能啊”。

答案是,在学生们进屋之前,导师把金属板翻了个面。[1

仔细想想那些磕磕巴巴的学生拼命挤出的话,“额……大概是因为热传导……什么的?”我想问:这是不是一个真实的信念?这些话...

贝叶斯之道

授权和转载须知《理性:从人工智能到僵尸 - 地图与真实的土地 - 第二部分:虚假信念- 贝叶斯之道有些人对事物的预期和他们自以为秉承的信念背道而驰。你可以拿这种人找找乐子。我曾经在一个晚宴上试图向一个男人解释我是干什么的。当他说“我不相信人工智能可能实现,因为只有上帝才能创造灵魂”的时候,我灵机一动,立刻回应他说,“你的意思是,如果我能做出个 AI,就能证明你的信仰是假的吗?”“啥?”“这么说吧,如果你的信仰预言我不可能做的出 AI,那么,如果我做了个 AI,你的信仰就被证伪了。要么你的信仰允许我有可能做出 AI,要么你的信仰会被我做出 AI 这件事证伪。”时间暂停了一下,当他意识到他刚刚给他的假说开了个...

简单的真实

圣诞快乐

授权和转载须知

《理性:从人工智能到僵尸 - 地图与真实的土地 - 第四部分:神秘的答案 - 插曲:简单的真实

我还记得我写的关于存在主义的那篇论文。我的老师给我打了个不及格。她把那篇论文里所有出现过的“真实”这两个字都勾了出来,勾了大概有二十多次,每个旁边都打了一个问号。她想知道我所说的“真实”到底是什么意思。

—— 丹尼尔·伊根,新闻记者

--------------

这篇文章旨在还原真实最单纯的模样。

有人对你说:“我的奇迹蛇油可以在三周内就让你的肺癌痊愈。”你回答:“医疗研究不是显示这并不属实吗?”对方回答:“‘真实’这个概念太单纯了;你口中的‘真实’究竟是什么意思?”

许多被这样质问...

感受理性

授权和转载须知

《理性:从人工智能到僵尸-地图与真实的土地-第一部分:可以预见的错误-感受理性

一个关于“理性”的普遍认识是,理性反对所有的感情——我们所有的悲伤,所有的快乐,都因为这属于感情而自动与理性对立。然而很奇怪,我在概率论中找不到任何一条定理,说我应该表现得冷酷且面无表情。

那么,理性是与感情针锋相对的吗?不;我们对现实的模型引发了我们的情感。如果我相信有人发现我死去的弟弟其实还活着,我会觉得开心;如果我醒来发现这其实是一场梦,我会觉得难过。P.C.霍德吉尔曾说过:“能够被真相摧毁的东西就应该被摧毁。”我在梦中的快乐与真实相抵触。我醒来后的悲伤是理性的;并没有真实来摧毁它。

理性始于我们对...

我所谓的理性到底是什么意思?

授权和转载须知

(*译注:全书为方便阅读和查阅,做了许多文章与文章之间的快捷链接,这些会在后文翻译完毕后逐步补上,同时视情况调整翻译顺序

《理性:从人工智能到僵尸-地图与真实的土地-第一部分:可以预见的错误-我所谓的理性到底是什么意思?

我的意思是

认知理性系统性地提高信念准确度。

工具理性系统性地实现你的价值。

当你睁开眼,看着周围的房间时,你会根据桌子来定位你笔记本电脑的位置,然后又根据墙壁来定位书架的位置。如果你的眼睛或大脑出了什么问题,你的心理模型就会指着没有书架的地方说那里有书架。如果你就此跑过去拿书的话,你会失望的。

抱有虚假信念就是这种感觉,就像是拿着一张和真实土地对不上号的世界地图...

前言+导读

授权和转载须知

*译注:因本书自带注释(且经常出现“注释的注释”),为了排版着想,与内容相关的注释会直接插在书中,译注和原书自带的reference list则列在文末。脚注编号以在文中的出现顺序为准。

前言

你现在手中的是一本合集,收录了近两年发布在博客上的文章。回想起来,我在这个项目里犯了一大票错误。我觉得没关系。要是在我回首过去的时候,没有发现一大堆错误,那就说明我的写作功力和理解力从2009年开始就没个长进。当我们改善了自己的信念和策略时,就会对过去的自己表示“哎哟我去”。所以当我们回首过去,却没有发现自己做错了什么事时,那就说明从那之后我们既没有学到新东西,也没有改变自己的想法。

我这两年写博文的时候并没...