假装智慧

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第二部分:虚假信仰 – 假装智慧

地狱里最煎熬的地方是为危机中的中立者准备的。

但丁·阿利吉耶里((但丁·阿利吉耶里:著名的意大利中世纪诗人但丁。详见https://zh.wikipedia.org/wiki/%E4%BD%86%E4%B8%81%C2%B7%E9%98%BF%E5%88%A9%E5%90%89%E8%80%B6%E9%87%8C)),著名地狱专家—— 约翰·肯尼迪((约翰·肯尼迪:美国第35任总统。详见:https://zh.wikipedia.org/wiki/%E7%BA%A6%E7%BF%B0%C2%B7%E8%82%AF%E5%B0%BC%E8%BF%AA)),瞎引用专家

我们常常能见到有人用中立或者不判断来表明自己的成熟、智慧、公正,或者优越感。以我父母为例,对于“为什么古埃及对许多事有详细记载,却没有犹太人曾经在此地生活过的记录”之类的神学问题,他们的回答总是“哎,我像你这么大的时候,也常常问这种问题,但现在我已经长大了”。

再比如,校长逮住两个小孩在操场打架,他严肃地说:“谁先动手不重要,唯一重要的是谁先停手。”谁先动手的当然很重要。这个校长可能没法知道谁先动的手,但如果真是这样,他就应承认如此,而不是贬低谁先动手这一事实的重要性。如果一个家长试着揍校长一拳,我们就能看到“谁先动手不重要”这句话还管不管用。但对成年人来说,小孩打架很麻烦,为了自己...

对信念的信念

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第二部分:虚假信仰 – 对信念的信念

卡尔·萨根((卡尔·萨根:美国天文学家、天体物理学家、宇宙学家、科幻作家,和非常成功的天文学、天体物理学等自然科学方面的科普作家。行星学会的成立者。曾收集发送到太空的第一批物理信息旅行者金唱片。))讲过一个寓言,有人声称:“我的车库里有一条龙。”有趣!于是我们说想看看这条龙——我们立即去车库吧! “等等,”声称者说,“这是一条看不见的龙。”

此时,正如萨根指出的那样,这并不会使这个假说不可证伪。也许我们去了声称者的车库,虽然看不到龙,但是可以听到空气中沉重的呼吸声;可以看到神秘地出现在地面上的脚印;或者仪器显示,车库中的某物正在消耗氧气并呼出二氧化碳。

但是现在假设我们对声称者说:“好,我们要去车库,看看是否能听到沉重的呼吸声。”声称者立马拒绝,说这是一条没有声音的...

被低估的推断距离

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – 被低估的推断距离

智人的进化适应环境(也称作 “祖先环境”)由最多200人的狩猎采集部落组成。他们没有文字,所有知识只能通过言语和记忆传承。

在那个世界中,所有背景知识都是普世知识。所有并非严格保密的信息都是公开的。

在祖先环境中,你与其他任何人的推断步骤不太可能大于一步。当你发现新的绿洲时,无需向其他部落成员解释什么是绿洲,为什么要喝水,或者怎么走路。只有你知道绿洲在哪里。这是私人知识。但是每个人都有足够的背景知识理解你对绿洲的描述,也有关于水的必要概念;这是普世知识。在祖先环境中解释事物时,几乎从不需要解释概念——最多也就一个新的概念,而不用同时解释两个或多个。

在祖先环境中没有抽象的学科。抽象的科学包含大量的、经过仔细收集的证...

“显然”是种错觉:为什么没人理解你

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – “显然”是种错觉:为什么没人理解你

后见之明,是指人们在知道事件的结果后,认为自己可以在事前就预测到该结果。得知结果后,我们会根据结果重新解释当时的场景。就算我们知知道后见之明偏见,我们还是没法突然失忆,然后理解那些不知道结果的人的想法。

与之紧密相关的是一目了然的幻觉:我们知道自己表达的是什么意思,所以觉得其他人也一定明白。阅读自己的作品,知道自己真正想表达什么,会觉得文字的意思显而易见。要理解那些只能根据文字盲目猜测的人的感受是非常困难的。

珍妮给马克推荐了一家餐厅;马克在那吃了顿饭发现(a)平平无奇的食物,平平无奇的服务(b)美味可口的食物,无可挑剔的服务。然后马克给珍妮的答录机留言如下:“珍妮,我刚在你推荐的餐厅吃完饭,我只想说,你推荐的餐厅真棒,特别棒。”Keysar把场景(a)展示给一群被试,59%的人...

集中你的不确定性

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第三部分:注意困惑 – 集中你的不确定性

债券收益率会上涨,下跌,还是保持不变?如果你是债券评论员,负责在债券价格变动后解释原因,那就没什么好担心的。不管哪种情况发生,总可以把结果完美地套入你的市场理论。没有理由去思考这三种可能性相互对立,相互排斥,因为无论如何,作为评论员你都可以表现优异。

但是等等!假如你是个新手,还没有足够的经验当场编造理由灵活解释所有情况。你需要提前准备好明天广播的台本,但时间有限。这时候,知道债券收益究竟会上涨、下跌、还是保持不变就会很有帮助,因为那样的话你只需要准备一套理由就可以了。

可惜,没人能够预测未来。该怎么办呢?肯定不能使用“概率”。...

神秘问题的神秘答案

授权和转载须知

《理性:从人工智能到僵尸–地图与真实的土地–第四部分:神秘的答案 –神秘问题的神秘答案

想象一下,看着你的手,同时你对细胞,生物化学,DNA一无所知。你已经了解一些解剖学知识,所以知道手中有肌肉;但是你不知道为什么肌肉可以运动,而不是像粘土一样瘫在那里,你的手就是……某种东西……由于某种原因,它会在你的指挥下运动。这难道不是魔术吗?

这便是生命力理论;  élan vital,或者叫vis vitalis,解释了生物与非生物之间的神秘差异。 élan vital 注入了生命物质,并使其朝着意识指挥的方向运动。 élan vital 参与了化学转化,而无生命的粒子则无法进行——Wöhler 后来合...

本站介绍

本站为国外哈利波特同人小说Harry Potter and the Methods of Rationality(译为《哈利波特与理性之道》)的中文粉丝站点。目前,HPMOR.com上的小说章节已全部翻译完毕。请点此下载精校电子书,或点此开始在线阅读。

由《理性之道》作者EY所写的短篇科幻小说Three Worlds Collide(译为《三个世界的碰撞》)也已全部翻译完毕。请点此下载精校电子书,或点此开始在线阅读。

《理性之道》的三次同人HPMoR: The Missing (but Necessary) Chapters(译为《失落(但是必要)的章节》)正在翻译中,请点此开始在线阅读。

同样由《理性之道》作者EY整理发布的科普类电子书Rationality: From AI to Zombies(译为《理性:从人工智能到僵尸》)正在翻译中,请点此开始在线阅读。

欢迎有兴趣译校的同好加入翻译组

邮箱:hpmor927@gmail.coMastodono3o.ca/@hpmor微博:@哈利波特与理性之道

科学证据,法律证据,理性证据

授权和转载须知《理性:从人工智能到僵尸 - 地图与真实的土地 - 第三部分:注意困惑 -科学证据,法律证据,理性证据假设你有个好朋友是警察局长,他告诉你一件机密,你城市的犯罪首脑是Wulky Wikinsen[1]。作为一个理性主义者,你有理由相信这句话吗?这样说吧,如果你因此上前去侮辱Wulky,我只能说这样太过鲁莽。既然谨慎的做法是认为Wulky比一般人有更大可能性是犯罪首脑,警察局长的陈述一定是强有力的贝叶斯证据。我们的司法系统不会基于警察局长的陈述囚禁Wulky。这不能称为法律证据。或许如果你把警察局长指认为犯罪首脑的人都抓起来,一开始确实可以抓到很多犯罪头目,外加一些局长不喜欢的人。权力终将腐...

让信念(用预期)支付租金

授权和转载须知

《理性:从人工智能到僵尸-地图与真实的土地-第二部分:虚假信仰-让信念(用预期)支付租金

那则古老的寓言是这样开始的

如果森林里有棵树倒了但没人听见,那么它有发出声音吗?一个人说,“是的,有,因为它造成了空气震动”。另一个人说,“不,没有,因为没有任何大脑的听觉系统处理了这个信号。”

假设在那棵树倒之后,这两个人一起走进森林。有没有可能一个人看到树向右倒,而另一个人则看到树向左倒?假设在树倒下之前,这两个人在树旁边留了个录音器。当回放录音的时候,有没有可能两个人听到的声音不一样?再假设,如果他们记录这个世界上某个大脑的脑电图,有没有可能这两个人看到不一样的信号?虽然这两个人在争执树倒下的时候是否...

上海LessWrong线下聚会邀请

授权和转载须知

(*译注:原贴发布于作者创办的论坛社区LessWrong,主要集中于讨论认知偏见,哲学,心理学,经济学,理性和人工智能等主题,具体链接请科学上网并检索,没有科学的读者可以考虑戳这里

《上海LessWrong线下聚会》 by Minde

我想在上海举办一个LessWrong的线下聚会,主要是想一起讨论一下在对人类生活与人性的长期影响方面,人工智能的安全性与密码学要如何做到“少错一点”。我希望这次聚会的共通主题是一般意义上的“复合关系”,类似于复合神经模型,复合加密函数,等等。

此次聚会的初衷是想让上海LessWrong的读者们互相认识一下,就“如何估算每个人真正的(最小偏差的)效用函数合集”交换想法,并找...