上海LessWrong线下聚会邀请

 授权和转载须知

(*译注:原贴发布于作者创办的论坛社区LessWrong,主要集中于讨论认知偏见,哲学,心理学,经济学,理性和人工智能等主题,具体链接请科学上网并检索,没有科学的读者可以考虑戳这里

《上海LessWrong线下聚会》 by Mindey

我想在上海举办一个LessWrong的线下聚会,主要是想一起讨论一下在对人类生活与人性的长期影响方面,人工智能的安全性与密码学要如何做到“少错一点”。我希望这次聚会的共通主题是一般意义上的“复合关系”,类似于复合神经模型,复合加密函数,等等。

此次聚会的初衷是想让上海LessWrong的读者们互相认识一下,就“如何估算每个人真正的(最小偏差的…

失落(但是必要)的章节:羽落或飞行

授权和转载须知

(*译注:该文为HPMOR连载期间由HPMOR读者创作的三次同人,已获作者 qbsmd 翻译授权)

简介:《理性之道》世界的延伸。包括一些应该出现但是没有在正文中出现的片段。这些片段对剧情或世界观毫无影响,但是回答了许多重要的问题——否则这些问题就不会再有答案了。

—————————

第 24 章,第 3 幕,¾ 处。

周一一早,哈利前往大厅,想着他准备做的实验。能量守恒是物理学中的一项重要法则,它在魔法中也应该成立。如果他能计算不同咒语凭空产生的能量,也许这与这些咒语…

失落(但是必要)的章节:与火为友

授权和转载须知

(*译注:该文为HPMOR连载期间由HPMOR读者创作的三次同人,已获作者 qbsmd 翻译授权)

简介:《理性之道》世界的延伸。包括一些应该出现但是没有在正文中出现的片段。这些片段对剧情或世界观毫无影响,但是回答了许多重要的问题——否则这些问题就不会再有答案了。

—————————

九月下旬,学生们基本上都适应了这奇怪的学校。

这个周末没有魁地奇,课外活动也还没开始。在周六,自然也不必担心有人试图去做作业。学生们总的来说,无聊。

“我最早记得的事就是我妈在怒吼”,罗恩继续说,“屋子里的…

一个有关科学和政治的寓言

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第二部分:虚假信仰 – 一个有关科学和政治的寓言》

◇ 前言

每个想要拥有名誉身份或者担任圣职的人都必须支持其中一派阵营。[1]

—— 爱德华·吉本

◇ 一段历史

在古罗马帝国时期,公民分成蓝绿两个阵营。蓝绿两派在单挑、偷袭、群殴、暴动中自相残杀。

对于这两个相互敌对的阵营,普罗科匹厄斯评论道:“他们在这种环境下长大——谁都有着毫无理由的敌意;这种敌意无法被时间冲淡,无法通过亲情、友情和婚姻消解,就连那…

计划谬误

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – 计划谬误》

丹佛国际机场延期16个月开始运营,超出成本20亿美元(也有人断言超成本31亿美元)。台风战斗机是4个欧洲国家参与的联合防务项目,延期54个月,花费190亿美元而非原定的70亿美元。悉尼歌剧院大概是超支史上最传奇的建筑了,预计支出700万美元在1963年完工,结果花了1.02亿美元,1973年才完成。[1]

这些孤立事件是因为有选择的可获得性偏差才进入我们的视野中吗?它们是官僚主义或者政府刺激措施失败的产物吗?是的,很有可能。但还有种与之相关且在个体计划者身…

可获得性

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – 可获得性》

可获得性启发是指,人们根据回忆起具体事例的难易程度,来判断该事件发生的频率或可能性。

里切特斯汀,斯洛维斯,费施霍夫,莱曼和康博斯曾在1978年进行过一项著名研究,名为《致命事件频率判断》[1],旨在研究人们在量化危险的严重程度或是判断危险发生频率时的误差。实验对象认为意外事故与疾病的致死率相近,故意杀人是比自杀更常见的致死原因。但事实上,疾病造成的死亡人数是意外事故的16倍之多,自杀的发生频率是…

为何寻求真实

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – 为何寻求真实?以及……》

博客克服偏见下有些评论谈到了为何要寻求真实(幸好没多少人问我何为真实)。我们将想法纳入理性框架(它决定了既定思维模式的优劣)的动机,正是始于探索真实的初心。

有人说,“好奇是第一美德。”好奇心的确是探寻真实的理由,虽说可能并非唯一,却有着独特而崇高的纯洁性。如果你是出于好奇寻找真实,那你将根据个人喜好来决定解决问题的优先顺序。更棘手的挑战,虽意味着更大的风险,却比简单的那些更值得努力…

繁琐的细节

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – 繁琐的细节》

试图赋予一原本枯燥而不可信的叙述以艺术真实性,仅仅需要确凿的细节……

—— 呸呸,出自吉尔伯特和沙利文的音乐剧《天皇》[1]

———————

合取谬误是指人类估计概率P(A,B)[A,B两事同时发生的概率]会比单单概率P(B)[仅事件B发生的概率]大,虽然概率论告诉我们P(A,B) ≤ P(B)。例如,在1981年的一个实验中,68%的被试对象认为,与“里根将为未婚妈妈提供联邦…

何谓偏见

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – 何谓偏见》

偏见是我们获得真理的某种障碍。(它作为“障碍”的特性正源于我们对真理的追求。)然而,有许多障碍并不是“偏见”。

如果我们首先问“偏见是什么”,则问错了顺序。俗话说,“有四十种疯狂,但只有一种常识。”真理是一个狭窄的目标,是所有构想中的一小片。“她爱我,她不爱我”是一个二元问题,但E=mc^2是方程空间中的一个小点,就像所有彩票里那张中奖的那张一样。错误不是特殊情况;成功才是,先验的成功概率太低,以…

虚假的解释

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案- 虚假的解释》

很久很久以前,有一位物理系的教授,有一天,他把学生们找进教室,给他们展示了一块方形大金属板,旁边是一个暖炉。学生们把手放在金属板上,发现朝着暖炉的一面比较冷,而远离暖炉的那面却是热的。导师问他们,你们觉得为什么会这样呢?有些学生猜是热传导,有的学生猜金属板有奇怪的物理特性。他们想了很多有创造性的解释,却没有一个人屈尊说“我不知道”或者“这不可能啊”。

答案是,在学生们进屋之前,导师把金属板翻了个面。[1]

仔细想想那些磕磕巴…