贝叶斯之道

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第二部分:虚假信念- 贝叶斯之道》

有些人对事物的预期和他们自以为秉承的信念背道而驰。你可以拿这种人找找乐子。

我曾经在一个晚宴上试图向一个男人解释我是干什么的。

当他说“我不相信人工智能可能实现,因为只有上帝才能创造灵魂”的时候,我灵机一动,立刻回应他说,“你的意思是,如果我能做出个 AI,就能证明你的信仰是假的吗?”

“啥?”

“这么说吧,如果你的信仰预言我不可能做的出 AI,那么,如果我做了个 AI,你的信仰就被证伪了。要么你的信仰允许我有可能做出 AI,要么你的信仰会被我做出 AI 这件事证伪。”

时间暂停了一下,当他意…

作者求助邮件:国内人工智能发展的相关新闻

 授权和转载须知

(翻译组于2017/08/18收到如下邮件,希望有业界或者认识业界相关人士的读者能联系介绍给我们,或直接通过邮件联系介绍推荐给MIRI)

【邮件截图】

 

《中国AI新闻》

嗨!

我是马修·格雷斯(Matthew Graves),是MIRI(MachineIntelligence Research Institute,机械智能研究机构)的工作人员,与Eliezer Yudkowsky和其他工作人员一同致力于确保比人类更聪明的人工智能所带来的是正面影响(因为你们之前翻译过Eliezer的作品,所以给你们发了邮件)

我们的一部分工作是跟上世界各国AI的发展状况,而中国…

简单的真实

圣诞快乐!

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第四部分:神秘的答案 – 插曲:简单的真实》

我还记得我写的关于存在主义的那篇论文。我的老师给我打了个不及格。她把那篇论文里所有出现过的“真实”这两个字都勾了出来,勾了大概有二十多次,每个旁边都打了一个问号。她想知道我所说的“真实”到底是什么意思。

—— 丹尼尔·伊根,新闻记者

—————

这篇文章旨在还原真实最单纯的模样。

有人对你说:“我的奇迹蛇油可以在三周内就让你的肺癌痊愈。”你回答:“医疗研究不是显示这并不属实吗?”对方回答:…

感受理性

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – 感受理性》

一个关于“理性”的普遍认识是,理性反对所有的感情——我们所有的悲伤,所有的快乐,都因为这属于感情而自动与理性对立。然而很奇怪,我在概率论中找不到任何一条定理,说我应该表现得冷酷且面无表情。

那么,理性是与感情针锋相对的吗?不;我们对现实的模型引发了我们的情感。如果我相信有人发现我死去的弟弟其实还活着,我会觉得开心;如果我醒来发现这其实是一场梦,我会觉得难过。P.C.霍德吉尔曾说过:“能够被真相摧毁…

《三个世界的碰撞》全本电子书与《理性之道》第二版电子书下载

请点击以下链接下载

《理性之道》本地下载

尾声:赎罪

授权和转载须知

烈焰降临于惠更斯星系之上。

恒星爆炸了。

被困住的宇宙飞船在曾经的地球交通点周围晃荡,那些飞船上仍然载满孩子们,他们只差一秒钟就能逃脱。被困的飞船太多了,实在太多了。保险起见的话,他们本来应该提前一分钟离开;但是再多让一个孩子登上飞船的诱惑肯定是太强烈了。就这一次,做一件让人全身都暖洋洋的事情,而不是冷酷地算计。真的,你不能责怪他们……能吗?

是的,实际上,你可以责怪他们。

感应姬关掉了显示屏。那太让人痛苦了。

在惠更斯的交易市场上,某个合约暴涨到100%。在未来的九分钟里,他们都变成富豪了,名下满是毫无价值的资产,直到超新星的爆炸波到来为止。

“好吧,”驾驶爵终于说…

我所谓的理性到底是什么意思?

授权和转载须知

(*译注: 全书为方便阅读和查阅,做了许多文章与文章之间的快捷链接,这些会在后文翻译完毕后逐步补上,同时视情况调整翻译顺序)

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – 我所谓的理性到底是什么意思?》

我的意思是:

认知理性:系统性地提高信念准确度。

工具理性:系统性地实现你的价值。

当你睁开眼,看着周围的房间时,你会根据桌子来定位你笔记本电脑的位置,然后又根据墙壁来定位书架的位置。如果你的眼睛或大脑出了什么问题,你的心理模型就会指着没有书架的地方…

第七章,真结局:牺牲之焰

授权和转载须知

但是,几乎没有人注意到,站在目标身后,告解师从袖子里抽出一把小小的昏迷枪——在整个飞船上,只有他一个人有资格使用这个武器,如果他确认有人失去理智的话。告解师的手臂迅速地抬了起来……

……麻醉了安科大人。

安科几乎是立刻就垮了下去,仿佛牵引着他的线绳早已被剪断了大半,只剩下最后几根勉强拉着他的四肢摇摇欲坠。

恐惧,惊骇,沮丧,纯粹而茫然的震惊;整个指挥会议骇然地瞪着告解师。

兜帽下面发出了绝对禁止从那片阴影中发出的话语:命令的声音。“驾驶爵,开启星际航线,带我们回到惠更斯星系。现在就启动,你处在关键路径上。感应姬,我需要你锁死这艘飞船上所有的通讯系统,只留一条通讯频道,由你亲自控制。同人大…

第六章:普通结局

授权和转载须知

就是今天。

古地球的街道挤满了人群,人们全都抬首,仰视空中,窗间也满是窥视的面孔。

人们等待着他们所有悲伤的终结。

安科站在一家防卫严密的旅馆阳台上,俯视着人群的面孔。有很多人希望对他施加暴力,这是很可以理解的。人群中大多数面孔都带着恐惧,另一些则是愤怒;只有很少的人在微笑,而安科怀疑他们只是自暴自弃地崩溃了。安科想知道自己的脸现在看起来是什么样子的。

街道间的人群并不怎么拥挤,如果是几个星期之前的话,人数本应该会比现在更多。

没有任何人对超级幸福人提起这件事。紧跟着‘不可能可能世界’号的抵达,超级幸福人们就遣来了使者飞船,“以防万一你们有什么紧急事件需要我们帮助。”那艘飞船没有拿到人类互…

第五章:三个世界决定

授权和转载须知

安科大步走进主会议室;虽然他的步伐像个体力消耗殆尽的人,但是至少他的表情是坚决的。在他身后跟着阴影般的告解师。

指挥会议成员抬头看向他,然后交换了几个眼色。

“你看起来好些了。”同人大师试探道。

安科把一只手放在自己椅子的后背上,然后顿住了。少了一个人。“飞船的工程师呢?”

程序爵皱起了眉头。“他说他得去做一个实验,我的大人。他拒绝进一步解释,但是我想一定是跟食婴人发来的文件有关——”

“你开玩笑吧,”安科说,“我们的飞船工程师跑去寻梦诺贝尔奖了?在这时候?整个人类的命运悬于一线的当口?”

程序爵耸了耸肩。“他似乎认为那很重要,大人。”

安科叹了口气。他拉开椅子,半跌半坐下来。“飞船的市场还没…