作者求助邮件:国内人工智能发展的相关新闻

授权和转载须知

(翻译组于2017/08/18收到如下邮件,希望有业界或者认识业界相关人士的读者能联系介绍给我们,或直接通过邮件联系介绍推荐给MIRI

【邮件截图

《中国AI新闻

我是马修·格雷斯(Matthew Graves),是MIRI(MachineIntelligence Research Institute,机械智能研究机构)的工作人员,与Eliezer Yudkowsky和其他工作人员一同致力于确保比人类更聪明的人工智能所带来的是正面影响(因为你们之前翻译过Eliezer的作品,所以给你们发了邮件

我们的一部分工作是跟上世界各国AI的发展状况,而中国与这一领域之间的关系正变得日益密切。我们已经...

简单的真实

圣诞快乐

授权和转载须知

《理性:从人工智能到僵尸 - 地图与真实的土地 - 第四部分:神秘的答案 - 插曲:简单的真实

我还记得我写的关于存在主义的那篇论文。我的老师给我打了个不及格。她把那篇论文里所有出现过的“真实”这两个字都勾了出来,勾了大概有二十多次,每个旁边都打了一个问号。她想知道我所说的“真实”到底是什么意思。

—— 丹尼尔·伊根,新闻记者

--------------

这篇文章旨在还原真实最单纯的模样。

有人对你说:“我的奇迹蛇油可以在三周内就让你的肺癌痊愈。”你回答:“医疗研究不是显示这并不属实吗?”对方回答:“‘真实’这个概念太单纯了;你口中的‘真实’究竟是什么意思?”

许多被这样质问...

感受理性

授权和转载须知

《理性:从人工智能到僵尸-地图与真实的土地-第一部分:可以预见的错误-感受理性

一个关于“理性”的普遍认识是,理性反对所有的感情——我们所有的悲伤,所有的快乐,都因为这属于感情而自动与理性对立。然而很奇怪,我在概率论中找不到任何一条定理,说我应该表现得冷酷且面无表情。

那么,理性是与感情针锋相对的吗?不;我们对现实的模型引发了我们的情感。如果我相信有人发现我死去的弟弟其实还活着,我会觉得开心;如果我醒来发现这其实是一场梦,我会觉得难过。P.C.霍德吉尔曾说过:“能够被真相摧毁的东西就应该被摧毁。”我在梦中的快乐与真实相抵触。我醒来后的悲伤是理性的;并没有真实来摧毁它。

理性始于我们对...

《三个世界的碰撞》全本电子书与《理性之道》第二版电子书下载

请点击以下链接下载

《理性之道》本地下载

《三个世界的碰撞》本地下载

外链

  • 百度网盘由于《三个世界的碰撞》被百度列为违禁文件,已失效
  • Google Drive
  • 易云盘 (点击普通下载即可虽然是灰色但实际上可以点击
  • wikidot(《理性之道》各平台打包版,感谢@lwd-temp分流
  • 百度网盘(《理性之道》,提取码: sh6w,感谢@潇湘冰点分流
  • 百度网盘(三个世界的碰撞,感谢
    @潇湘冰点分流)同上,已失效
  • 《理性之道》英文实体书排版pdfGithub
  • 《理性之道》英文epub/mobi/pdf...

尾声:赎罪

授权和转载须知

烈焰降临于惠更斯星系之上。

恒星爆炸了。

被困住的宇宙飞船在曾经的地球交通点周围晃荡,那些飞船上仍然载满孩子们,他们只差一秒钟就能逃脱。被困的飞船太多了,实在太多了。保险起见的话,他们本来应该提前一分钟离开;但是再多让一个孩子登上飞船的诱惑肯定是太强烈了。就这一次,做一件让人全身都暖洋洋的事情,而不是冷酷地算计。真的,你不能责怪他们......能吗?

是的,实际上,你可以责怪他们。

感应姬关掉了显示屏。那太让人痛苦了。

在惠更斯的交易市场上,某个合约暴涨到100%。在未来的九分钟里,他们都变成富豪了,名下满是毫无价值的资产,直到超新星的爆炸波到来为止。

“好吧,”驾驶爵终于说,“有什么资产在...

我所谓的理性到底是什么意思?

授权和转载须知

(*译注:全书为方便阅读和查阅,做了许多文章与文章之间的快捷链接,这些会在后文翻译完毕后逐步补上,同时视情况调整翻译顺序

《理性:从人工智能到僵尸-地图与真实的土地-第一部分:可以预见的错误-我所谓的理性到底是什么意思?

我的意思是

认知理性系统性地提高信念准确度。

工具理性系统性地实现你的价值。

当你睁开眼,看着周围的房间时,你会根据桌子来定位你笔记本电脑的位置,然后又根据墙壁来定位书架的位置。如果你的眼睛或大脑出了什么问题,你的心理模型就会指着没有书架的地方说那里有书架。如果你就此跑过去拿书的话,你会失望的。

抱有虚假信念就是这种感觉,就像是拿着一张和真实土地对不上号的世界地图...

第七章,真结局:牺牲之焰

授权和转载须知

但是,几乎没有人注意到,站在目标身后,告解师从袖子里抽出一把小小的昏迷枪——在整个飞船上,只有他一个人有资格使用这个武器,如果他确认有人失去理智的话。告解师的手臂迅速地抬了起来…

……麻醉了安科大人。

安科几乎是立刻就垮了下去,仿佛牵引着他的线绳早已被剪断了大半,只剩下最后几根勉强拉着他的四肢摇摇欲坠。

恐惧,惊骇,沮丧,纯粹而茫然的震惊;整个指挥会议骇然地瞪着告解师。

兜帽下面发出了绝对禁止从那片阴影中发出的话语:命令的声音。“驾驶爵,开启星际航线,带我们回到惠更斯星系。现在就启动,你处在关键路径上。感应姬,我需要你锁死这艘飞船上所有的通讯系统,只留一条通讯频道,由你亲自控制。同人大...

第六章:普通结局

授权和转载须知就是今天。古地球的街道挤满了人群,人们全都抬首,仰视空中,窗间也满是窥视的面孔。人们等待着他们所有悲伤的终结。安科站在一家防卫严密的旅馆阳台上,俯视着人群的面孔。有很多人希望对他施加暴力,这是很可以理解的。人群中大多数面孔都带着恐惧,另一些则是愤怒;只有很少的人在微笑,而安科怀疑他们只是自暴自弃地崩溃了。安科想知道自己的脸现在看起来是什么样子的。街道间的人群并不怎么拥挤,如果是几个星期之前的话,人数本应该会比现在更多。没有任何人对超级幸福人提起这件事。紧跟着‘不可能可能世界’号的抵达,超级幸福人们就遣来了使者飞船,“以防万一你们有什么紧急事件需要我们帮助。”那艘飞船没有拿到人类互联网的登入密码,也没有被允许着陆。这让超级幸福人极度狐疑,使者飞船派出了一大批子飞船去观察人类星际航线网中的其他世界——但是如果超级幸福人知道了的话,它们会出手试图阻止的。不管用什么方法。没有人愿意在协议中加入这个代价。必须得留有这唯一的一条 —— 出路。当合约与其代价被公布之后,‘不可能可能世界’飞船上四分之一的船员选择了自杀。还有一些人,安科想,只是等着先跟家人团聚而已。而地球上的比例......大概比四分之一要多。地球政府(如果残余的部分还能被称之为政府的话)拒绝公布数据。你只能看见住房里抬出来的尸首——就放在普通的、外观平平无奇的箱子里,以防万一有超级幸福人在监视。安科吞咽了一下。恐惧使他的喉咙发干,对于变成一种不完全是的东西的恐惧。他能够理解不惜任何手段终结这种恐惧的冲动。但是与此同时,他并不理解、也无法理解自杀的人...

第五章:三个世界决定

授权和转载须知

安科大步走进主会议室;虽然他的步伐像个体力消耗殆尽的人,但是至少他的表情是坚决的。在他身后跟着阴影般的告解师。

指挥会议成员抬头看向他,然后交换了几个眼色。

“你看起来好些了。”同人大师试探道。

安科把一只手放在自己椅子的后背上,然后顿住了。少了一个人。“飞船的工程师呢?”

程序爵皱起了眉头。“他说他得去做一个实验,我的大人。他拒绝进一步解释,但是我想一定是跟食婴人发来的文件有关——”

“你开玩笑吧,”安科说,“我们的飞船工程师跑去寻梦诺贝尔奖了?在这时候?整个人类的命运悬于一线的当口?”

程序爵耸了耸肩。“他似乎认为那很重要,大人。”

安科叹了口气。他拉开椅子,半跌半坐下来。“飞船的市场还没...

第四章:与告解师的插曲

授权和转载须知

现在只剩他们两人了,他们独处于会议主席的特权房间里,这个私密房间的巨大和奢华更适合于行星地表,而不是飞船。特权间的整个地板和整面墙壁都是精美的全息图像,展示着他们周围的宇宙;遥远的群星,本地星系的太阳,正在消散的超新星余烬,还有那颗从主恒星汲取氢能源直到其表面短暂地出现新星闪光的矮星余焰。感觉像是坠入虚空之中。

安科坐在房间中央四柱床的边缘上,脑袋埋在手中。疲惫使他变的迟钝,而此时正是他最需要敏锐的时候;危机总是如此,但是这一次特别糟糕。在目前的情况下,他不敢吸食咖啡因——那有可能打乱他对事情的优先级分配。人类还没有发现一种纯能量的药物,能在丝毫不影响情感和价值观的情况下优化思维。

“我不知道应该怎么想了。”安科说。...