(翻译组于2017/08/18收到如下邮件,希望有业界或者认识业界相关人士的读者能联系介绍给我们,或直接通过邮件联系介绍推荐给MIRI
【邮件截图

《中国AI新闻
嗨
我是马修·格雷斯(Matthew Graves),是MIRI(MachineIntelligence Research Institute,机械智能研究机构)的工作人员,与Eliezer Yudkowsky和其他工作人员一同致力于确保比人类更聪明的人工智能所带来的是正面影响(因为你们之前翻译过Eliezer的作品,所以给你们发了邮件
我们的一部分工作是跟上世界各国AI的发展状况,而中国与这一领域之间的关系正变得日益密切。我们已经...
圣诞快乐
《理性:从人工智能到僵尸 - 地图与真实的土地 - 第四部分:神秘的答案 - 插曲:简单的真实
我还记得我写的关于存在主义的那篇论文。我的老师给我打了个不及格。她把那篇论文里所有出现过的“真实”这两个字都勾了出来,勾了大概有二十多次,每个旁边都打了一个问号。她想知道我所说的“真实”到底是什么意思。
—— 丹尼尔·伊根,新闻记者
--------------
这篇文章旨在还原真实最单纯的模样。
有人对你说:“我的奇迹蛇油可以在三周内就让你的肺癌痊愈。”你回答:“医疗研究不是显示这并不属实吗?”对方回答:“‘真实’这个概念太单纯了;你口中的‘真实’究竟是什么意思?”
许多被这样质问...
《理性:从人工智能到僵尸-地图与真实的土地-第一部分:可以预见的错误-感受理性
一个关于“理性”的普遍认识是,理性反对所有的感情——我们所有的悲伤,所有的快乐,都因为这属于感情而自动与理性对立。然而很奇怪,我在概率论中找不到任何一条定理,说我应该表现得冷酷且面无表情。
那么,理性是与感情针锋相对的吗?不;我们对现实的模型引发了我们的情感。如果我相信有人发现我死去的弟弟其实还活着,我会觉得开心;如果我醒来发现这其实是一场梦,我会觉得难过。P.C.霍德吉尔曾说过:“能够被真相摧毁的东西就应该被摧毁。”我在梦中的快乐与真实相抵触。我醒来后的悲伤是理性的;并没有真实来摧毁它。
理性始于我们对...
请点击以下链接下载
《理性之道》本地下载
- 纸质书式PDF(共六册)HPMOR e-book pdf
- 电子书(全一册)
《三个世界的碰撞》本地下载
- 纸质书式PDF(全一册)TWC-chs-0.6
- 电子书(全一册)
外链
烈焰降临于惠更斯星系之上。
恒星爆炸了。
被困住的宇宙飞船在曾经的地球交通点周围晃荡,那些飞船上仍然载满孩子们,他们只差一秒钟就能逃脱。被困的飞船太多了,实在太多了。保险起见的话,他们本来应该提前一分钟离开;但是再多让一个孩子登上飞船的诱惑肯定是太强烈了。就这一次,做一件让人全身都暖洋洋的事情,而不是冷酷地算计。真的,你不能责怪他们......能吗?
是的,实际上,你可以责怪他们。
感应姬关掉了显示屏。那太让人痛苦了。
在惠更斯的交易市场上,某个合约暴涨到100%。在未来的九分钟里,他们都变成富豪了,名下满是毫无价值的资产,直到超新星的爆炸波到来为止。
“好吧,”驾驶爵终于说,“有什么资产在...
(*译注:全书为方便阅读和查阅,做了许多文章与文章之间的快捷链接,这些会在后文翻译完毕后逐步补上,同时视情况调整翻译顺序
《理性:从人工智能到僵尸-地图与真实的土地-第一部分:可以预见的错误-我所谓的理性到底是什么意思?
我的意思是
认知理性系统性地提高信念准确度。
工具理性系统性地实现你的价值。
当你睁开眼,看着周围的房间时,你会根据桌子来定位你笔记本电脑的位置,然后又根据墙壁来定位书架的位置。如果你的眼睛或大脑出了什么问题,你的心理模型就会指着没有书架的地方说那里有书架。如果你就此跑过去拿书的话,你会失望的。
抱有虚假信念就是这种感觉,就像是拿着一张和真实土地对不上号的世界地图...
但是,几乎没有人注意到,站在目标身后,告解师从袖子里抽出一把小小的昏迷枪——在整个飞船上,只有他一个人有资格使用这个武器,如果他确认有人失去理智的话。告解师的手臂迅速地抬了起来…
……麻醉了安科大人。
安科几乎是立刻就垮了下去,仿佛牵引着他的线绳早已被剪断了大半,只剩下最后几根勉强拉着他的四肢摇摇欲坠。
恐惧,惊骇,沮丧,纯粹而茫然的震惊;整个指挥会议骇然地瞪着告解师。
兜帽下面发出了绝对禁止从那片阴影中发出的话语:命令的声音。“驾驶爵,开启星际航线,带我们回到惠更斯星系。现在就启动,你处在关键路径上。感应姬,我需要你锁死这艘飞船上所有的通讯系统,只留一条通讯频道,由你亲自控制。同人大...
安科大步走进主会议室;虽然他的步伐像个体力消耗殆尽的人,但是至少他的表情是坚决的。在他身后跟着阴影般的告解师。
指挥会议成员抬头看向他,然后交换了几个眼色。
“你看起来好些了。”同人大师试探道。
安科把一只手放在自己椅子的后背上,然后顿住了。少了一个人。“飞船的工程师呢?”
程序爵皱起了眉头。“他说他得去做一个实验,我的大人。他拒绝进一步解释,但是我想一定是跟食婴人发来的文件有关——”
“你开玩笑吧,”安科说,“我们的飞船工程师跑去寻梦诺贝尔奖了?在这时候?整个人类的命运悬于一线的当口?”
程序爵耸了耸肩。“他似乎认为那很重要,大人。”
安科叹了口气。他拉开椅子,半跌半坐下来。“飞船的市场还没...