《人类的终极命运》是一本由(英) 乔治·扎卡达基斯著作，中信出版社出版的精装图书，本书定价：68.00元，页数：2017-9-1，特精心从网络上整理的一些读者的读后感，希望对大家能有帮助。

　　《人类的终极命运》读后感(一)：太复杂，普通人只要明白人工智能对我们未来会产生什么影响就够了

　　需要非常多的数学、哲学、逻辑学、计算机科学等学科的知识功底才能好好看明白的一本书，普通人只要明白人工智能对我们未来会产生什么影响就够了。

　　每一次我们描述过去，大脑都是唤起部分事实，再用合理的叙述自动填补空白。

　　在未来几十年中，如今大约为47%的工作有被自动机器取代的奉献。那些高收入、专家式的白领工人，对于医生、律师、工程师、经理、设计师、建筑师，他们未来就可能变为受害者。根据美国经济学家泰勒科文推算，在不远的未来，劳动人口中只有10%-15%的精英拥有智力能够掌握明日的人工智能技术，这将让他们非常富有。

　　新技术不止加剧了收入的不平等，也提高了整体的生活水平。

　　柏拉图 《理想国》

　　亚里士多德 三段论

　　笛卡尔 我思故我在

　　《人类的终极命运》读后感(二)：究竟AI（人工智能）是创造还是毁灭？

　　我是抱着对“究竟AI（人工智能）是创造还是毁灭？”的好奇心看这本书的。

　　作者从历史、哲学、生物科学的角度探讨AI的可能性。目前机器人的两种算法——深度学习和认知学习，都建立在认知科学和神经科学上。

　　若大脑思维和心智的产生方式是AI的突破口，那么有意识的AI将会是人造大脑而不是机器人。

　　或许现在的AI并不是真正意义上AI，但在有无限可能的时代，一切结论都言之尚早。

　　《人类的终极命运》读后感(三)：很棒

　　我喜欢！在我这里值95分。目前的年度最佳。 这本书是去年此时我帮太图飞回来的，因忙于其他事情，当时未能看完，但已被序言部分打动，一直念念不忘。 飞书整理上架大约半年时间，此中我一直在关注这本书的踪迹，直到重新找到它为止。 我喜欢作者的写作风格，是科普，但不枯燥。他始终沿着自己的主线在进行，从未有一点偏离，因为，他回答的，也是自己30年来的疑问。 不是简单追索人工智能如何产生，会不会产生，以及是否终将取代人类，而是回到了尽可能早的起点，回到了意识是何时，在怎样的情形下得以产生，寻找物质和意识之间的联系与区别。 有评价说烧脑，说需要哲学、文学、艺术、逻辑学、数学、机械等等的理论基础方可读懂，其实不然。这本书的确从哲学等等方面梳理出一条线，但它不是为了理论理论和故弄玄虚，因而，一点不累！这是最重要的。 真理往往朴素，致简即是致繁，一切未知的结论可能基于每个人的想法、经历、学问而有不同，但好奇心会永存于每一个普通的灵魂之中。 这也是人类进步的最根本的原因。 基于此书，我又拿回了大批通俗浅显的AI读物。但愿能有再次的美好相遇，一如乔治·扎克达基斯带给我的酣畅淋漓。

　　《人类的终极命运》读后感(四)：人工智能的进化充满不确定性

　　2018年第一本书读到了《人类的终级命运--从旧石器时代到人工智能的未来》 1.十万年前"现代智人"开始殖民地球，取代所有早期人类，用了三万年的时间征服了整个世界，这就是我们所有人类的祖先。 2.拥有语言基因突变的史前人类传递这一基因，让我们开始学会说话，并引发了认知的变化。 3.早期人类的语言主要是传递情感信息，简而言之，这是一种为了传递八卦而生的语言，我们从祖先那里继承了八卦之爱。 4.是什么让我们最害怕人工智能呢？是不是因为这些机械的、人造的生命与我们如此相似，有着人类一样的罪恶？ 5.单一的计算机无论如何运算也不可能产生意识，但是数十亿台计算机和背后操作的人在互联网上以连续的、动态的方式相互连接交换，看不见的信息乱流中，在孕育着什么？ 6.具备意识的人工智能，将从昆虫一样的智力开始演化，拥有躯体和感知，并像人类一样繁殖，谁说毛毛虫的征途不能是星辰大海。 7.未来将由人工智能担任全球的指挥者，终结经济自由和资本主义，国家与共产主义毫无二致，我们所做的任何事都由人工智能提供最好的决定。 8.人工智能终将改善人类的生态，大量的人接受纳米计算机嵌入以取得机器般的能力，我们被变得像它们一样，并失去最宝贵的东西--我们的人性！ 如果照此演化，真是历史性讽刺！

　　《人类的终极命运》读后感(五)：人工智能的可行性与后果

　　这本书的信息量极大，也相当烧脑。关于人工智能对人类的影响各种解读与预测充斥，乐观者认为带来人类生活的质的飞跃，悲观者认为会为人来带来自我毁灭的灾难。

　　作者分三部分阐述了人工智能机器产生意识的可行性、可能以及后果。

　　首先从人类意识的产生谈起，有追溯到了人类的起源，以及人类的独特性的分析。这部分可以参考《人类简史》但学术性、文献综述性比人类简史要强，因此读起来要比人类简史费力。人类意识的产生有其进化的特征以及脑科学的物质基础，关于二元论、还原论以及人类意识的哲学评论占据了大量篇幅，作者的综合推论人类的发展的飞跃源自于语言的产生，语言使人类信息得制造、传播、知识体系的共享成为可能，哲学理念中关于逻辑与人的关系，最重要的是人的直觉体系的不可逻辑推论性代表了无限的可能。

　　第二部分是关于计算机的产生与发展，图灵完备的概念是计算机的起源，关于软硬件的二元论与身体与意识的二元论是人类语言隐喻发展的产物，人类的进步中的幻想以及基于幻想文学作品的技术进步是实现隐喻的过程，例如人被隐喻为机器、大脑被隐喻为计算机，计算机再被隐喻为机器的大脑，可以说人类的进步往往建立在无数人对隐喻的幻想促进的技术进步。而作者推论的目前的计算机技术由于基于逻辑，不具备完备性，无论计算能力如何进步也不太可能产生表面随机的人类意识。唯一的方法可能是基于助记器的防人工神经元技术。

　　第三部分从机器是否能具备意识谈起，按照正确的思路，理论上是具备可能性的，问题在于人类大脑的进化特征决定了机器产生意识需要从神经仿生的神经元开始，然后通过进化符合人类成长的特征，进化的特点决定了人类不可能操控真正的机器人工智能，而人工智能具备意识后如何选择，我们不能准确推测，但显然不应该过于乐观，在各方面能力超过人类后具备意识，不会太乐观。

　　人工智能的方向，方法，以及结果，存在太多不确定性，这本书学识渊博给出推论和预测，可以参考。

　　《人类的终极命运》读后感(六)：昨天，今天和明天——《人类的终极命运》有感

　　lue编辑

　　人工智能这个词语在最近几年出现的频率可以说是相当高了，人工智能究竟能够给我们的生活带来哪些改变，不同的学者有着不同的说法，有的对人工智能的发展未来感到担忧（担心有一天人工智能到极致之后会取代人类），而绝大部分还是认为人工智能在未来很长一个阶段给人类带来的都是正面的影响。

　　人工智能技术现在已经是国内外发展的一个热点，与互联网相结合，利用大数据给与的数据支撑，人工智能在最近十年中取得的发展成就已经远远超过过去几十年几百年取得的进展。中央电视台在2014年曾今推出一个纪录片《互联网时代》，纪录片的重点虽然是互联网，但是在最后的展望部分还是提到了一些关于人工智能的技术，也提到了与人工智能相关的一个新职业——未来学家。这还只是电视媒体相对保守的介绍，反观图书市场对于人工智能的介绍则就百家争鸣，百花齐放了。

　　科幻方面，对于人工智能技术的引入往往持有怀疑否定的态度，例如2001年史蒂文·斯皮尔伯格导演的电影《人工智能》。在工业设计乃至科普方面对于人工智能的态度就显得非常积极正面了，尤其是一些正在从事人工智能相关研究的科技公司推出的作品，如李开复的《人工智能》，媒体人杨澜编著的《人工智能真的来了》等作品。究竟人工智能这项对普通大众看起来高大上的技术有什么作用，有没有潜在的危害，在讨论这些之前我们有必要了解一下人工能够智能的前世今生。

　　由中信出版集团出版，英国伦敦城市大学人工智能方向博士乔治·扎卡达基斯编著的《人类的终极命运》一书中对人工智能的前世今生，起源经历进行了详细的介绍。在这本书中介绍的关于人工智能的过去可能是很多介绍人工智能技术的同类书籍没有介绍到，同类书籍对人工智能技术大加渲染的今天乃至充满希望的明天的相关展望在本书中则是相对简略的介绍。这样的编排方式做到了重点突出，进退有度。

　　全书正文一共分为三大部分十六个章节，作者从人类的起源开始谈起，从最初的心智话题谈起，可能有的读者在看到这里的时候会觉得奇怪：人类进化的历程与人工智能究竟有什么关系？人类的演变流程已经有很多的考古学家，人类学家给予了非常专业的解答，作者在这里横插一杠是为了什么？从本书的前面三个章节的内容里面我们可以看到在作者的笔下可以从人类的心理角度出发去理解人工智能的出生，现代心智的演变与机器人的产生的联系。作者从心理学的角度为我们揭示了智能机器产生的必然性。

　　如果前面三个章节你能够稍微感受到现代心智与机器人（人工智能的前身）之间的联系，那么接下来的章节中作者从计算机技术的角度分析了人工智能诞生的历程就更容易理解了。

　　总的来说本书对于人工智能的起源发展历程从心理学，计算机技术乃至哲学三个角度给予了高度的重视，从作者讲述的这三个方面也能够感受到作者对人工智能技术的前景的肯定。当然，人工智能的引入和运用会不会对人类产生威胁，人类应不应该对人工智能设防，这些内容在本书中作者也给出了自己的观点。本书作为一部了解人工智能起源发展的科普书籍还是很有参考价值的！

　　《人类的终极命运》读后感(七)：人工智能为了自身的繁衍，一定会杀死人类，结束人类这个肮脏的、丑陋的、低级的碳基生命。

　　这本书系统的讲解了，人类智能的发展一直到人工智能时代的到来。所面临的一些预想，以及对人工智能的担忧和美好向往。作者不仅探讨了历史、文学、哲学、数学、逻辑学、信息科学、神经科学、计算机科学等等十几个领域的学科，还融合了信息论、控制论、不定性论等许多的专业术语和概念，真可谓是一本挑战认知的书籍。一路读下来，觉得受益匪浅，不过很多知识点，很是烧脑。

　　第一部分：

　　人类意识的产生有其进化的特征以及脑科学的物质基础，关于二元论、还原论以及人类意识的哲学评论占据了大量篇幅，作者推论人类发展的飞跃源自于语言的产生。

　　语言基因的突变是导致“现代心智大爆炸”的真正原因。也正是语言的力量引发了我们的认知。 我们有了语言，有了认知，有了意识，有了智慧，开始统领地球的一切，成为了地球的主宰。

　　例如：当早期人类开始说话时，语言带给了我们很多优势，我们传递信息就变得非常灵活。

　　比如，同样是看见了一只老虎，猴子发出的叫声可能表示“小心，有老虎”，或者“小心，有危险”，它的同类听到这些信息后就会一哄而散，四下逃开。

　　但是人类有了语言后，表达就灵活多了，我们可能就会说：“大家请注意，前面不远处有一只老虎，我们要不要杀掉它呢？如果杀它的话，我们是从正面进攻，还是从侧面包围呢？”

　　你看，语言的灵活性就可以让人类的行动变得更加灵活和机敏。

　　通过语言来架构一些想象的共同体，编织出一些共同虚拟的故事，比如鬼魂、神话、精灵、寓言、宗教等等。包括国家、民族、公司等等这些概念，也都是通过语言虚构出来的。

　　当我们的祖先意识到生命是短暂的，死亡终会征服一切时，艺术为我们提供了某种意义，它编织了我们的信仰，引导了我们对自身的思考。 就在4万年前，转瞬之间，我们就懂得了艺术，并开始在洞穴中绘制壁画，开始雕刻、吹笛子、跳舞、用珠串和颜料装饰身体……

　　很多考古学家认为，有绘画的史前岩洞是一种进行魔法仪式的地方。雕刻在低矮壁龛里的雕塑展示了人类虔诚的信仰。

　　第二部分：

　　是关于计算机的产生与发展，图灵完备的概念是计算机的起源，关于软硬件的二元论与身体与意识的二元论是人类语言隐喻发展的产物，人类的进步中的幻想以及基于幻想文学作品的技术进步是实现隐喻的过程，可以说人类的进步往往建立在无数人对隐喻的幻想促进的技术进步。而作者推论目前的计算机技术由于基于逻辑，不具备完备性，无论计算能力如何进步也不太可能产生表面随机的人类意识。唯一的方法可能是基于助记器的仿人工神经元技术。

　　未来的人类会是什么样子？

　　这是如今很多人都很关心的话题。如果有人问你：“未来的人类有可能变成机器吗？”

　　科学家霍金认为，将来的人体可能变成“半人类半机器”的形式。他说，“我们将不再受自身生理结构的局限，而是变成一种生物和机器的混合物。”未来的科学家和机器人专家也纷纷表示，人机融合是未类发展的一个大趋势。

　　根据人机结合的程度加深，我们就变成了非人类，我们有了更强大的能力，更健康的身体，我们无所不能，还能永生不朽。这听起来的确是个好办法。但是，当植入物的技术真的越来越强大时，机械植入物就变成了欲望的载体。

　　我们每个人都希望凭借这种技术，获得想像的力量，在这样一个消费主义时代，一切都可以明码标价。这可能会直接影响到社会、政治，以及我们对未来和对自我的理解。

　　而人类也将会面临更大的挑战，比如人性道德问题；比如交易问题；比如富人可以购买到更优质的植入物，从此比穷人更聪明更强大，也可能从此获得永生；比如我们该如何理解和定义自我，我们是人类还是机器呢？这些问题现在我们就要去思考如何去解决。否则将会变成今后社会的主要矛盾。

　　可以想象那个时候的人，就不用死记硬背任何东西了，人类过往的所有知识都可以直接输入至大脑的储存器中，那个时候人们能力的优劣比什么？创造力？想象力？

　　第三部分：

　　从机器是否能具备意识谈起，按照正确的思路，理论上是具备可能性的，问题在于人类大脑的进化特征决定了机器产生意识需要从神经仿生的神经元开始，然后通过进化符合人类成长的特征，进化的特点决定了人类不可能操控真正的机器人工智能，而人工智能具备意识后如何选择，我们不能准确推测，但显然不应该过于乐观。机器人在各方面能力超过人类后具备意识，“它们”会怎么做？

　　人工智能研究所的成员对待这种可能性非常认真。他们警告说：“在不远的未来，人工智能会拥有意识，开始自我复制，并征服世界。” 乐观理想主义者设想：人工智能系统会负责我们所有的日常事务，它会帮我们选择正确的一切，比如正确伙伴、正确的专业、正确的职业等等，并且会提前帮我们探索未来所有可能出现的情况，然后帮我们做出最正确的决定。拥有了这样的技术，我们每个人的生活都能达到最佳状态，我们不用再担心犯错和失败，一切听它的就ok了。根据作者的预测，我们未来的生活一定会变得更美好、更富足、更健康，也更有生产力。

　　其实根本不用遗憾我们现在的人赶不上那么好的时代，因为大刘在《三体》中说，生存是宇宙第一原则，所以人工智能为了自身的繁衍，一定会杀死人类，结束人类这个肮脏的、丑陋的、低级的碳基生命。

　　《人类的终极命运》读后感(八)：人工智能

　　人工智能，就是人类设计和制造出来的智能，通过这些智能来解决各种问题或实现某种功能，比如说我们造一个智能屠宰机，我们把猪从这边输入进去，那边就输出火腿、香肠什么的。而且，出于伦理考虑，这些机器对猪实施的还是安乐死。对于一个前现代的人来说，这种机器是“神奇”的，原因就是无法想象其中的缘由；就像当Eccles和彭罗斯等人无法想象意识的来源，因此就假设意识来源于某种神秘的属性或物理过程一样。吉尔兹在《地方性知识》中说，我们并不知道家里电灯电话的具体物理知识，但是我们并不觉得它们神奇；原因正如Sloman和Fernbach所说，我们无需真正知道具体的知识是怎样的，我们只需要知道我们能够了解就足够了，所以他们称之为“知识的错觉”。

　　这也就意味着，所谓人工智能，相当于一种“解决方案”，对应了一种“算法”或“知识”。出于同样的理由，多伊奇在《真实世界的脉络》中说，生命体也是一种针对环境的生存繁衍解决方案，这些知识编码在基因之中。也就是说，人类智能自身也是一种算法。由此引出一种误解，以为这是一种新的柏拉图式的二元论，即存在物质和算法，而且算法还是世界的本源。这是中世纪的知识分子Peter Abelard所探讨的人类智能的一种常见谬误，或许可以说至少在某种程度上是一种波普尔所说的essentialism对应的方法论的错误。扎卡达斯基在本书中即犯了这种错误，以为物质以外的其他“东西”，比如信息，也是一种实际存在的、不同于物质的“实体”，这就导致了二元论。

　　人类，用自己的智能来设计“智能”，做得好，就叫人工智能，但是有时候也做得差，出来就是人工智障。也就是说，不是说人工智能有什么问题，而是说设计这些人工智能的人自己的智能有问题。当然，在人工智能上存在一些别样的争议，即是说，人工智能，能够设计出人类自身这样的“高级智能”？尤其是其中的自我意识、主观感受问题，即如何让机器人像人那样“思考”和“感受”，扎卡达斯基称之为人工智能的皇冠，看谁能摘下来。很可能，这个思路本身就是错误的。正如我之前所说的，生命智能和日常的人工智能，是两种不同的智能；自我意识或qualia是生命智能特有的属性，我不是说不可能在硅基机器上设计出这些功能，而是说你为什么非要在机器上设计出生命特征？真要对应生命设计出来，机器人开始生存和繁衍自身，不统治甚至干死你们人类才怪（糟了，不小心泄露了我的身份）。

　　扎卡达斯基却以为，机器智能和人类智能的差异问题，在于其他一些困难。他引用图灵的话说，我们能发明机器，但是机器只能按照指令行事，不能“创造”新机器。但是，这不是机器的问题，是因为我们设计出来是人工智障导致的。那么问题就变成，“人工智能”是否能够突破这种局限？扎卡达斯基认为不能，他说，我们的智能很简单就能实现的功能，比如行走，对于人工智能来说就是巨大的困难；他还说，人类智能的一些能力，非人工智能可比，如创造力和困难选择都揭示了许多人类的核心特质超越了逻辑的表达能力。这种观点的错误并不隐蔽，显然是把“感觉”上的容易，当作真的容易；就像我们觉得走路不困难，但是走路不是我们设计的，是上帝这个程序员设计的，我们当然不觉得“困难”。以为我们意识中的操作，才是可以形式化操作，无意识过程就是黑暗和神秘而不可解读的休伯特·德雷福斯正是犯了这种错误。

　　扎卡达斯基认为，无法通过计算机或类似的方法来模拟人类的智能。老扎说，哥德尔证明了一个逻辑系统，只能自洽或完备，但是不能自洽又完备。加上海森堡的测不准定理，“揭示了我们获取知识的极限，以及并不存在绝对的知识”。注意，他这里的“不存在绝对的知识”自身就是一条绝对的知识。他说，“主观性被前所未有地加强了”，“总是存在我们只能通过相信来接受的真理”，“从此以后，我们需要和自己的直觉与无知和睦相处”。他引用彭罗斯的说法，相信哥德尔的不完备性定理和图灵对于可判定性问题的不可解证明已经宣判了人工智能的末日：

在1989年的著作《皇帝新脑》中，彭罗斯指出，根据哥德尔的证明，算法无法证明自己的不完备性，但是哥德尔作为一个人类可以证明这一点。哥德尔的直觉发明了用数字系统来证明定理的方法，因此，哥德尔的大脑一定不是在运转一个算法。如果一切现代计算机都可以还原为它们运转的算法，那么人脑一定不是一种计算机。反之亦然，以算法为基础的计算机做不到人类大脑可以胜任的所有事情，总有一些会出差错。永远不会有真正的人工智能。心智的计算理论或者传统人工智能的理论基础因此都是错误的。彭罗斯还指出为什么传统的计算机不能获得人类大脑拥有的直觉，这是因为它们遵从决定论。……并且推论我们的意识一定是基于量子物理的……用以简洁地处理“不可计算的”直觉问题。

　　扎卡达斯基说，图灵曾经想解决这个问题，他的解决办法是“在哥德尔不完备性定理的禁锢中寻找一个后门”，把不可证明的当作公理，或在系统中引入一种随机性，来超越逻辑推理，模拟人的意识。或许这是对人类智能和人工智能的另一个误解。这种看待人工智能的思路是，把人工智能看作一个逻辑系统，整个运作过程都遵循严格的逻辑过程，因此能够实现这样一个结果：输入一个数据，或输入一个fact或truth，能够产出一个精确地答案或truth。这就要求，整个系统，在计算上是完备的，而且是严格逻辑的。但是，人类的智能并非如此。如前所述，人类的智能是个解决方案，而不是一个严格的逻辑系统；一个解决问题的系统不需要是完备的。就像是说“我认为世界上有两种人，一类认为世界上有两种人，一类不这么认为，而我属于后者”，或者罗素的理发师悖论，说一个理发师给小镇上那些不给自己理发的人理发，我们在逻辑上陷入一种迷惘：理发师给自己理不理发？。但是我们从未见到一个理发师因为这个问题，大脑死机或精神崩溃的。甚至没有任何驴，即使它们处在两队草严格的正中间，也会像人们所假设的Buridan的驴那样活活饿死。

　　扎卡达斯基认为，日常生活中的问题，比如选择职业、选对象浙西问题，无法量化，所以无法通过逻辑来进行计算。他说，“你无法利用数学公式过上符合道德的生活”，道德选择并不根据逻辑，逻辑无法理解动机和道德价值，人们是根据“一个自我”，要做什么人，这样的“自我”信念活目标，来做出选择和判断。或许这种错误对应了Searle所提到的人的智能是操作有意义的符号，比如语言，但是机器智能只是操作0、1电位，所以我们的智能比较高级，因为我们“知道”，机器不知道。但是，这种区别不是本质区别，人的直觉、创造力，人的无意识，人的道德感或语言，不过是一种更为复杂的过程，但是本质上也都是逻辑系统。我们比我们设计的系统的高级之处在于，我们所设计的人工智能系统往往是单一系统，所以苦苦寻求能够让这个系统自洽又完备的办法，这是个死胡同。不是说人类智能有某种特异性，不是逻辑的，又不是计算的，而只是我们智能不够智能所以设计的“智能”不够“智能”。

　　现在，除了“物质”之外，我们还在谈论“算法”。但是，算法、信息、意识之类的，算是物质之外的其他的实在吗？这个问题我觉得不难理解。比如说，蚂蚁有一种follow的本能，就是跟着别的蚂蚁留下的痕迹行动。那么，如果我们把一些蚂蚁放在纸上，有时候蚂蚁会一只跟一只爬成一个圆圈。那么，“圆圈”是实际存在的吗？正是这类问题，会让我们熟悉的生活感到陌生，我们称之为“哲学”问题。当然，这个问题同样会让我们的原生智能“迷惑”，并且会犯错，老扎说，认为这是一种存在就相当于承认了二元论，而二元论会引发人工智能上无法解决的困难。当然，更准确说是使得表面上模拟人类智能变得不可能。二元论的一个疑难是，精神如果和物质是不同的存在，那么精神是如何影响物质的。Eccles认为，存在一种“精神粒子”，能够和大脑的神经相互作用；彭罗斯则把意识直接看作是量子层面的一种属性。反过来说，唯物论也需要解释，为什么我们会觉得自己通过“精神”上产生的意志，操纵我们的肉体行为。迪昂的研究显示，有不间断的、自发的全脑神经活动不断在大脑中发生，不同系统写相互协作，达到某种阈值就会产生某种意识活动；那么不妨设想，既然人类智能存在某些预先设定的规则，那么这些活动就可以沿着这些规则到达某些结果或输出，足以解释意识如何指导人的行为。

　　算法、信息、知识等并不对应真正的实体，Dennett称之为free-floating rationale。就像汽车的“速度”，或飞机的飞行“原理”，并不对应某种实体，或说对应某种特别的存在。或许，这就是我们所谓的“形式”的一种。形式和内容，或许就像物质和精神，本身就是一种含混且不精确的概念，当我们细化对世界的认知时，我们需要一套新的概念来进行描述。就像是人的意识，更像是大脑呈现出来的一种属性。霍金和许多其他人，成大脑为硬件，意识为软件，但是并不是说，这个软件可以在大脑上卸载或安装，而是说，一个大脑构成某种形态，才会出现对应的意识，改变了大脑，意识随之改变。因此可以说，你、我，我们每个人都在不断的变化之中。你今天可能喜欢一个人，明天就不喜欢了。所以我有一个比Parfit更激进的观点，即没有恒定的人。老扎以为，这种软硬件的说法，相当于可以把软件从硬件上面取下来，他说“离开了软件，硬件是毫无用处的”，“离开了意识的大脑只能沉睡”，这就是误以为大脑真的就如现在的计算机和软件的这种关系。假如说，我们可以把你的大脑产生的意识复制下来，并且转移到智能计算机上，那么你脖子上这个东西里，依然有你的意识；只不过，现在，在智能计算机里，还有一个“你”，你的意识。世界上就有了两个你。

　　人工智能必然会超越人类的智能。当然，人工智能不需要模拟人类智能，而且我的看法是，千万不要模拟人类智能。你让机器也搞生存竞争，你人类不是引狼入室？人类智能就像人类的脑袋，很小，还不圆，经常出错，计算力很低；当然，人类是相对于当前的人工智障，相比其他动物是很机灵了，但是，相比当前所谓的计算机和网络展示出来的能力也是九牛一毛，就是有些好大喜功的人或骗子嘴里不离的“大数据时代”，不过就是一些功能更为强大的计算或算法而已。AlphaGo在围棋上的威力大家已经见识过，广告商的威力，就像Yuval说的推送广告比他先一步发现他是同性恋，或老扎的美国零售业巨头塔吉特的例子，他们使用算法根据女性购买的商品预测她是否怀孕，结果一个少女莫名其妙接到了许多婴儿用品的优惠广告，原来塔吉特的算法先于她和家人发现她怀孕了。这有什么奇怪的呢？

　　当然，这引发一些人的担忧。我提到过，人有两类，一类悲观，一类乐观。乐观的人欢迎变化，但是悲观的人趋向于保守，对新生事物有戒心，无论是经济、政治、文化上的改变，还是科技的进步，比如有些人对转基因有强烈的排斥，或对人工智能有高度的戒心和忧虑。他们可能会害怕，人工智能会统治人类。德日进曾提出类似全球脑的理论，就像是说，所有的计算机连接起来，构成一个巨大的智慧体；这就类似有些人（Lovejoy？）认为，地球生物圈自己变成了一个智能有机体，Gaia。我记得好像在《基地》中，地球就被描述成这样一个生命体。但这是一种老扎所说的人类古老的原生“拟人”和“故事”本能发作的结果，就像我们把“美国”、“资产阶级”看作和描述为一个活物一样，比如说“美国想如何如何”，但是根本就不存在。更值得担忧的是，人工智能可能进入自己的进化，如雷·库兹韦尔所说，逐渐使得我们无法理解它们。这已经展示出来了，就像柯洁说，AlphaGo的有些棋，一开始他并不理解。这并不表示，人工智能就会统治人类，或消灭人类，因为它们需要如此做的动机。更应该担心的，是人类发展出如Yuval所说的homo deus，就是有一伙人，通过这些超级人工智能工具，剥削和奴役其他人类。到时候，他们根本就不用删帖、劝诫，他们甚至可以直接修改你我的智能，把你我变成一种“奴隶心智”，永世坚决拥护他们的领导，不是说没有反抗的机会，甚至没有反抗的想法，远不是奥威尔、赫胥黎和扎米亚京所能想象的，那才是悲惨啊。