写在前面 ：
“AI会成为人类的终结者吗？”，当前，这已经是一个非常流行的话题。然而，由于很多人对于心灵哲学的了解非常有限（如果不说他们对于哲学的了解仅限于中学阶段的马哲的话），相关地谈论基本上流于民科化、科幻化。
本文是几年前写给某读书会的拆书稿，书是英国伦敦城市大学人工智能方向博士，计算机系统工程师、科学作家、小说家、剧作家乔治·扎卡达基斯（George Zarkadakis）的作品《人类的终极命运》（In Our Own Image），虽然在瞬息万变的今天，这算是一本“老书”了，然而书中某些观念，仍颇具达地知根之效。
雅典的德尔斐神庙中，有一句尽人皆知的神谕：“认识你自己。”有人说，这就是最高的智慧。然而，两千多年来，这句话却成了人类至今也未能填满的一个巨坑，近年来，随着人工智能的发展，这个坑貌似越来越深了。在一场世纪对弈中，AlphaGo 大比分战胜李世石。人们惊呼围棋这一人类智慧最后的堡垒也被攻破了。难道在我们对自身还一知半解的时候，就要被自己的造物淘汰吗？这让我们无法接受。反过来，因此就要叫停人工智能吗？考虑到它可能带来的便利与进步，我们同样难下决心。何况，无论是继续还是停步，都不是一个人、一群人说了就算的。此刻，我们仿佛都被绑在一辆冲向迷雾深处的列车上，不知道前方等待我们的，是怎样的命运。
今天给大家介绍的这本《人类的终极命运》就试图去回应这些困惑与焦虑。本书作者是英国伦敦城市大学人工智能方向博士，计算机系统工程师、科学作家乔治·扎卡达基斯。在本书中，作者审视了现代人类心智的演化，心灵哲学和神经科学对心智的认识，以及计算机技术的发展，从文学、哲学和科学三个方面探讨了为什么人工智能如此重要又如此迷人，以及我们能否制造它。最后阐述了人类和人工智能如何相处这一关键问题。
接下来，我们就从以下 3 个维度来解读这本书：
- 我们为什么要制造人工智能？
- 我们能否制造真正的人工智能？
- 我们与人工智能如何相处？
我们为何要制造人工智能 ？
人们感到后悔时，总会抱怨“早知如此，何必当初？”。然而，如果后悔可以令人明智，这话可能早就不存在了。而今，关于人工智能的悲观论调比比皆是，有人说世界最终会被 AI 统治，更有人说 AI 会消灭我们。连伟大的霍金都联合一帮科学家来警告我们小心人工智能。于是我们想，要是当初不搞这玩意儿就 OK 了。然而，果真如此吗？通过回顾人工智能的历史，我们就会知道，正是因为我们有“心智”这种东西，才会试图去理解自己，而理解自己最好的办法就是创造像我们自己一样的事物，像我们一样行动、一样说话、一样感受，这就是以我们自身的形象创造的、具有智能的造物。在距今 4 万年前的史前时代，这种造物还只是狮头人身雕塑这种艺术品，而现在，我们叫它人工智能。这种创造智能生物的内心冲动，可说是伴随着人类历史的整个发展进程。
那么，所谓“心智”，又是怎么来的呢？学过社会发展史的人，肯定会说是直立行走，解放双手，然后使用工具。不过，研究发现，在长达百万年的时光里，人们使用的工具非常单一，只有手斧和一点别的东西，几乎没什么进展。所以，科学家推测，一定有什么东西突然开出了“临门一脚”，使得现代心智得以大爆发。现在我们相信，这个东西就是语言。
语言的诞生，很可能源于一次极偶然的基因突变。早期人类的语言最大的功能就是八卦，最重要的功能就是联络感情。后来，语言才发展成我们现在所说的“通用语言”，而“通用语言”的进化优势，造就了通用智能。现在人工智能研究的核心目标之一就是让人工系统可以和我们以通用语言沟通。
通用语言也使人获得了“叙事”——也就是“讲故事”的能力。“讲故事”可不只是消遣，在人类种族发展史上，“讲故事”的能力极大地影响了艺术和科学的进展。自打冰河时代以来，我们就一直在讲故事。古希腊的故事是诸神向无生命的物体中吹入灵气，浪漫主义作家的故事则是闪电带来了生命力的电流，而对于 21 世纪的软件工程师，机器中的幽灵则变成了代码。
最后，随着通用语言的演化，我们又都成了二元论者。“二元论”的著名代表，是大哲学家笛卡尔，他有一句名言，叫做“我思故我在”。不必深入探究这话到底什么意思，只从字面上就可以看出，笛卡尔将“思”与“在”，“心”与“身”，分开来看。二元论思想认为心智独立于身体，对于现代的计算机架构最大的影响就是催生了硬件和软件的分离、信息和载体的分离。最终，我们也变成了二进制的生物：既生活在原子的世界里，又生活在比特的数字世界里，我们成了“后人类”，天堂变成了一台云端服务器，而灵魂被软件取代。一些科学家甚至认为把思想保存在计算机中，就可以获得永生。
然而，神经科学家的看法，又不一样。从经验主义和控制论出发，他们认为多个脑区的信息在新皮层整合在一起，构成了心智。整合过程中，多层的反馈循环创造了一个动态平衡。意识从混沌中诞生的过程，被称为“涌现”。不过仅仅是控制论反馈，还无法让高级意识涌现，拥有自我的心智还必须具有身体。正像我们人不会只有一个脑袋就可以成为人一样，《黑客帝国》中表现的“缸中之脑”的设计，实际上是不可能让高级意识涌现的。
心灵哲学和神经科学两个源流，也开创了制造人工智能的两条道路，下面我们就来看看这两条道路的进程。
我们能否造出真正的人工智能 ？
前面说过，语言最初的功能就是八卦。人们狩猎、采摘，劳作一天之后，一起聊天，感叹生活艰辛、生命无常，而通用语言后来才出现，然而，通用语言并不完美，它不关心精确性，却喜欢使用隐喻表达意义，一句话往往有太多不同的意思。比如，我们说人类的技术进步，常常会以人类怎样飞上天空为例，从最初的鲁班、达芬奇，到莱特兄弟，我们对自己的创造力感觉良好。然而，飞机真的在“飞”吗？这个看起来有点像鸟的东西，在天空中快速运动，然而却从来不挥动翅膀。实际上，它只是依靠升力滑翔，我们也只是在比喻意义上使用“飞”这个词。我们引以为豪的飞机，和鲁班、达芬奇努力的那个方向，完全不同。当我们讨论人工智能的时候，也常常在隐喻中迷失。计算机是在“思考”吗？“智能”和“意识”是一回事儿吗？大脑是个“计算机”吗？事实上，我们经常无意识地安于语言这种“糊里糊涂”的现状。最现实的例子就是，我们常受到无良媒体的各种欺骗而不自知。
然而，也有人试图“净化”语言，制造一种类似数学般精确、没有歧义和模糊的、像水晶一样清晰的语言。上个世纪初英国语言哲学家弗雷格、罗素和怀特海这些人就在做这件事。他们试图构建一种完美的逻辑性语言，使用纯粹的符号逻辑来思考一切。通过这种完美语言，我们可以建立一种叫做“形式系统”的东西，此后，只要遵循系统规则，就可以我们走向真理，绝对不会出错。
一个形式系统首先要自洽，系统中所有真理都不能相互违背；其次要有效，只要前提正确，推论就一定正确；最后要完备，是说系统中如果一个命题是真的，就一定可以被证明。看起来，这三个要求并不很高。但是，真没那么简单。奥地利科学哲学家哥德尔证明了一个形式系统，如果是完备的，就一定不是自洽的，如果是自洽的，就一定不是完备的，正所谓鱼和熊掌不可兼得。要保证一个系统所有命题为真，且都可被证明，就必须承认存在一些不可被证明的真理，也就是“公理”。这就是著名的哥德尔不完备定理。其实我们回顾一下罗素提出的著名的“理发师悖论”，就明白哥德尔在说什么了。小镇上唯一一位理发师有一个规矩，他只给自己不给自己刮胡子的人刮胡子，那么他该不该给自己刮胡子呢？如果他给自己刮胡子，他就不能给自己刮胡子，因为他是理发师；如果他不给自己刮胡子，他就该给自己刮胡子，因为他是镇子上不给自己刮胡子的人之一。如果这个命题证明为真，就会出现悖论，理发师永远也不能知道他该不该给自己刮胡子，自洽性和完备性是矛盾的。
横空出世的哥德尔，粉碎了弗雷格等人穷其一生追求的目标。然而，这些逻辑哲学家的研究还是极大地推动了计算机科技的发展。他们最突出的贡献在于催生了编码逻辑规则的计算机语言。软件就用这种语言写成。此后，克劳德·香农演示了如何用电子方法执行逻辑过程，图灵与冯·诺依曼建造了可以解决几乎所有逻辑问题的电子机器。巴贝奇区分硬件和软件的思路，则成为现代计算机架构的基础。硬件和软件的分离造就了计算机工程的巨大进步，让机器得以按照“摩尔定律”实现指数级前进，算力每过 18 个月就提升一倍。
然而，一个更大的问题出现了。按照这个思路走下去，我们可以获得超强算力的计算机，可是，这算是获得人工智能吗？
二十世纪最伟大的哲学家之一维特根斯坦认为任何词语的意义并不是来自定义，而是来自使用，我们并不需要事先定义就可以有意义地使用语言。意义无法通过“形式逻辑系统”获取，意义只是语言使用者之间的社会构建。
人工智能的研究恰好呼应了他的观点。尽管我们可以编程一台计算机，让它处理信息，让它自动化，但我们却无法让它理解意义。这是因为计算机使用形式语言编码，而我们人类用来交流的却是自然语言，二者根本不一样。著名的“莫拉维克悖论”就是最好的说明：计算机在一些任务上超越了成人智力，例如下棋。然而让它获得一些一岁小孩都具有的能力却极为困难甚至不可能，例如一些感知和运动能力。科学证明，编码认知能力其实并不难，人工智能的真正难题是编码感知和动作。研究者一直假设整个世界都可以编码成符号逻辑，但不得不承认，还有许多不能用符号逻辑表达的知识。比如，选择什么职业，是分手还是结婚，留在二三线城市还是挤进北上广深，这些都难以量化其后果，所以非常困难。而且，人们并不完全依照经济理性行事。比如，人们可以比较学金融和学中文毕业生工作后的收入，但如果每个人都这样择业，根本不会有人学中文了。因此，始终有一些因素使人们做出看来并不理性的选择。这时，我们的决定依靠我们所坚持的“我们是谁”以及“我们想成为什么样的人”。事实上，正是这些深层的价值观让我们成了我们自己。让世界上还存在着一些不会随波逐流、投机取巧，不会丧失道德准绳，错失人类潜在意义的人。总之，人类的很多核心特质都超越了计算机的逻辑表达能力。
那这么一说，人工智能就永远是一种幻想了吗？不是。山重水复疑无路，柳暗花明又一村。如果我们打算建造一台有意识的机器，就必须先突破现有的思维框架，因为符号能力只能带我们走到这了。我们必须颠覆软件和硬件的二元论，探索其他路径。道法自然，看看自然这个最伟大的工程师是如何做的吧。从最简单的化学元素开始，自然在 40 亿年前就开始了意识造物的演化。她证明由物质可以创造意识。模仿自然，跟随自然的方法，我们也可以重新发明人工智能。
生物学研究显示，生物系统是自我生成的，正确的初始条件，简单的互动，最终可以涌现出复杂的层级网络特征。将特定的化学物质放在一起，配合以一定的温度和压力，独立的部分“被吸引”形成自组织，最终形成生命。想一想血管如何在体内分叉，然后再观察一下河流三角洲。两种模式都是复杂计算经过自组织迭代的结果。现在模拟神经计算机的研发，也可以模拟生命和认知。我们不再编写软件，而是利用互相连接的类神经器，通过组成细胞自动机实现自我生成。这一思路的关键是：我们不是在计算机中模拟人类大脑，而是从头开始用硬件构建大脑的复制品。这种制造出的人工大脑，可以获得和生物神经元网络一样的能力。一开始，它可能会非常简单原始，近似于昆虫，但经过高速进化迭代，它会很快达到灵长类的智能，最终达到和超过人类。
瓦茨拉维克在《改变》一书中，曾提出两种改变。第一种是第一序改变，只是系统内部的调整型改革，最终各种变化都被系统消化，无法形成实质性变化；另一种变化被称为第二序改变，是从系统中跳脱出来，从更高的层级，突破旧有陈规来改变，这是革命性的改变。比较人工智能发展的两条进路，我们可以看出，通过不断改进形式逻辑语言来发展人工智能只是第一序的改变。我们必须另辟蹊径。模拟神经计算机，就是一种第二序改变的方式。它可以最终为我们创造出真正的人工智能。
我们与人工智能该如何相处 ？
现在，我们看到了制造真正的人工智能的愿景。然而，也许人就是患得患失的生物，我们一方面期待人工智能时代到来，一方面又心怀疑虑甚至恐惧。天地不仁以万物为刍狗。世界存在并不关心我们的好恶，智能计算机，各种智能“物品”，终将成为我们日常生活和环境的一部分，与人类社会无间互联。人工智能极有可能彻底改变世界的面貌，改变人类对世界，对自身的认知。能否与这样一种新型生物好好相处，真的会决定我们的终极命运。
目前对人工智能的担忧，主要集中在三方面。一是工作机会。许多经济学家认为人工智能会取代大部分白领工作。然而，新技术带来的革命性变化，不会只影响就业市场，在系统性变化的大背景下，工作机会并不是一个无解的问题。想当初工业时代刚刚来临时，很多工人甚至砸毁机器，认为是新技术使他们失去了工作机会。然而给予一定的时间，从长远看，技术进步带来的生产力提升终将会抵消就业市场的暂时性困难。
另一种疑虑在于社会政治。回顾一下苏联解体的历史，我们发现，尽管动用了大批数学家搞计划，但计划的不精确性仍然导致了经济畸形和溃败。一句话，数学家也是人，人就可能出错。然而人工智能使得计划犯错的可能性大大降低，资源走向精准配置的可能性大大提高，利于我们改变自由资本主义存在的一些弊端。不过另一方面，只要是人还在掌握经济决定权，我们也不得不警惕哈耶克所说的“通往奴役之路”。这似乎启发我们，无论技术进展到什么程度，社会管理的公平正义，始终是需要优先解决的问题。
最后的疑虑在于生存的意义。毫无疑问，人工智能将会使得我们人生的不确定性大大降低。换句话说，会避免我们犯错误，但是，这真是我们想要的吗？错误常会导致痛苦，因此我们从来都认为，避免错误是好的。然而，犯错也让我们更智慧，让我们成熟，让我们对自己的行为负责。错误还让我们同情他人，理解他们也会犯错误。容错能力塑造了人类，明确了我们最为珍视的道德价值，包括慈善和关怀那些比我们不幸的人。可是，如果不确定性被人工智能清除干净，就不存在任何失败了。我们会越来越变得和机器一样，失去我们的人性，而获得了本来我们并没有的“机器性”。我们创造的机器最终让我们变得和他们一样。不知道这是不是一种讽刺。在作者看来，这才是人工智能给我们带来的最大的挑战。
结语
以上就是《人类的终极命运》这本书的主要内容。
人类自身的命运，其实就是人类最大的未解之谜。人工智能是一种与众不同的技术，不仅因为它能彻底地改变我们的社会、经济和我们居住的星球，也因为它关乎我们自身——我们是谁？我们如何思考、沟通？是什么让我们成为人类？回顾人工智能的演化史，分析被心灵哲学和神经科学所影响的人工智能的发展进路，并且推演我们和人工智能共同的未来，这一切最终归结于我们自身需要怎样的人生，如何保障我们生存的意义。
超级人工智能来临之前，恰恰是不确定性提供了这种意义。正因为不知道明天会发生什么，我们才会努力追寻，才会去奋斗，去爱，去希望，然而当一切都尽在掌握，确定无疑，从一出生就可以看到自己的墓碑，我们生存的意义又在哪里呢？对这一问题的回答，将会决定人与人工智能二者的共同命运。