Stephen Wolfram
斯蒂芬·沃尔弗拉姆是一位科学家、发明家，也是沃尔弗拉姆研究公司的创始人和首席执行官。他创建了符号计算程序Mathematica及其编程语言Wolfram，以及知识引擎Wolfram|Alpha。著有《一门新科学》（A New Kind of Science）一书。
布罗克曼谈斯蒂芬·沃尔弗拉姆
近40年来，斯蒂芬·沃尔弗拉姆一直致力于计算思维的开发和应用，他在科学、技术和商业领域做出了许多创新。
1982年，他23岁，他的论文《作为简单的自组织系统的元胞自动机》（Cellular Automata as Simple Self-Organizing Systems）发表之后，又出现了无数力图理解自然界复杂起源的重要科学文献。
就在这个时候，斯蒂芬走进了我的生活。我成立了“现实俱乐部”，这是一个非正式的知识分子聚会，他们在纽约市相聚，在不同学科的知识分子面前展示他们的研究工作。（1996年，现实俱乐部上线，网站是edge.org。）我们的第一个演讲者是谁？当然是“神童”斯蒂芬·沃尔弗拉姆，当时他已经在普林斯顿高等研究院工作。我清楚地记得，他坐在我家客厅的沙发上，神情专注，在众人面前，他不间断地讲了大约一个小时。
从那时起，斯蒂芬就开始致力于使世界上的知识变得易于计算和获取。他的Mathematica软件是现代技术计算的权威系统。Wolfram|Alpha能够使用人工智能技术计算出专家级别答案。他认为他的Wolfram语言是人类和人工智能的第一种真正的计算通信语言。
4年前，我们又见面了，当时我们约定在马萨诸塞州的剑桥见面，就人工智能问题进行自由讨论。斯蒂芬走了进来，打声招呼便坐下来，看着摄像机开始讲话，两个半小时没有停下来。
对这段谈话进行编辑，便有了接下来的这篇文章。这段谈话相当于沃尔弗拉姆的大师级课程，也是结束本书的最好方式。20世纪80年代，斯蒂芬在“现实俱乐部”所做的演讲带动了一批不断发展的智力型企业，产生了大量的思想者，在本书中，这些思想者将他们的研究工作呈现给其他人，呈现给大众。相信斯蒂芬的这段对话能起到同样的效果。
在我看来，所谓技术，就是让机器自动执行人类的目标。过去人类的目标是用铲车而不是我们的手来移动物体，现在我们可以用机器自动完成的工作是精神上的而不是身体上的。显然，长期以来我们亲自完成并引以为傲的很多工作，现在都可以用机器完成了。这样一来，未来人类景况如何呢？
人们谈论智能机器的未来，谈论它们是否会接管这个世界，是否会决定为自己做些什么。但是目标并不是自动生成的。我们需要有人来定义机器的目标，这个目标应该是它试图执行的目标。如何定义目标？对于特定的人来说，目标往往是由个人的历史、文化环境、人类文明的历史来定义的。目标是人类独有的。对于机器而言，我们可以在制造它时给它一个目标。
什么样的东西有智慧、目标或目的？现在，我们知道了一个很好的例子，那就是我们——我们的大脑，我们人类的智慧。我曾经认为，人类的智慧远远超出了世界上自然存在的任何事物，是一个复杂的进化过程的结果，与其他万物不同。但做过科学研究后，我意识到，情况并非如此。
例如，人们可能会说：“天气有它自己的思想。”这是一种万物有灵论的说法，似乎在现代科学思想中没有它的位置。但事实上，这并不像听起来那么蠢。人类大脑是做什么的？大脑接受一定的输入，计算事物，导致一定的动作发生，产生一定的输出。就像天气一样。各种各样的系统实际上都在做计算，不管是大脑还是对热环境做出反应的云。
我们可以说，人类的大脑所做的计算要比大气的大脑做的计算复杂得多。但事实证明，不同类型的系统所做的各种计算之间存在广泛的等价性。这使得人类的处境有些尴尬，因为看起来人类不像我们自己所想的那样特殊。就计算能力而言，所有这些不同的自然系统几乎都是一样的。
使我们不同于所有其他系统的是我们的历史，这段历史让我们有了目的和目标的概念。当有一天我们办公桌上的盒子能像人脑一样思考的时候，从本质上来说，它仍然没有目标和目的。这些都是由我们的特殊性决定的——我们特殊的生物性、特殊的心理，以及特殊的文化历史。
当我们思考人工智能的未来时，我们需要思考目标。目标是人类的创造，也是人类文明的贡献。我们越来越自动化地执行这些目标。在这样一个世界里，人类将有怎样的未来？留给未来人去做的会是什么？我有一个项目，研究的是人类目标在历史长河中的演变。今天我们有各种各样的目标。但如果回顾1000年前，人们的目标完全不同：如何得到食物？怎样才能保证自己的安全？在现代西方世界，对于大部分人来说，你一生中不用花很多时间去思考这些目标。而按照1000年前的观点，人们今天的一些目标，例如在跑步机上锻炼，则看起来非常奇怪。在1000年前，这听起来实在是一件疯狂的事情。
人们将来会做什么？我们今天的许多目标都是由某种稀缺造成的。世界上资源稀缺。人们想得到更多的东西。在我们的生命中时间本身就是稀缺品。最终，这些稀缺都将不复存在。最引人注目的肯定是我们实现了人类的长生不老之梦。这个梦想究竟会是在生物学上还是在数码上实现，目前尚不清楚，但总有一天会实现。我们目前的许多目标在某种程度上都是由于人类终有一死：“我的人生只有短短几十年，所以我最好拥有这个或那个。”如果我们的大多数目标都是自动执行的，那会怎样？我们今天的这些动机都将不再存在。我希望找到答案的一个问题是，未来人类的后代最终会选择做什么？其中一个可能的坏结果就是他们总是玩电子游戏。
◆◆◆
“人工智能”一词的含义在技术语言中正在发生变化。如今，人工智能非常流行，人们对它的含义有了一些了解。早在20世纪40年代和50年代，当计算机刚被开发出来之时，书籍或杂志上关于计算机的文章常用的典型标题是“巨大的电子大脑”。当时人们认为，就像推土机和蒸汽机等自动化机械一样，计算机也将自动化处理智能工作。事实证明，这一想法比许多人预期的更难以实现。起初，有很多人报以乐观态度；在20世纪60年代早期，政府在这上面投入了大量资金。但基本上没有任何成效。
在那个时代的电影中，对电脑的许多刻画都非常有趣，像科幻小说一样。有一部可爱的电影叫《电脑风云》（Desk Set），讲述了一台IBM电脑被安装在一家广播公司里，使得每个人都失业的故事。说它可爱是因为电脑会被问到一堆需要参考图书馆藏书才能回答的问题。当我和同事们在构建Wolfram|Alpha时，我们的一个想法就是让它能够回答《电脑风云》这部电影里所有要参考图书馆藏书的问题。到了2009年，它做到了。
1943年，沃伦·麦卡洛克和沃尔特·皮茨提出一个模型，用来解释在形式上和概念上大脑如何运作，这个模型就是人工神经网络。他们看到他们的大脑模型也能以与图灵机同样的方式进行计算。根据他们的研究工作，我们可以制造出像大脑一样的神经网络来充当普通的计算机。事实上，ENIAC的制造者、约翰·冯·诺伊曼和其他人在计算机上所做的实际工作并非直接来自图灵机，而是通过神经网络。
但简单的神经网络并没有起太大作用。弗兰克·罗森布拉特（Frank Rosenblatt）发明了一种名为感知器的学习设备，这是一种单层神经网络。20世纪60年代末，马文·明斯基和西摩·佩珀特（Seymour Papert）写了一本书，名为《感知器》（Perceptrons），书中他们基本上证明了感知器不能做任何有趣的事情——这是正确的。感知器只能对事物进行线性区分。所以这个想法或多或少被摒弃了。人们说：“这些人证明神经网络不能做任何有趣的事情，因此没有神经网络可以做任何有趣的事情，所以我们还是忘记了神经网络这回事吧。”这种态度持续了一段时间。
与此同时，还有一些其他方法来研究人工智能。一种是基于对世界运作的形式的、符号性的理解，另一种方法则基于统计和概率。关于符号性的人工智能，有一个测试案例是，我们能教计算机做积分之类的事情吗？我们能教计算机做微积分吗？还有一些任务如机器翻译。人们认为这些很好地说明了计算机的能力。不过，到了20世纪70年代初，该方法失败了。
然后出现了一种向专家系统发展的趋势，这种系统出现于20世纪70年代末80年代初。其想法是让机器学习专家使用的规则，从而找出具体怎么做。后来这种方法也逐渐消失了。在那之后，研究人工智能几乎就等同于发了疯。
◆◆◆
我小时候就对你们如何制造人工智能一样的机器感兴趣。我特别感兴趣的是，你们如何利用人类在文明中积累的知识，并基于这些知识自动回答问题。我想过你们是如何用符号来做到这些的，你们建立一个系统，将问题分解成符号单位，再回答这些问题。当时我在研究神经网络，但没有取得什么进展，所以我把它搁置了一段时间。
2002年中期到2003年期间，我再一次思考这个问题：要建立一个计算知识系统都需要什么？到那时为止我所做的研究几乎都足以表明，我最初对如何做到这一点的想法是完全错误的。我最初的想法是，为了建立一个严谨的计算知识系统，你首先必须建立一个像大脑一样的装置，然后给它提供知识，就像人类在标准教育中学习一样。现在我意识到，在智能和简单计算之间没有一条明确的界线。
我曾假设有某种神奇的机制，使我们的能力远远超过任何只做计算的东西。但这种假设是错误的。正是这种理解使我创造了Wolfram|Alpha。我发现，你可以收集大量的世界知识，然后根据这些知识自动回答问题，这基本上只使用计算技术。这是工程学的另一种方法，这种方法更类似于生物学的进化。
实际上，当你构建一个程序时，你通常做的就是一步一步地构建它。但是你也可以探索计算宇宙，开采那个宇宙的技术。一般来说，这和物理开采所面临的挑战是一样的：比如，你找到具有特殊磁性的铁、钴或钆的矿源，然后你要把这种特殊磁性转化为人类可用的形式，转化为你想要的技术。对于磁性材料，做到这一点有很多方法。就程序而言，情况也是一样的。有各种各样的程序，甚至有可以做复杂事情的小程序。我们可以为了一些有用的人类目的而制造这些程序吗？
你如何让人工智能实现你的目标？一种方法是用人类的自然语言与它们交谈。当与Siri说话时，这个方法很好用。但如果你想说一些更长更复杂的话，那就不太管用了。你需要一种计算机语言，它能以一种逐步建立起来的方式来表示复杂的概念，而这在自然语言中是不可能的。我的公司花费大量时间所做的就是构建一种基于知识的语言，它将世界知识直接融入语言中。创建计算机语言的传统方法是生成一种语言，这种语言代表计算机知道的操作：分配内存、设置变量值、迭代、更改程序计数器等。从根本上讲，你是在让计算机按你的方式做事。我的方法是创造一种不是迎合计算机而是迎合人类的语言，接受人类的任何想法，并将其转换成计算机可以理解的某种形式。我们能把科学和数据收集方面积累的知识封装成一种可以用来与计算机通信的语言吗？这是我近30年来取得的巨大成就——我们能够做到这一点。
在20世纪60年代，人们会说：“当我们能够做到这一点时，我们就会知道我们拥有了人工智能。”“当我们能做一个积分时，我们就会知道我们拥有了人工智能。”“当我们可以和计算机交谈，使它看起来像人的时候。”等等。但困难在于：“哦，天哪，计算机对世界的了解还不够。”你可以问计算机今天是几号，周几，它也许能回答这个问题。但你问它总统是谁，它可没办法告诉你。这时，你就知道你是在和一台计算机交谈，而不是一个人。但是现在，那些尝试将Wolfram|Alpha连接到他们的图灵测试机器人的人，会发现机器人每次都失败。因为你所要做的就是询问机器复杂的问题，它会回答这些问题的！但人类做不到这些。等到你问了它一些完全不同的问题时，没有人知道所有这些问题的答案，但是系统会知道。从这个意义上说，我们已经在那个水平拥有了很好的人工智能。
还有一些任务对人类来说很容易，但从传统意义上来说对机器却很难。比如识别视觉对象：这个东西是什么？人类可以识别它并进行简单的描述，但计算机完全做不到这一点。不过，几年前，我们推出一款图像识别系统，许多其他公司也研发过类似产品，我们的这款产品恰好比其他公司的要好一些。你让该系统看一个图像，大约1万种东西，它会告诉你这个图像是什么。给它看一幅抽象画，看看它看出了什么，这很有趣。但它做得很好。
它使用的神经网络技术就是1943年时麦卡洛克和皮茨所设想的那种技术，我们很多人在20世纪80年代早期就研究过该技术。早在那时候，人们就成功地进行了光学字符识别。他们把字母表上的26个字母取下来，说：“好吧，那是A吗？那是B吗？那是C吗？……”对于26种不同的可能性，这可以做到，但如果有10000种不同的可能性，这就做不到了。不过这仅是一个扩大整个系统的问题，在今天已成为可能。英语中可能有5000个可以画出来的常用名词，如果再加上一些特殊的植物和甲虫（这些植物和甲虫如果人们经常看到就会认出来），就有10000个。我们所做的就是用3000万张这些物品的图像来训练我们的系统。这是一个庞大、复杂、混乱的神经网络。网络的细节可能并不重要，但要进行训练则需要大约千万亿次的GPU（图形处理器）操作。
我们的系统令人印象深刻，因为它几乎可与人类的能力媲美。它的训练数据和人类婴幼儿在其生命最初几年中看到的图像数量大致相同。在学习过程中，至少在我们视觉皮层的第一层，它与人类使用相同数量的神经元进行大致相同数量的操作。这里面的细节不同：这些人工神经元的工作方式与大脑神经元的工作方式几乎毫无关联。但是概念相似，有一定的普遍性。在数学层面上，它由大量函数组成，具有一定的连续性，可以使用微积分方法对系统进行增量训练。考虑到这些属性，系统最终的运作可能与人脑在生理识别中的运作方式相同。
但这是否构成人工智能？智能包括一些基本组件，如生理识别、语音转换到文本、语言翻译等，这些事情人类在操作时都会遇到不同程度的困难。从本质上来说，这些与如何制造出工作方式与人类一样的机器有关系。对我来说，其中一件有趣的事情就是将这些能力融入一种精确的符号语言中，用它来代表日常世界。我们现在的系统可以说：“这是一杯水。”我们可以从一杯水的图片发展到一杯水的“概念”。现在我们必须发明一些实际的符号语言来表示这些概念。
我先从表示数学、技术类知识开始，然后是其他类型的知识。我们在表达客观知识方面做得很好。现在的问题是用一种精确的符号化方式来代表人类的日常话语，也就是发明一种基于知识的语言用于人与机器之间的交流——这样人类就可以阅读这门语言，机器也可以理解它。例如，你可以说：“X大于5。”这是一个陈述句。你也可以说：“我想要一块巧克力。”这也是一个陈述句。里面有一个“我想要”。我们必须找到一种精确的符号，用来表示以人类自然语言表达的人类欲望。
在16世纪末，戈特弗里德·莱布尼茨、约翰·威尔金斯（John Wilkins）和其他一些人都在关注他们所称的哲学语言，也就是对世界事物的完整的、普遍的、象征性的表达。你可以看看约翰·威尔金斯的哲学语言，看看他是如何划分当时世界上重要的东西的。自17世纪以来，人类处境的某些方面一直都是相同的，但有些方面差异很大。他写了大量关于死亡、关于人类各种痛苦的章节；在今天的本体论中，这些内容就少得多了。看看今天的哲学语言与16世纪中期的哲学语言有什么不同，这很有趣。这是衡量我们进步的一个标准。多年来人们做过很多这样的尝试，把一切形式化。例如，在数学方面，怀特海和罗素在1910年出版的《数学原理》（Principia Mathematica）是最明显的一次尝试。戈特洛布·弗雷格（Gottlob Frege）和朱塞佩·皮亚诺（Giuseppe Peano）之前也做过很多尝试，相比而言在表现上稍微温和些。归根结底，对于究竟什么东西应该形式化，他们错了：他们认为应该形式化一些数学证明的过程，结果大多数人并不关心这些。
关于图灵测试的现代模拟，是一个有趣的问题。还有聊天机器人，这是图灵的想法。这个问题还没有解决。但总会得到解决的——唯一的问题是，它解决的应用程序是什么？很长一段时间，我会问：“我们为什么要关心？”因为我认为主要的应用程序是客户服务，虽然这并不是我的首要任务。但是，客户服务是你尝试对接的地方，正需要这种交流语言。
图灵的时代与我们的时代的巨大差异就在于与计算机通信的方法。在他那个时代，你往机器里输入一些东西，然后它给你一个响应。在今天的世界，比如你想买电影票，它会弹出一个屏幕。与机器交流和与人类交流有何不同？主要的差异在于视觉显示。它问你一些问题，然后你按下一个按钮，你可以立即看到结果。例如，当Wolfram|Alpha系统在Siri中使用时，如果有一个简短的答案，Siri会告诉你这个简短的答案。但大多数人想要的是视觉显示，显示这个或那个的信息图。这是一种非人类的交流方式，比传统的口头交流或打字交流更丰富。在大多数人与人之间的交流中，我们坚持使用纯语言，而在计算机与人之间的交流中，我们有更好的交流通道——视觉交流。
图灵测试的许多最强大的应用程序在我们有了这个额外的通信通道之后就消失了。例如，我们眼下正在研究的这个。它是一个聊天机器人，负责编写程序。你说：“我想写一个程序。我希望它能做到这一点。”机器人会说：“我已经编写好这个程序。这是它能做的事情。这是你想要的吗？”这个机器人翻来覆去就会说这些话。设计这样的系统有一个有趣的问题，因为如果它们要努力向你做出解释的话，就必须要以人类为模型。它们需要知道人类对什么感到困惑。
我一直难以理解的是，传统的图灵测试有什么意义？动机是什么？如果把它当作玩具，人们可以制作一个聊天机器人，和它聊聊天。那是以后的事。当前的深度学习，特别是递归神经网络，正着手制作人类语言和文字的好模型。我们可以输入：“你今天感觉怎么样？”大多数时候，它知道应该给出怎样的回应。但我想知道是否可以自动回复我的电子邮件。我知道答案是“不行”。对我来说，一个好的图灵测试应该是机器人可以回复我的大部分电子邮件。这很艰难。它需要从电子邮件所连接的人类那里学习这些答案。我可能有点超前，因为我已经收集了25年有关我自己的数据。我有25年来我的每一封电子邮件，20年来的每一次按键。我应该能够训练一个化身，一个人工智能，我所能做的它将都能做，也许做得比我更好。
◆◆◆
人们担心人工智能会接管这个世界。在某种意义上，我觉得在人工智能接管这个世界之前会先发生一些更有趣的事情。人工智能将知道你的意图，它擅长于弄清楚如何实现你的意图。我告诉车里的GPS我想去一个特定的目的地。我不知道我在哪里，我只是跟着我的GPS。我的孩子们喜欢提醒我一件趣事：很早以前我有一个GPS，它告诉我，“往这边转，往那边转”，结果最后我们来到了通往波士顿港的一个码头上。
重要的是，会有一个人工智能知道你的过往，知道当你在网上订购晚餐时，你可能会想要这个或那个，或者当你给这个人发电子邮件时，你应该和他们谈论这样那样的事情。更重要的是，人工智能会给我们建议，告诉我们应该做什么，我怀疑大多数时候人们都会照做。这建议不错，比你自己想的要好。
就人工智能接管世界这一假设而言，人类可以用科技做坏事，也可以用科技做好事。有些人会用科技做可怕的事情，有些人会用科技做好事。对于今天的技术，我喜欢的一点就是它带来的平等。我曾经为我的电脑比我认识的任何人的电脑都好而骄傲；现在我们都有同样的电脑。我们有相同的智能手机，而且地球上70亿人口中相当一部分人都在使用几乎相同的科技。国王所拥有的技术和其他人的并无二致，这是一个重要的进步。
500年前的人类需要解决的大问题是识字。今天，是某种编程。今天的编程很快就会过时。例如，人们不再学习汇编语言，因为计算机比人类更擅长编写汇编语言，而且只有一小部分人需要了解语言如何编译成汇编语言。今天，大批程序员所做的许多事情也同样平淡无奇。人类现在没有理由去编写Java代码或JavaScript代码。我们希望把编程过程自动化，这样一来，重要的就不再是人类想要做的事，而是让机器尽可能自动地完成这些事。这将增强平等，也是我感兴趣的。在过去，如果你想认真地写一段代码，或者给重要且真实的东西编写程序，那是一项非常庞大的工程。你必须对软件工程相当了解，你还需要投入几个月的时间，另外，你还要雇用懂行的程序员，要不你就得自己学会它。这是一项巨大的投资。
现在再也不需要这样了。仅仅一行代码就已经能做一些有趣、有用的事情了。它能让许多以前不会用电脑为自己服务的人，现在能让电脑为他们做事。我想看到的是，世界各地的很多孩子都掌握了基于知识的编程新能力，然后可以自己编写代码，这些代码和顶级编程人员所编写的一样复杂。这是可以实现的。我们正处在这样一个时刻，任何人都可以学会基于知识的编程，更重要的是，学会用计算的方式来思考。现在编程的实际机制很简单。困难的是以计算的方式去想象。
如何教会人们以计算的方式来思考？从如何进行编程的角度来看，这个问题很有趣。以纳米技术为例。我们是如何实现纳米技术的？答：我们在很大程度上采用了我们理解的技术，并且使其非常小。如何在原子尺度上制造CPU芯片？从根本上讲，我们所使用的架构与已经熟知和喜爱的CPU芯片相同。这不是唯一一种方法。看看简单的程序能做些什么，会给我们一些启示，让我们知道，即使是简单的组件，通过正确的编译程序，也能让它们做一些有趣的事情。我们现在还没有做分子尺度的计算，因为依靠目前的技术，我们得花10年时间来建造它。但是我们有足够的组件来制造一台通用计算机。你可能不知道如何使用这些组件进行编程，但是通过在可能的程序空间中进行搜索，你会开始积累构建基块，然后为它们创建编译程序。令人惊讶的是，这些简单的东西也能做复杂的事情，而且编译步骤并不像你想象得那样可怕。
仅仅搜索计算领域并试图找到有趣的程序，即构建基块，这种方法很好。还有一种更传统的工程方法，这种方法更难一些，它要通过纯粹的思想来找到建立通用计算机的方法。虽然这种方法更难，但并不意味着无法实现。我猜想，只要找到组件，搜索我们可以用来生成的可能程序，我们就能完成一些令人惊奇的事情。现在我们又回到了如何将人类的目标与系统中可用的东西联系起来的问题上。
我感兴趣的一个问题是，当大多数人都能编写代码时，这个世界会变成什么样子？大约500年前，我们有过一个过渡时期，那时只有抄写员和一小部分人能读写自然语言。今天，只有一小部分人可以编写代码。他们所编写的大多数代码只适用于计算机。读这些代码，你会一头雾水。但是，会有那么一天，由于我一直在努力做的事情，代码的水平会达到一个非常高的程度，可以对你所尝试做的事情做最基本的描述。这段代码不仅人类能看懂，机器还能执行。
编码是一种表达方式，就像用自然语言写作是一种表达方式一样。对我来说，一些简单的代码充满诗意，它们以非常干净利落的方式表达思想。这其中的美学，就像用自然语言表达的一样。代码的一个特点是它可以立即执行，这和写作不同。当你写作时，必须有人读它，然后阅读这段文字的大脑需要把创作者的思想吸收进来。看看在世界历史上知识是如何传播的。在第一个层次，从本质上来说，知识传播的一种方式是遗传，也就是说，有机体的后代具有与它相同的特征。然后就出现了一种知识传递，如生理识别能力。一个新生儿的神经网络是随机连接的，当他越来越多地接触这个世界时，他开始识别各种各样的物体，并学习这些知识。
第二个层次是我们这个物种所取得的巨大成就，也就是自然语言。可以说，我们具有抽象地表示知识的能力，使我们能够通过大脑彼此交流。故而，自然语言是我们这个物种最重要的发明。在很多方面，正是由于有了自然语言，我们才有了文明。
第三个层次是基于知识的编程，也许有一天它会有一个更有趣的名字。有了基于知识的编程，我们可以用一种精确的、符号化的方式来真正表达现实世界中的真实事物。这样的表达不仅可以被大脑理解，可以与其他大脑和计算机通信，还可以立即被执行。
正如自然语言给我们带来文明一样，基于知识的编程会给我们带来什么呢？一个糟糕的答案是，它会给我们带来人工智能的文明。这是我们不希望发生的事情，因为人工智能会彼此沟通得极为顺畅，这样我们就将被排除在外，因为没有中间语言，没有与我们大脑的连接口。在人工智能彼此沟通的这第四个层次上，知识交流会带来什么？如果你是穴居人，如果你刚刚意识到有了语言，你能想象得出文明的出现吗？我们现在应该想象什么？
这与那个“如果大多数人都能编码，世界会是什么样子”的问题有关。很明显，很多琐碎的事情都会发生改变：合同是用代码起草，餐厅菜谱也是用代码书写，等等。像这样简单的事情会改变。但更深刻的事情也会发生改变。例如，具有读写能力的人数的增加使已存在的官僚制度的发展速度大大加快，不管结果好坏，这使我们的政府体系更加深入。编码世界与文化世界有怎样的关联呢？
以高中教育为例。如果我们有了计算思维，这会如何影响我们学习历史学？这对我们学习语言、做社会研究等的方式有何影响？答案是，影响极大。想象你在写一篇文章。今天，一篇典型的高中生所写的文章用到的原材料都是那些已经出版的东西；通常来说，学生无法轻易地创造出新知识。但在计算领域，这是有可能的。如果学生对编写代码有所了解，他们就可以访问所有数字化的历史数据，找出新东西。然后他们会根据自己的发现写一篇文章。基于知识的编程所取得的成就是它可以无限繁衍，因为它把世界知识编织成用来编写代码的语言。
◆◆◆
计算充斥整个宇宙：在产生某种复杂流动模式的湍流中，在行星相互作用的天体力学中，在大脑中。但是计算有目标吗？你可以问任何一个系统。天气有目标吗？气候有目标吗？
有人从太空中观察地球，他能告诉我们那里的什么东西有目的吗？那里有文明吗？在犹他州的大盐湖，有一条直线。原来这是一条堤道，隔开了生长着不同颜色藻类的两片湖区，所以这条直线非常引人注目。澳大利亚有一条又长又直的公路。西伯利亚有一条很长的铁路，当火车停在车站时灯就亮了。所以从太空你可以看到这些直线和图案。
但是，从太空看，这些是否足够清楚地说明了地球上存在显而易见的目的？就这一点而言，我们如何识别外星生物？我们如何判断收到的信号是不是暗示一种目的？脉冲星是在1967年被发现的，当时我们每隔一秒左右就能收到一次周期性的振动。第一个问题就是，这是灯塔吗？因为除此之外还有什么能周期性地发出信号？结果发现这是一颗旋转的中子星。
判断某现象是否有潜在目的的一个标准是，看它是否只付出了最小的努力来实现目标。但这是否意味着它是为这个目的而建造的？由于重力作用，球滚下山来。或者说，球从山上滚下来，是因为它满足最小作用原理。对于某些看似有目的的行为，通常有两种解释：机械解释和目的论。基本上，我们现有的所有技术都未能通过实现其目标的最低限度测试。我们建造的大部分都淹没在技术历史中，而且对于实现其目的而言，都远远超出了最低限度。看看CPU芯片，这绝不是实现CPU芯片所能实现的目的的最佳办法。
如何确定目的性，这是一个难题。这也是一个重要的问题，因为来自银河系的无线电噪声与来自手机的CDMA传输非常相似。这些传输使用伪噪声序列，该序列恰好具有一定的重复性特性。但它们被视为噪声，被设置为噪声，以免干扰其他通道。这个问题变得更加棘手。如果我们观察脉冲星产生的一系列素数，我们就会问是什么产生的这些。这是否意味着整个文明都在成长，发现了素数，发明了计算机和无线电发射机，并做到了这一切？或者只是一些物理过程产生了素数？有一个小小的元胞自动机可以制造素数。如果你把它拆开，你就能看到它是如何工作的。它有一个小东西在里面跳动，然后一系列素数就出来了。这不需要整个文明史、生物学史等来达到这个目的。
从本质上来说，我认为没有抽象的“目的”。我认为没有抽象的意义。宇宙有目的吗？你要是认为有，那么在某种程度上，你在说神学。在没有意义的意义中存在一个抽象的目的概念。目的来自历史。
关于我们的世界，有一点可能是真的，那就是也许我们经历了所有的历史、生物和文明，到最后，答案是“42”，或者其他什么。我们经历了40亿年的各种进化，然后我们到达了“42”。
由于计算上的不可约性，这种情况不会发生。有些你可以实现的计算过程没有捷径可走。许多科学都是关于自然所做的快速计算。例如，如果我们在做天体力学，想预测100万年后行星的位置，我们可以一步一步地遵循这些方程。但是科学所取得的巨大成就使我们能够缩短时间，减少计算量。我们可以比宇宙更聪明，不用经过所有步骤就可以预测终点。但是，即使有了足够智能的机器和足够智能的数学，我们也不能不经过这些步骤就到达终点。有些细节不可简化。我们必须不折不扣地遵循这些步骤。所以历史才有意义。如果我们不经过这些步骤就可以到达终点，在某种意义上，历史是没有意义的。
所以这不是说我们聪明，而世界上其他一切都不聪明。我们与云或者我们与元胞自动机之间没有巨大的抽象区别。我们不能说这种像大脑一样的神经网络与元胞自动机系统在本质上有差异。差异只是细节上的不同。这种像大脑一样的神经网络是经过漫长的文明史产生的，而元胞自动机则是在最后一微秒由我的计算机产生的。
抽象人工智能的问题与认识外星智能的问题类似：你如何确定它有没有目的？这是一个我认为没有答案的问题。我们会说：“好吧，当人工智能能做到……之类事情的时候，它就是有智能的。”当它能找到素数时。当它能带来这个，带来那个，带来其他时。但是要想得到这样的结果，我们有很多其他的方法。同样，在智能和单纯的计算之间没有一条明确的界线。
这是哥白尼故事的另一部分：我们曾经认为地球是宇宙的中心。现在我们认为我们很特别，因为我们有智慧，而其他的东西却没有智慧。恐怕坏消息就是这不是什么特别之处。
这是我想象的一个场景。假设有一天我们能很轻易将人类意识以数字形式上传，将其虚拟化，那么很快我们就有了装着一万亿灵魂的盒子。盒子里的这一万亿灵魂都是虚拟的。在这个盒子里，分子计算将一直继续进行，也许分子计算来自生物学，也许不是。但是盒子会做各种各样复杂精细的事情。盒子旁边有块岩石。在岩石内部，也总是有各种各样复杂精细的事情在进行着，各种亚原子粒子在做各种各样的事情。岩石和装有一万亿灵魂的盒子有什么区别？答案是，盒子里发生的一切来源于人类文明的悠久历史，包括人们前天在视频网站上看到的任何东西。而岩石有着悠久的地质历史，但不是我们文明的特殊历史。
意识到智能和单纯的计算之间没有真正的区别，你就会想象未来我们文明的终点是一个由万亿灵魂组成的