改善人的身体和心智是人性的一部分。在历史进程中，衣服、眼镜和手表使我们的抗逆力、感知力和警觉力变得越来越强。它们是对自然禀赋的重大改进，我们对它们太过熟悉，但这不应该令我们忽视其深刻的意义。今天，智能手机和互联网正将人类增强自身的动力带入一个全新领域，这是一个对于我们作为智能生物的身份更为核心的领域。事实上，这使我们有了一个巨大的集体意识和集体记忆。
与此同时，自主的人工智能已经成为各种“脑力”游戏的世界冠军，如国际象棋和围棋。它们已经接管了许多复杂的模式识别任务，例如重建在大型强子对撞机的复杂反应中发生的一切，从粒子轨迹的暴风雪中寻找新的粒子，或者从模糊X射线、功能性磁共振成像和其他类型的图像中收集线索，以诊断疾病。
推动自我提升和创新的动力将把我们带向哪里？虽然事件的确切顺序和它们将要发生的时间尺度是不可能预测的，或者说至少超出了我的能力范围，但一些基本的思想表明，最终出现的最强大的心智将是与我们今天所知的人类大脑截然不同的东西。
想想以下6个方面，在这些方面中，信息处理技术大大超过了人类能力，有的是从广阔度超过，有的是从质量上超过，有的兼而有之：
◎ 速度：电子的有序运动，是现代人工信息处理的核心，可以比大脑运行中的扩散和化学变化过程快得多。典型的现代计算机时钟速率接近10千兆赫兹，相当于每秒100亿次运算。任何一种单一的速度测量都不适用于令人困惑的各种脑运算过程，但有一个基本的限制，那就是动作电位的潜伏期，这将动作电位的间距限制在每秒几十次。当影像的“帧速”低于约每秒40帧时，我们可以分辨出它实际上是一个静止画面的序列，这或许不是偶然的。因此，电子处理的速度比人脑快近10亿倍。
◎ 尺寸：典型神经元的线性尺寸约为10微米。而为电子器件设定了实际极限的分子尺寸比前者的万分之一还小，人工加工单元正接近这一尺寸。小尺寸让通信更有效率。
◎ 稳定性：人类的记忆本质上是连续的（模拟的），而人工记忆可以具有离散的（数字的）特征。模拟量会被销蚀，但是数字量可以被存储、刷新并完全精确地保存下来。
◎ 工作周期：努力会使人类大脑疲劳。它们需要时间来摄取营养、补充睡眠。它们会衰老。最重要的是：它们会死亡。
◎ 模块化（开放体系结构）：因为人工信息处理器支持精确定义的数字接口，所以可以轻易地添加新模块。因此，如果我们想要一台计算机“看到”紫外线或红外线或“听到”超声波，可以直接将适当的传感器的输出馈送到它的“神经系统”。大脑的结构则更加封闭、不透明，人体免疫系统会积极抵抗外来植入物。
◎ 量子准备：这是模块化的一种特殊情况，它具有长期的潜力。近来，物理学家和信息科学家已经认识到，量子力学的原理支持新的计算原理，这些新的计算原理可以赋予信息处理以质变的新形式和很可能新的智能水平。但是这些可能性依赖于量子行为的各个方面，它们非常微妙，似乎特别不适合与人类大脑温暖、潮湿、混乱的环境进行交互。
显然，作为智力平台，人类大脑远不是最佳的。但是，尽管多才多艺的家务机器人或机械兵会找到现成的、有利可图的市场，但是在目前还没有一种机器能达到这些应用所需的通用人类智能。尽管人类大脑在许多方面相对薄弱，但与人工智能相比仍有一些巨大的优势。让我提5点：
◎ 三维：虽然，如前所述，现有人工处理单元的线性尺寸远小于大脑的线性尺寸，但其以光刻（基本上是蚀刻）为中心的制作过程基本上是二维的。这在计算机板和芯片的几何结构中显而易见。当然，人们可以将一层层堆叠起来，但是与层内相比，层与层之间的间隔要大得多，通信效率也低得多。而大脑则可以更好地利用所有三个维度。
◎ 自我修复：人类大脑可以从许多伤害或错误中恢复过来，或者带病工作。计算机则通常必须从外部修理或重新启动。
◎ 连接性：人类神经元通常支持几百个连接（突触）。此外，这些连接的复杂模式是非常有意义的（参见下一点）。而计算机单元的连接数量较少，并且连接模式固定。
◎ 发育（具有交互式雕塑的自组装）：人脑通过细胞分裂增殖单元，并通过移动和折叠将它们组织成连贯的结构。这一过程还使细胞间的连接大量增加。雕塑的一个重要部分是在婴儿期和儿童期通过积极的过程发生的，因为个体与他或她的环境相互作用。在这个过程中，许多连接被淘汰，而另一些则被加强，这取决于它们在使用中的有效性。因此，大脑的精细结构是通过与外部世界的交互作用来调整的，而外部世界是一个丰富的信息和反馈源。
◎ 集成（传感器和驱动器）：人脑配备有各种感觉器官，特别是眼睛，人脑还配备多功能驱动器，包括能组建物体的手、能走路的腿，以及会说话的嘴。这些传感器和驱动器被无缝地集成到大脑的信息处理中心，经过了数百万年的自然选择磨炼。我们以最小意识注意力来解释它们的原始信号，并控制它们的大规模行动。然而，我们并不知道自己是如何做到这一点的，而且这一过程模糊不清。使机器人在这些“常规”输入输出函数上达到人类标准是非常困难的。
与当前的人工脑相比，人类大脑的这些优势具有深远意义。人类大脑的存在提供了一个令人鼓舞的证据，它向我们展示了从物质中获取更多的一些可能的方法。如果人工脑能赶上人类大脑的标准，那么什么时候才能赶上？
我不确定，但请允许我提供一些有根据的意见。人工脑的三维挑战，以及在较小程度上的自我修复看起来并不难克服。虽然它们提出了一些棘手的工程难题，但是一些改进的方法很容易想象出来，而且现在已有了明确的前进道路。另外，虽然人类的眼睛、手以及其他感觉器官和驱动器的能力非常有效，但它们的能力远没有达到任何物理极限。光学系统可以在空间、时间和颜色上以及在电磁波谱的更多区域中以更高的分辨率拍摄图像；机器人可以移动更快、身体更强；等等。在这些领域中，现在已经有了超人性能所必需的组件。瓶颈是用信息处理单元的语言快速地获取信息。
这个瓶颈把我们带到剩下的那些，也是最重要的大脑优于人工装置的优势。这些优势源于它们的连接性和交互式发育。这两个优势是相辅相成的，因为正是交互式发育塑造了婴儿大脑的大量连线但蔓延的结构，通过神经元和突触的指数式增长，使婴儿大脑能够长成非凡的人类大脑。计算机科学家们开始发现大脑结构的力量：神经网络。顾名思义，其基本设计受到了大脑的直接启发。神经网络在游戏和模式识别方面取得了惊人的成就。但是在自我复制机器的深奥领域中，当今的工程技术与神经元及其突触的力量和多样性相比差远了。这可能成为一个新的、伟大的研究前沿。在这里，生物学也指明了前进的方向，因为我们对生物发展的理解足以模仿它的本质。
总的来说，人工智能胜过自然智能的优势是永久的，而自然智能胜过人工智能的优势，虽然目前是实质性的，但似乎这只是暂时。我猜想，工程学要赶上将需要几十年的时间，但除非发生灾难性的战争、气候变化或瘟疫，否则技术进步将在几个世纪里保持旺盛的上升势头。
如果真是如此，我们可以展望在接下来的几代人里，人类通过智能设备变得更强，将与越来越有能力的自主人工智能共存。那时将有一个复杂的、迅速变化的智能生态系统，并因此迅速进化。考虑到工程化设备最终将具有的内在优势，进化的先锋将是机器人和超级头脑，而不是微不足道的智人。
另一个重要的推动力来自对恶劣环境的探索，如对地球上深海的探索，以及对太空的探索。人体很难适应温度、压力和大气成分的狭窄范围之外的条件。它还需要多种特定的、复杂的营养物和充足的水。此外，它没有抗辐射功能。正如载人航天计划充分证明的那样，在地面舒适区之外维持人类生命是非常困难的，而且代价昂贵。在这些探索中，半机械人或自主人工智能可能会更有效。量子人工智能对噪声极敏感，它在寒冷、黑暗的深度空间可能会更快乐。
奇特的天才科幻小说家奥拉夫·斯塔普雷顿（Olaf Stapledon）在他1935年的小说《怪约翰》（Odd John）中写下了一段感人的话。小说中的英雄，一个突变超人，将我们智人形容为“精神的始祖鸟”。他充满深情地把这句话说给他的朋友和传记作家听，而后者是一个普通的人类。始祖鸟是一种高贵的动物，它能进化成更高级的生物。
We should analyze what could go wrong with AI to ensure that it goes right.
我们应该分析人工智能可能会出什么问题，以确保它能正常运行。