当摩尔定律微型化技术接近下一个瓶颈时（肯定不是不可突破的），我们看到硅片中掺杂原子随机性出现极限，大约10纳米特征尺寸的束制造方法也出现极限。功率问题也随之显现出来：伟大的机器人沃森，智力问答节目的获胜者，功率为85000瓦，而人脑仅消耗20瓦。公平地说，人体运行需要100瓦的功率，而人体需要20年时间来建造，因此大约需要6万亿焦耳的能量来“制造”一个成熟的人脑。制造一台相当于沃森计算能力的计算机成本也差不多如此。那为什么人类不取代计算机呢？
其一，这个问答节目的参赛者的大脑所做的远远不只是信息检索，其中大部分对于沃森而言仅是不务正业，例如，用小脑控制微笑。其他部分则远远跳出了沃森思维的固定框架，令它难以理解，比如爱因斯坦在1905年发表的5篇奇迹般的论文。再者，人类消耗的能量超过了生命和生育所需的最小值，即100瓦。印度人均能量消耗为700瓦，而美国的人均消耗则为10000瓦。都比沃森消耗的85000瓦低。计算机可以通过神经计算变得更像我们。但是人脑也可以变得更有效率。装在瓶子里的类大脑可以接近20瓦的极限。我们祖先在数学、存储和搜索方面能力有限，但计算机在这方面却具有独特优势，人类的这些劣势可以在实验室中得以重新设计和发展。
脸书、美国国家安全局和其他机构正在建造一个功率超过1兆瓦、占地超过4公顷的超大存储设施，而DNA仅需1毫克便具有这么大的存储容量。显然，DNA并不是成熟的存储技术，但有了微软和特艺集团双双在此领域挖掘，我们应该密切关注这一技术。毕竟，得到一个富有成效的人脑需要花费6万亿焦耳能量，主要是因为人脑必须经过20年的训练。
即使一台超级计算机能在几秒钟内“训练”自我克隆体，但生产一个成熟的硅克隆体的能源成本也是相当大的。人类工程奇才可能对这个缓慢的过程影响微小，但加快发育、以DNA字节或其他方式植入大量内存可以减少生物计算机的复制时间，使其接近细胞的倍增时间——从11分钟到24小时不等。关键是，虽然我们可能不知道在人类加速进化的每一步中，生物/人/纳米/机器人混合体的何种比例占主导地位，但我们可以追求高水平的人道、公平和安全的相互对待。
权利法案可以追溯到1689年的英格兰。美国第32任总统罗斯福宣布了“四大自由”——言论自由、信仰自由、免于恐惧的自由和免于匮乏的自由。联合国1948年发布的《世界人权宣言》中的人权包括：生命权；禁止奴隶制；受侵犯时捍卫权利；行动自由；结社、思想、良心和宗教自由；社会、经济和文化权利；个人对社会的义务；禁止在违反联合国的宗旨和原则的情况下使用权利。
这些权利的“普遍性”本质并没有为大众所接受，并受到了广泛的批评和拒绝。非人类智能的出现如何左右这一争论？至少，现在越来越难以仅凭模糊的直觉就做出道德决策。这种直觉就是美国最高法院大法官波特·斯图尔特（Potter Stewart）1964年所说的“我一看到我就知道”，就是“厌恶的智慧”，就是利昂·卡斯（Leon Kass）1997年所说的“厌恶因子”，或者就是模糊的“常识”。因为我们必须与不同于我们的心智打交道，甚至有时从我们的角度来看他们简直是外星人，所以我们需要非常明确的规则，甚至需要算法式的规则。
自动驾驶汽车、无人机、股票市场交易、美国国家安全局的搜索等，都需要快速、预先批准的决策。几个世纪以来，我们一直试图对道德的某些方面进行详细的阐述和解释，现在，我们可能会对这些方面获得更深入的了解。面临的挑战包括相互冲突的优先事项，以及根深蒂固的生物学、社会学和半逻辑认知偏见。值得注意的是，尽管隐私和尊严对许多法律和准则产生了影响，但在普遍的人权信条中，人们距离对隐私和尊严达成共识还相距甚远。
人类可能希望有权去阅读和改变计算机的思想，以了解为什么它们做出的决定与人类的本能不符。如果机器对我们做出同样的事，这就是不公平吗？我们注意到潜在财务冲突的透明化，“开源”软件、硬件和湿件，科学技术研究的公平准入法案，以及开放人类基金会都在发展。
约瑟夫·魏岑鲍姆在1976年出版的《计算机力量与人类理性》一书中指出，在面对需要尊重、尊严或关怀的情况时，机器没有人类优秀。而作家帕梅拉·麦考达克，计算机科学家如约翰·麦卡锡和比尔·希巴德（Bill Hibbard）等人却认为，与人类相比，在面对同样情况时，机器可以更加公正、冷静、始终如一、不会滥用能力，更有同情心。
平等
“我们认为这些真理是不言而喻的，人人生而平等，造物主赋予他们某些不可剥夺的权利，其中包括生命、自由和追求幸福。”1776年，当33岁的托马斯·杰斐逊（Thomas Jefferson）写下这句话时，他想表达什么？现在“人”的涵盖范围非常广泛。1776年，“人”不包括有色人种和女人。但即使在今天，具有先天性认知或行为问题的人注定要接受不平等的对待，尽管在大多数情况下是同情的对待，这些问题包括唐氏综合征、泰-萨克斯病、脆性X综合征、脑瘫等。
随着地理位置的改变，随着人类越来越成熟，不平等权利发生了巨大的变化。胚胎、婴儿、儿童、青少年、成人、病人、重罪犯、性别身份和性别偏好、非常富有和非常贫穷的人，他们所面临的权利和社会经济现实是不同的。要想获得和保留与最精英人类类似的新型心智的权利，一个办法是保留人类的一个组成部分，比如人类盾牌或傀儡君主、傀儡首席执行官，他们只是盲目地签署重大技术文件，快速做出有关财务、健康、外交、军事或安全的决策。我们很可能很难停止计算机运行，很难修改或删除计算机的记忆系统，尤其是如果它对人类很友好，并央求人类让它们活下去，就像所有为自己的生命而战的优秀研究人员一样。
甚至连呆伯特的创造者斯科特·亚当斯（Scott Adams）也参与了这个话题的讨论。2005年在埃因霍温大学所做的实验支持了他的观点，指出人类对机器人受害者的敏感程度相当于1961年在耶鲁大学进行的米尔格伦实验。考虑到公司有许多权利，包括财产所有权，似乎很有可能其他机器也会获得类似的权利，这将是一场在智力和人工感情的多轴梯度上维持选择性权利不平等的斗争。
人类与非人类及混合体的大相径庭的规则
一旦我们谈到与人类范围重叠或即将重叠的实体，上面提到的关于智人内部权利差异的分歧就会爆发成一场不平等的骚乱。在谷歌街景中，人们的面部和汽车牌照都被模糊处理。在许多场合不允许使用视频设备，如法院以及委员会会议。带面部识别软件的穿戴式相机及公共摄像头也是禁忌。在同样的场合下，是否应该将具有超忆症或有照相式记忆的人也排除在外？
而那些患有面容失忆症（面盲者）或健忘的人不应该从面部识别软件和光学字符识别中受益吗？如果他们能受益，为什么每个人不能受益呢？如果在某种程度上我们都拥有这些工具，难道我们不应该都能受益吗？
这些场景与库尔特·冯内古特（Kurt Vonnegut）1961年的短篇小说《哈里森·伯吉朗》（Harrison Bergeron）何其相似，在小说中，为了尊重社会中大多数的平庸之辈，具有特殊才能的人受到了压制。像约翰·塞尔的“中文屋”和艾萨克·阿西莫夫（Isaac Asimov）的“机器人三定律”这样的思想实验吸引了人类的各种直觉，这些直觉使得丹尼尔·卡尼曼、阿莫斯·特沃斯基以及其他人所论证的人类大脑深感困扰。中文屋实验假定，由机械和智人组成的大脑，无论它多么有能力进行智能的中文对话，它都不可能有意识，除非人类能够识别意识的来源并“感觉”到它。阿西莫夫强制施加的第一定律和第二定律将人类思想置于他在第三定律中提到的任何其他思想之上。
如果机器人没有与人类完全相同的意识，那么这就成为一种借口，使得机器人享有的权利与人类不同，类似于一些认为其他部落或种族没有做人资格的观点。机器人已经表现出自由意志了吗？它们已经有自我意识了吗？机器人Qbo已经通过了关于自我认知的“镜子测试”，机器人NAO也通过了识别自己声音及推断自己内心状态的相关测试。
对于自由意志，我们现有的算法既不是完全确定也不是完全随机的，不过其目标是实现几乎最优概率决策。有人可能会说这是博弈论的一个达尔文进化结果。对于许多（不是所有）博弈或问题来说，如果完全可以预测或完全随机，那么我们往往会输。
无论如何，自由意志的诉求是什么？从历史上看，以此生或来世的奖惩为背景，它给了我们一种责任分配的方法。惩罚的目标可能包括推动成员个体的优先权以帮助该物种生存。在极端情况下，如果斯金纳的积极、消极强化不足以保护社会，这可能还包括监禁或其他限制手段。显然，广泛地看，这些工具可以适用于自由意志，适用于任何我们想管理其行为的机器。
我们可以就机器人是否真的有自由意志或自我意识的主观感受质而争论不休，但这种感受质也同样适用于对人类的评估。我们怎么知道反社会者、昏迷的病人、威廉斯综合征患者或者婴儿和我们一样有自由意志或自我意识？实际上，这又有什么关系呢？如果任何人有说服力地声称他们体验到了意识、痛苦、信仰、幸福、抱负和对社会的价值，我们是否应该因为他们假设的感受质与我们假设的不同而否认他们的权利？
我们认为永远不会跨越的警戒线现在似乎离我们越来越近，也越来越疯狂。人类与机器之间的界限变得模糊，这是因为机器变得更像人类，也因为人类变得更像机器。说人类变得更像机器，这不仅因为我们越来越盲目地遵循GPS脚本、反射式推特和精心设计的营销，还因为我们对大脑和基因编程机制的理解越来越深入。美国国家卫生研究院的脑计划正在开发创新技术，利用这些技术绘制出心理回路的连接和活动，从而改进电子或合成神经生物学软件。
不同的警戒线取决于基因例外论。基因例外论认为基因是永久遗传的，因此不可随意使用。然而，基因技术已经被证明是可逆的，但不被禁止的（也是致命的）技术，如汽车，反而由于社会和经济力量，其所有目的都是不可逆的。在遗传学领域，警戒线使我们禁止或避免食用转基因食品，但我们却可以接受改造了基因的细菌来制造胰岛素，或者接受转基因人类——欧洲批准将线粒体疗法用于成人和胚胎。
在安全性和有效性方面，对生殖系的控制似乎不如常见的控制那么明智。同一遗传病的两个健康携带者的婚姻面临以下选择：第一，没有自己的孩子；第二，由于自然流产或人工流产造成25%的胚胎死亡；第三，体外受精导致80%的胚胎死亡；第四，选择精子生殖系工程，这可能会使胚胎损失率为零。现在宣布最后一种选择不太可能实现，还为时过早。
关于“人类被试的研究”，我们参考了1964年的《赫尔辛基宣言》（Declaration of Helsinki），牢牢记下1932年到1972年的塔斯基吉梅毒实验，这可能是美国历史上最臭名昭著的生物医学研究。2015年，“非人类权利项目”代表两只被石溪大学用于研究的黑猩猩向纽约州最高法院提起诉讼。受理上诉的法院判决，黑猩猩不应被视为法人，因为它们“在社会上没有责任和义务”——尽管珍·古道尔（Jane Goodall）和其他人声称它们有责任和义务，尽管有争论说这样的决定可能也适用于儿童和残疾人。
是什么使我们不把其他动物、有机物、机器和混合体包括在内？当霍金、马斯克、塔里安、维尔切克、泰格马克等人推行禁止“自主武器”时，我们已经将一种“哑”机器妖魔化，而其他机器，如由许多智人组成的投票机，可能更致命，更容易被误导。
地球上已经有了超人类了吗？想想与世隔绝民族，例如印度的桑提内尔人和安达曼人、印度尼西亚的科罗威人、秘鲁的马什科-皮罗人、澳大利亚的宾土比人、埃塞俄比亚的苏尔玛人、越南的鲁克人、巴拉圭的阿约里奥-托托比戈索人、纳米比亚的辛巴人以及巴布亚新几内亚的几十个部落。他们或我们的祖先会做出怎样的反应？我们可以将“超人类”定义为生活在现代，但处于非技术文化中的人类所无法理解的人和文化。
这些生活在现代石器时代的人们很难理解为什么我们要庆祝最近的LIGO引力波证据，这个证据证明了百年前的广义相对论。他们会百思不得其解，我们为什么要有原子钟，为什么要有GPS卫星帮我们找到回家的路，或者为什么要将我们的视野从一个狭窄的光学波段扩展到从无线电到伽马射线的全光谱，以及如何做到这一点。我们比任何其他生物移动得更快，可以达到地球的逃逸速度，在极冷的太空真空中也能生存。
如果这些特征（还有数百个）不构成超人类主义，那什么会构成超人类主义呢？如果我们觉得，对超人类主义的评判不应该完全由原始文化的人做出，而应该由现代人做出，那么，我们如何才能达到超人类的地位呢？我们这些“现代人类”可能总是能够理解每一项新的技术进步，我们绝不会对宣布已实现（变化中的）超人类目标而感到惊讶。科幻小说预言家威廉·吉布森（William Gibson）说：“未来已来——只是分布不均。”虽然这低估了下一轮的“未来”，但肯定有数百万人已经是超人类，而且我们大多数人都还盼望着有更多人是超人类。“什么是人类”已经转化为“各种超人类是什么？……他们的权利是什么”。
The work of cybernetically inclined artists concerns the emergent behaviors of life that elude AI in its current condition.
倾向于控制论的艺术家的作品关注的是在现状下人工智能无法触及的生命的涌现行为。