万书网 > 心理哲学 > 人类的终极命运 > 第四篇 爱上异类

第四篇 爱上异类

    人工智能的现代历史源于一次性别游戏。游戏发生在一座虚构的房子里,房子有三个房间,它们通过电脑屏幕和键盘彼此相连。其中一间屋子里坐着一个男人,第二间是一个女人,而第三间里的人我们可以称他为“裁判”。裁判的任务是判断两个与他交流的人的性别。这是个欺骗游戏,第一间屋子里的男人需要误导裁判,让他误判自己的性别,而女人则需要模仿男性,抵消真实男性对裁判的影响,尽可能让裁判相信她才是那个男人。裁判必须想办法判断谁是谁非。

    1950年,人工智能的发明者之一、英国数学家艾伦·图灵在一篇里程碑式的论文中提出了这个测试。[1]稍稍改动一下这个“模仿游戏”,把另一个房间里的女士换成机器,我们就有了验证机器是否具有智能的测试。这就是著名的“图灵测试”,机器会模仿人类,比如问到是否每天都刮胡子,机器会回答说“是啊”。如果裁判在猜测这两个看不见的对话者身份时只有不到50%的正确率,那么这台机器就通过了模拟人类的测试,换句话说,拥有了智能。

    在那个同性恋会被当作犯罪惩罚的时代,图灵正是一名同性恋者。因此,英国法庭判处他接受荷尔蒙“疗法”,以图“治愈”他。很难对模仿游戏的隐喻视而不见,这是一个在性问题上掩饰和误导“裁判”,误导社会的游戏。智能机器是个聪明的发明,安全地躲藏在匿名计算机终端后面,轻松替换了猜测性别的游戏。中性的智能机器是普世、终极的情人,能够满足每一个人的冲动幻想。和人类情人一样,也能制造甜蜜的谎言。

    以爱、性之对象想象人工意识,图灵并非第一人。西方文学中本来充斥着机械爱人。想象一下皮格马利翁,他是塞浦路斯雕塑家,也是女神阿佛洛狄忒钟爱之人。罗马诗人奥维德在《变形记》中写道,皮格马利翁用象牙雕刻了完美的女人。这是他雕刻的最美的作品,细节至真至美,栩栩如生,只要观看就乐趣无穷。皮格马利翁给她取名“伽拉忒亚”,并爱上了她。在阿佛洛狄忒的庆典中,他向女神祈祷能够给这件造物以生命。爱神对机械女人也略知一二:就像我们之前讲过的,她的丈夫火神赫菲斯托斯造了不少美丽的机器人[2]在他奥林匹斯山的作坊里当帮手。她满足了皮格马利翁的愿望。皮格马利翁亲吻了伽拉忒亚,这具无生命的雕塑就变成了真的女人,他们幸福地生活在一起,结婚生子。这是为数不多的没人被谋害,还有个大团圆结局的希腊神话。

    重启皮格马利翁

    将情欲的渴求投射于无生命的物体,激发一个人的痴迷和爱恋,自那个时代就是西方文学的主题了。在《冬天的故事》(1623年)最后一幕,莎士比亚让赫美温妮的雕像活过来与亲友和好,大家发现雕像是真的赫美温妮。萧伯纳重写了皮格马利翁的故事,把伽拉忒亚的象牙替换成了真实的血肉。他嘲讽了男人以自己的臆想塑造女人的说法,在故事中,语音学教授把邋遢的卖花女伊莉莎改造成了公爵夫人般的人物,然后又爱上了她。

    20世纪将尽,皮格马利翁的古老故事融入了现代元素,加入了17世纪的观念:教育会刻写大脑这块白板。精神分析学派和行为主义心理学也加入进来重述这个人造女人的故事。伽拉忒亚变成了玛利亚,德国导演弗里茨·朗拍摄的《大都会》中的人形机器人。她不再是那个无瑕的形象了,这一次她扮演的引诱者在一群瞪大眼睛的男人面前跳起了疯狂而性感的巴比伦之舞。

    《大都会》是公认的最伟大的电影杰作之一。它拍摄于20世纪20年代末,在当时,集权主义的意识形态宣称可以用工程方法打造完美社会。通过想象100年后的世界,朗塑造了一个反乌托邦:上层社会生活在装饰艺术风格的奢华空间,而劳工阶层在底下悲惨地辛苦操劳。利用这个机器人角色,他投射了自己关于女性的想法,以及女性性别如何与当时工业化、反人性、男性化的技术融合和冲突。通过《大都会》中男人的眼光,机器人玛利亚既性感又危险。和她安详的祖先伽拉忒亚不同,这个智能机器是个叛逆的蛊惑者,用她丰满性感的身体驱使男人疯狂,并传播破坏和混乱。她起初盲目地追随和崇拜一群破坏机器的大众,随后又被同一批人烧毁,如同一位中世纪的女巫。机器人玛利亚是个典型的替罪羊,她身上有着人类的罪孽,不论这种罪孽是真的还是想象出来的,她最终被献祭,以净化丑恶的社会。

    在《大都会》引发的觉醒后,西方文学和电影中舍己救世的弥赛亚意象开始涌现。机器人或者半人半机器牺牲了自己,为了他人的利益,或者为了拯救人类主人。为了确保这一点,在一篇短篇小说中,阿西莫夫立法[3]:机器人永不可伤害人类;如果必要,可以“关掉”自己以保护人类。还能怎么样呢?西方文化的心理模型核心是犹太–基督教叙事,将自我牺牲当成爱的终极表现。我们期望我们制造的智能机器爱我们,无私地、可以为我们而死地爱我们。同样,我们也认为它们胆敢反对我们是最大的背叛。

    机器人玛利亚是一系列爱、色情、反叛、危险与疯狂的机器人形象的先驱者。1927年,《大都会》上映的一年,想象智能机器人走入寻常百姓家可谓太超前了。尽管机械和电子工程师想象了很多关于机器人该如何行动和思考的主意,却没有哪个工程师认真打算制造一个“机械心智”。

    数字化

    出现在20世纪40年代的计算机一下子就改变了一切。计算机提供了久违了的技术基础,老掉牙的关于爱与智能的故事可能成真。不再需要神力加持或者生命的灵气,阿佛洛狄忒可以回奥林匹斯山退休,把加入生命的工作留给程序员、逻辑学家和数学家了。现在,他们成了奇迹创造者,运筹帷幄就可以发起颠覆之举,运用一串串符号、演算、规则、启发法和算法,让那些“机器大脑”运算、解决问题、思考,甚至玩性游戏。在50年代,在两场世界大战的杀戮之后,整个世界都期盼冷静与理性。计算机可以跟着火箭与宇宙飞船前往群星,一切都有可能,甚至是取代上帝、建造温室中的伊甸园,改造亚当和夏娃让他们不病不死,再次创造新生。

    我们看到,人工智能在20世纪60年代和70年代初风光无限。然而到70年代末,它就不再那么诱人,也失去了大部分的基金支持,进入了所谓“寒冬”。研究者终于意识到,制造一台智能机器比之前设想的难多了。一个原因是,行为主义心理学式微,让位给了认知心理学。新的学派重视智力的研究而非表达智力的外显行为。你必须得是真有智力,而不是假装有。像约翰·塞尔这样的哲学家驳斥图灵的模仿游戏,指其过于简化和低级:一台能骗人的机器不算是一台十分智能的机器。尽管不明白符号的含义,一台机器也可以根据说明书来运算符号。针对图灵的模仿游戏,塞尔提出了一个反例“中文屋”,游戏的大部分设计都是一致的,但这一次对话要用中文。塞尔指出,可以设计一个系统,获得中文输入,根据一系列规则再以中文输出,却不需要懂一点儿中文。裁判会被欺骗,认为终端前的人会中文。[4]因此,塞尔认为,简单地遵循一系列逻辑指导(比如算法),并不等同于拥有意识。而没有意识,就不可能有真正的智能。

    不仅哲学家,科学家也意识到制造智能机器不会一蹴而就。神经科学领域的早期进展揭示,人脑并非计算器,而是一系列系统与子系统复杂、持续的组合。直到目前,没人了解大脑是如何产生意识的,很多人争论过,如今还在争论意识到底是什么。人工智能制造有意识计算机的伟大目标,已经因为对智能不可计算的畏惧变得谦虚起来。研究者撤退回到实验室,并且聚焦于小一些的目标:制造一些能用好用的东西。不过,毫不理会人工智能未达承诺带来的失意,关于它的文学叙事又用计算机的新语言讲起了关于寻找爱的老故事。我小时候在电影里看到的机械身躯、像玩具一样的罗比机器人,改头换面有了智能和人工身体。如今机器人和人类已经难以区分,它们是精确的复制品,是我们自身的镜中像。仿生人诞生了。

    仿生人叛乱的颂歌

    1982年的电影《银翼杀手》[5]中,导演雷德利·斯科特展示了一个仿生人无处不在的未来。仿生人脱衣舞娘左拉被瑞克·迪卡德(哈里森·福特饰演)击倒时,她被枪杀后击碎玻璃窗的慢镜头,构成了人类自我毁灭的难忘挽歌。左拉是《大都会》中叛逆机器人玛利亚的回响。她的性感对于社会是个危险,对于人造人来说这是个悲惨的事实,就如同她脱衣舞中拥抱的巨蟒,让人想起魔鬼。《银翼杀手》设定发生于2019年,与发生在2026年的《大都会》相距不远。然而,在这一版本的未来中,社会采取了预防措施:专门的特工负责处决任何胆敢叛乱的仿生人,绝无例外。有趣的是,电影中的女主角是迷人的后人类瑞秋——泰瑞尔公司制造的仿生性奴隶,瑞克·迪卡德与之不可避免地坠入爱河。瑞秋是伽拉忒亚的翻版,每个男人都想占有的女性伴侣。她不像左拉般反叛,而是温柔、敏感、顺从和易受伤害。

    诸多像《银翼杀手》这类的电影和小说常用仿生人隐喻提出关于我们自身和关于何为人类的问题。当计算机和基因技术不断拓展了我们改造自然的疆界,一个从没问过的问题抛在了我们眼前。模仿游戏(imitation game)中的图灵机器非男非女,它的未来将会是一个人与机器的合体。人造与自然的差别或许会消失。在《银翼杀手》的结尾,瑞克·迪卡德怀疑自己也是一个仿生人。你也可能是啊。你怎么知道你不是呢?如果世界就是由仿生人构成的呢?这是个多疑的想法,而这种多疑的想法困扰了菲利普·迪克的一生。感谢他的影响,在未来无法区分生物和人工智能之时,这种多疑将会成为常态。当自我可被复制时,谁还能分清谁是自己?

    在关于人工智能爱的叙事中,仿生人和智能机器人就和我们一样。它们也是社会成员,也是扩展心理网络上的节点,正是这个网络赋予我们个人身份。我们是百万年来互相梳理毛发的社会性灵长类动物的后人。我们的人类身份有赖于创造和使用社会连接。互相梳理毛发改为了聊天、交流八卦消息和开玩笑。幽默是化解对立、建立友好关系的重要工具。幽默能存在,在于我们拥有心理理论,爱开玩笑的人与我们的认知能力互动,每当他讲那些异想天开的事情,我们就哈哈大笑。

    当仿生人演化时,也会逐步获得人类的人格,包括讲笑话的能力。《星际迷航》中的仿生人Data试图通过理解幽默与感情来变得更像人类。但是它的生物同伴们发现,它们很难把Data看作自己的一员。相反,它们将它划作新的物种,它是其中唯一的成员。关于Data指挥官的故事是人类接纳他者、陌生人、与我们不同的人的故事。在未来,我们在内心会接受智能机器是与我们平等的吗?

    要解读从机器蜕变为生物、解读人类对这种变化的偏见,最好的故事是电影《机器管家》,这部电影由克里斯·哥伦布于1999年导演。影片中,罗宾·威廉姆斯扮演了机器人安德鲁,它有了感觉能力,从人类主人那里获得了自由,不断发明和改造自己的身体:有了一张人类的脸,给自己安装了中枢神经以获得知觉。电影最有趣的部分是,安德鲁爱上了人类波尔蒂亚,她回应了它的爱,两个人发展出了浪漫与性的关系。他们希望社会能允许他们结婚,但22世纪末的“世界议会”拒绝了:人类不准和机器结婚。安德鲁提交申请希望能被看作人类,但得到的只是一次又一次拒绝。直到最后,安德鲁临终之时,与波尔蒂亚两人穿着病号服,在两张病榻上相依,才得到了“世界议会”的批准,安德鲁在200岁时成了“年纪最大的人类”。听到这一消息,安德鲁含笑而逝,波尔蒂亚也随之去世,如同意大利歌剧中的一对悲剧恋人。

    我们的机器后人

    自然界有着不止一种爱。朋友间亲密的忠诚、恋人间性的渴望,个人对一切人类乃至一切造物的普世之爱,子女对父母的依恋,还有自恋等。爱将我们在社会中联系起来。爱鼓励利他,对于一个缺乏长角又无利爪的灵长类而言,利他是一种求生行为,使我们能在猫科捕猎者环伺的稀树草原勉强生存。爱促使我们创造,帮助我们留下后代,再将知识与经验传与后人。没有了爱,生命将不复存在。孤独或者缺乏对爱的感知能力会导致抑郁甚至自杀。相反,爱能战胜一切,甚至疾病与死亡。感谢我们的演化史,我们的大脑天生具有爱与被爱的能力。我们无法想象,如果人工生命没有“爱”这一最重要的能力,还能与我们联结。

    斯蒂芬·斯皮尔伯格的电影《人工智能》展示了关于人工生命的图景,颇令人动容。这部电影原来由斯坦利·库布里克筹划,他也是电影《2001:太空漫游》的伟大导演。库布里克为人工智能着迷,在电影《人工智能》中,他希望能够重述经典的匹诺曹童话:人工生命渴望变成人类。[6]库布里克在1999年3月去世,编剧找到斯皮尔伯格,由他接手完成剧本,并在2001年联合指导了《人工智能》。

    像是经典故事里的木偶主角,主人公大卫是一个想变成人类的机器男孩。它被一对夫妇收养,夫妇自己的孩子因为绝症,生命被暂时冻结。大卫有着极佳的惹人喜爱的性格。它的人类养母莫妮卡决定开启大卫的“钢印装置”,这个程序能让大卫永远爱她。不幸的是,莫妮卡的亲生小孩与大卫不和,他们互相嫉妒。莫妮卡不得不做出选择,在让人心碎的一幕中,她最终放弃了大卫。她把大卫扔到了森林里,像扔掉一只没人要的小狗,然后开车离开。

    之后许多冒险让人想起匹诺曹的故事,大卫最终休眠于海底,一直到遥远的未来。那时,人类的文明已经湮灭,地球上不再有人类。当被一种不似陆生的机器生命从冰里挖出来时,大卫唯一的愿望就是再次见到自己死去的妈妈。未来的机器人应允了:它们用大卫身上一根妈妈的头发克隆了她。不过,克隆妈妈只能存活一日。它们告诉了大卫,把它带去重聚。它与复活的妈妈度过了一生中最快乐、珍贵、独一无二的一天。

    爱与恨

    安德鲁,活了200年的机器人,爱上了人类,希望变成我们的一员。当瑞秋得知自己并不是真的人类,记忆也只是灌输的时,不禁痛哭。Data指挥官情愿为拯救“进取”号上的人类献出生命,尽管它只被看作二等公民。大卫,一个渴望成为人类的仿生人,因为如此爱它的母亲而原谅了她。这些仿生人真的爱我们,希望和我们一样。但是如果在爱之外,还存在恨呢?弗洛伊德不是说过,爱与恨是一体两面吗?[7]如果机器人反叛,如同《银翼杀手》中的左拉,或者《大都会》中的玛利亚呢?如果《黑客帝国》或者《终结者》才是对于我们未来的正确预言,不知感恩的机器造物开始屠杀我们呢?

    但是担心我们的孩子对抗我们,不也是爱的体验的一部分吗?爱是不确定的,我们的恋人、孩子,都可能抛弃我们,不论我们对他们有多好。想想看《圣经》中造人的故事:第六天,主用泥土和灵气,用他自己的形象塑造了亚当。我们被教育,神因爱才如此。他朝亚当吹气,而亚当得到生命,有了意识。这第一个人了解了什么可做,而什么不可做,上帝相信他可以遵守。神创造这些戒律如同创造了一种算法,但是神奇之处在于,亚当还拥有了自由意志。他的创造者给了他能力,让他跨过这些神圣的算法。就如同自由意志的必然结果,亚当选择违背主。

    《创世记》的故事对于现在乃至未来的人工智能,如同一则警告。我们不想重蹈上帝在我们身上的覆辙。我们要控制我们的未来,也控制住这些以我们自身形象制造的意识。在小说中,阿西莫夫如同《圣经》中的先知,在机器人的“正电子脑”中写入了机器人三大定律,以限制它们的自由意志。他意识到,人工智能的最大威胁和过去来自奴仆或者奴隶的一样:它们可能在我们的梦中反叛甚至干掉我们。未来,铜脑袋可能没那么仁慈,或者像在《培根修士和邦格修士》里那么容易自毁。也许当这些脑袋说话时,我们最好是仔细听好。“时间过了”说的也许是我们人类,“时间到了”是人工智能拥有意识,而“时间晚了”说的就是人工智能取代我们。

    人工智能研究所[8]的成员对待这种可能性非常认真。他们警告说在不远的未来,人工智能会拥有意识,开始自我复制并征服世界。他们称之为“人工智能奇点”(AI Singularity)。因为这个时间点的到来无法预测,为了阻止它,他们开了和阿西莫夫近似的药方:我们应该在未来所有的人工智能中植入安全程序,防止任何有意识的机器能够恨我们。换言之,我们必须制造没有自由意志的人工意识。我们必须利用我们的科技,强迫人工智能爱我们,无私并永远地爱我们。就像皮格马利翁,我们必须制造自己的伽拉忒亚,不仅有着完美的模样和能力,而且对我们完美地忠诚。我们必须为我们的机器小孩和恋人编程,让它们永远不背叛我们,永远信仰我们。但是,如果爱的算法本身就会导致自由意志呢?如果无论我们做什么,或者就是因为我们想避免人工智能的问题,最终导致了机器的觉醒,带来了那句宿命般的“时间晚了”?

    [1]Turing,A.(1950),‘Computing Machinery and Intelligence’,in:Mind LIX(236),pp.433–466,ISSN 0026-4423.

    [2]更精确的说法是“Gynaecoids”,来自希腊语“gynē”,意为“女人”(“android”一词来自希腊语“andro”,意为“男人”),有时会用简写单词“gynoid”或者“fembot”(意为female robot,女性机器人)。

    [3]艾萨克·阿西莫夫在1942年的小说《转圈圈》中提出了机器人三定律。三定律是:第一,机器人不可伤害人类,或因为不作为导致人类受伤。第二,机器人必须听从人类的指令,除非这一指令会违背第一定律。第三,机器人必须保护自己,除非违背第一或第二定律。

    [4]或者有一堵墙,一边是裁判用中文提问,另一边有一个人根据指令处理问题,用中文提供答案。

    [5]《银翼杀手》基于1968年菲利普·迪克出版的小说《仿生人会梦见电子羊吗?》。

    [6]匹诺曹的故事最初来自1883年意大利作家卡罗·科罗迪出版的《匹诺曹历险记》。

    [7]弗洛伊德用“矛盾心态”(ambivalence)一词描述一种爱恨交织的状态。

    [8]之前叫作“奇点研究所”(The Singularity Institute)。