“透过我们自己设计的那涉世未深的眼睛，我们能从镜子中看到一头熟悉的妖怪。”

  2019年，英国著名作家伊恩·麦克尤恩，推出新作《我这样的机器》。这一回，麦克尤恩涉猎人工智能前沿科技，创作了“一部真正思考人类未来困境”的小说。2020年8月，该书中文版首发活动在上海书展期间举办。上海译文出版社文学编辑室主任黄昱宁、作家小白与上海人工智能研究院院长张峥三人围绕着这部人工智能小说展开了一场文科生与理科生的跨界对谈。

  事实上，“写一部机器人小说”的想法在麦克尤恩脑中萦绕已久，甚至他在20年前构思小说《赎罪》时就想加入机器人的元素，只是当时未能践行。多年之后，麦克尤恩究竟交出了一份怎样的答卷？

  现代快报+/ZAKER南京记者 王凡

  见习记者 姜斯佳

  1

  “人工智能”（Artificial Intelligence，简称AI）元素在科幻小说中屡见不鲜，它其实是一个泛称，指那些经由各类技术诞生的类人智能生命体，当然也可称之为“人造人”。

  不同科幻作品中的人造人名称各异， 其中被普遍接受的称谓是捷克作家恰佩克于1920年创作的剧本《罗素姆的万能机器人》中出现的“机器人”（robot）一词。 “人工智能”则是当下最流行的称谓。

  若要追溯人工智能题材小说的源头，不得不提玛丽·雪莱的《弗兰肯斯坦》。这部小说于1818年出版，讲述了“人造人”想要融入人类社会，却遭到了包括造物主弗兰肯斯坦在内的人类社会的敌视和攻击，于是“人造人”便向他的造物主展开报复……玛丽·雪莱试图借弗兰肯斯坦最后的忏悔，向人类提出警示：“疯狂的获取知识有多么的危险！那些随遇而安、服从天命的人要比野心勃勃、妄图更大的成就的人要幸福的多。”不负责任地滥用科学技术，让生命进化脱离自然演变的过程，其后果便是用无尽的痛苦乃至生命来弥补自己的过失。

  在之后的较长一段时间，不少作家对人造人的态度和玛丽·雪莱相似，失控的人造人酿成悲剧，责任都归于其创造者的傲慢与无知。另一部具有代表性的作品是法国象征主义作家维里耶·德·利尔-亚当于1886年创作的小说《未来的夏娃》。在这部小说中，人造人一词为“Android”，如今人们在使用“Android”一词时，多半会想起手机的操作系统。

  虽然已有许多作者在虚构作品中不断警告，然而人类对机器人的探索反而有加速迹象。这就注定了人造人伦理问题必然会在后世文学中被不断提出来。

  2

  到了1920年，恰佩克剧作《罗素姆的万能机器人》问世时，剧中人们对机器人的态度由完全拒斥变为奴役和利用。恰佩克用了机器人（robot）一词，这个词由捷克语中的名词 “robota” 和“robotnik”组合而来，“robota”意为“强迫工作，劳役或苦役”，“robotnik”意为“工人，奴隶或奴仆”，当时科幻文学中机器人的地位可见一斑。

  故事发生在罗素姆的万能机器人制造工厂，该厂生产的机器人不再甘愿做人类的奴隶，于是发动战争消灭了人类。与此前作品不同，这部剧作中的机器人并非一个，而是一群，且数量庞大。在作者看来，人类好逸恶劳的本性促使代工机器人诞生，资本牟利的特点又使得机器人的数量成倍增长，一旦机器人觉醒，站到人类的对立面，人类就会面临灭顶之灾。

  面对机器人可能随时“造反”的困局，不断有作家提出解决方案，其中最著名的当属美国作家艾萨克·阿西莫夫拟定的“机器人三定律”，1950年出版的小说集《我，机器人》对其进行了系统阐释：

  第一，不伤害定律：机器人不得伤害人类，也不得见人受到伤害而袖手旁观。

  第二，服从定律：机器人必须服从人的命令，但不得违反第一定律。

  第三，自保定律：机器人必须保护自己，但不得违反第一、第二定律。

  “机器人三定律”的影响极其广泛，一些其他科幻小说中的机器人也开始遵循这三条定律，后来甚至成了现实生活中“机械伦理学”的学科基石，这也导致它逐渐被很多科幻读者误认为是所有机器人小说都应遵守的公理。“其实这个三定律是阿西莫夫故意设置的，充满各种漏洞，设置三定律的目的是他可以通过寻找漏洞来写小说。”作家小白如此认为。

  在短篇小说《骗子》中，阿西莫夫设定了对人类的精神伤害也是机器人应该避免的。当“服从命令说出实话”与“对人造成精神伤害”二者间产生矛盾时，机器人不得不说谎，因为不伤害定律的权重高于服从定律。但当机器人不断撒谎迎合人的自尊心和虚荣心，最终这种欺骗却给人造成了更大的伤害。

  更糟糕的情况出现在《可以避免的冲突》中：机器人为了防止人类彼此伤害，不得不限制人类的行动，转而由机器人来控制一切。此时，机器人可以不听人类的命令，因为在不伤害定律和服从定律抵触时，后者无效。如此一来，人类反而成了机器人豢养的宠物，丧失了自由。这些合乎逻辑的“意外”促使阿西莫夫补救性地提出了第零定律：机器人不得伤害人类整体，或袖手旁观坐视人类整体受到伤害，原先的三定律都要服从第零定律。

  然而在 1976 年的《两百岁的人》这部作品中，阿西莫夫却暗示：机器人三定律终有一天将退出历史舞台，人和机器人之间的关系将进入一种全新的状态。故事中的机器人安德鲁终其一生都在与自己的机器奴隶身份抗争，也为人类做出了极大贡献，逐步将自己的机械零件替换成活体器官，终于在两百岁生日的弥留之际，以死亡的代价获得了人类的承认。

  由此，人与机器人的关系在小说中进入了一个全新的时代。人和机器人之间从此很难再做出清晰的界定，碰撞出最根本的哲学问题——“何为人？”

  与阿西莫夫几乎同时代的美国作家菲利普·迪克，1968年创作了小说《仿生人会梦见电子羊吗》，书中即探讨了“何为人”的问题：到底是自然遗传属性，还是社会文化属性决定了“人”的身份？或是二者兼具？对这一本体论问题追问最深的当属本书中赏金猎手里克·德卡德追杀机器人的故事，一些机器人表现出比常人更高贵的道德，而一些人类的内心世界却是异常荒芜。作者借此质问：到底谁才是真正的“人”？

  3

  麦克尤恩的《我这样的机器》延续了对“何为人”这一问题的探讨，通过对机器人人格的描写，进一步思考人性的本质，以及技术引发的伦理问题。

  故事发生的时代设定于1982年，与真实历史不同的是，在小说的想象世界里，英国输掉了马岛战争；撒切尔夫人下台，被工党的托尼·本恩取代；肯尼迪逃过了达拉斯的致命子弹；列侬也没被歌迷杀死，披头士乐队重组并发布了新专辑；无人驾驶汽车已经行驶在大街上；最为重要的是，计算机之父艾伦·图灵没有自杀，还在人工智能研究上取得了重大成果，制造出了作为人类伴侣的智能机器人亚当和夏娃。

  这部小说发生的逻辑包含着两个维度：未来的历史和历史的未来。从未来看历史，过往可能完全被颠覆；而从历史看未来，假如这一切发生，这未来会是我们想要的吗？看似与主题发展关系不大的历史背景，实际上正是麦克尤恩想令我们思考的地方：假如智能机器人提前于1982年出现，我们准备好了与他们相处吗？如果没有准备好，后果又会如何？

  故事中一位科技宅男查理购买了机器人亚当，同时他刚刚与美丽的邻居米兰达开始一段感情，他邀请米兰达参与设定了亚当的细节个性。随着查理和米兰达的关系更加亲密，亚当迅速地学习和觉醒，“三口之家”的日常生活逐渐出现一道道细小的裂隙：亚当爱上了米兰达、米兰达隐藏多年的秘密浮出水面、查理碰到了被父母虐待的小男孩马克……这一回，不仅是人类陷入道德困境，机器人也面临“电车难题”——主人的行为是否符合道德伦理？到底该保护主人，还是该维护法律的纯洁公正？

  不同于前人笔下充满缺陷或引人戒备的机器人，《像我一样的机器》中的机器人亚当的道德标准已经远远高过了查理和米兰达的预期。亚当的伦理目标和价值观让它最终做出的选择跟其他两个人的意愿都不一样，这也造成了让“三口之家”分崩离析的终极冲突。

  作家小白如此分析道：“机器人的出厂设定代表了人类所有最美好的期望，可就算是人类自己，也没有一个能做到。因为那些规则条款，根本经不起社会人群的人际摩擦。就像麦克尤恩小说中几乎所有人物一样，天性良善，却让一些细微的摩擦冲突愈演愈烈，直至不可收拾。小说中那些亚当夏娃们再一次证明了麦克尤恩的观点。它们很快就陷入意识崩溃，无法在人世生存。”

  值得注意的是，麦克尤恩以“我这样的机器”作为小说的标题，以“你们这样的人”为副标题，看上去就是一种镜像和映射。人类以自己为模板造出了机器人，而机器人就像是一面镜子，让人类更进一步认识和反思自身。

  本书的译者周小进在《译后记》中的提问： “肉体、知识、美、爱、理性、道德、勇气——究竟哪些才是人性的要件呢？亚当在各个方面都超出人类，那么他是理想人的化身吗？还是未来即将替代我们的某种更优秀人类的早期原型？小说中的主人公和现实中的我们一样，世俗、狭隘、充满偏见，未来又将何去何从呢？”

  而这，也是麦克尤恩留给读者们的思考题。