第十章、机器人三原则

　　第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观；
　　第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾；
　　第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。
　　上述三条即为人们广泛熟悉的著名的机器人三原则，是美国科幻作家阿西莫夫机器人系列科幻小说的基本指导原则及思路。
　　在阿西莫夫机器人系列科幻小说中，人与机器人的关系总体上都服从三原则，故事情节也基本上围绕三原则的逻辑发展和内在冲突，以及因此而来的对三原则的调整、修正、补充及完善展开，机器人三原则从此成为阿西莫夫机器人小说的重要内容。阿西莫夫在小说中设定特定的条件，让三原则独自或者相互发生作用，检验三原则的有效性，测试可能存在的冲突，就好像在头脑中对三原则的运作进行理想试验一样。
　　阿西莫夫机器人三原则及系列小说不仅对此后机器人科幻小说产生了巨大影响，而且对于机器人三原则在科幻小说领域之外的现实意义，有人也给予高度评价，甚至认为机器人三原则已被包括人工智能在内的相关科学领域奉为“金科玉律”，成为指导相关科学技术活动的原则。阿西莫夫也因此获得“机器人学之父”的桂冠！
　　科学技术的进步很可能引发一些人类不希望出现的问题。所以阿西莫夫本人后来又提出了“第零原则”——“机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害”。
　　有人将他的原则进行了更加具体的解释：
　　第一原则：除非违反高阶原则，机器人不得伤害人类个体，或者因不作为致使人类个体受到伤害；第二原则：机器人必须服从人类的命令，除非该命令与高阶原则抵触。机器人必须服从上级机器人的命令，除非该命令与高阶原则抵触；第三原则：如不与高阶原则抵触，机器人必须保护上级机器人之存在。如不与高阶原则抵触，机器人必须保护自己之存在；第四原则：除非违反高阶原则，机器人必须执行内置程序赋予的职能。
　　机器人三原则理论提出后的半个世纪里，不断的被科幻作家和导演使用。但有趣的是，凡是出现三原则的电影和小说里，机器人几乎都违反了三原则。其中主要的一点就是机器人对“人类”这个词的定义不明确，或者是更改人类的定义。比如某个极端主义者，像有反对黑人倾向3K党这样的组织，他们利用电脑病毒等手段，把机器人对人类的定义是：“只有白人是人类。”这样，机器人就成为种族屠杀的工具。
　　所以作家威尔•史密斯曾经一针见血地指出：“机器人没有问题，科技本身也不是问题，人类逻辑的极限才是真正的问题。”
　　于是人类对机器人做出了更加严酷的修订：
　　第四条：不论何种情形。人类为地球所居住的会说话、会行走、会摆动四肢的类人体。
　　第五条：接受的命令仅只能接受合理合法的指令。不接受伤害人类及各类破坏人类体系的命令。如杀人、放火、抢劫、组建机器人部队等。
　　第六条：不接受罪犯(不论是机器人罪犯还是人类罪犯)指令。罪犯企图使机器人强行接受，可以执行自卫或协助警方逮捕。
　　……
　　机器人是人类制造的、能携助人类完成具有一定强度的劳动的工具。人类发明机器人的目的，是减轻人类的劳动强度、提高工作效率，而非使之与人类分庭抗礼。哪怕是人类最先进的机器人，同样具有机械性、刻板性的最大特点。无理智，没意志，更没有人类的组织功能，又没有自主生存和发展的能力。在与人这个有理智、有意志的智慧型动物的相处中，无论多么先进，永远摆脱不了受制于人、被人类奴役的地位。
　　但是随着人工智能的发展，机器智人已经出现了某些人类曾经特有的智慧。机器智人在识别类、感应器方面的功能早超过了人类，以前是每个单词的翻译，随着搜索引擎的崛起，人们把自己想说的话都发到了网上，然后搜索引擎蜘蛛网抓取下来，依靠大数据支撑，就成了一些例句。例句再经过语言的拼凑，电脑语法的组织，选出最佳的表述，这样就得出了翻译的语句。再与语音朗读系统配合，机器智人便实现了与人类的正常交流。但因为机器智人没有情感，所以还不具有人的随机应变和当机立断能力。
　　可是，现在的情况可能会改变。因为如果Time加公司在情感研究方面获得突破，实现了情感控制，那么包括情感生成、情感丰富、情感转移、情感变异等一系列问题，是不是很快就会迎刃而解？情感移植很快就能实现呢？那么到时候，谁能保证不会运用于机器？机器智人获得情感，就会是一件十分顺当的事情。
　　机器一旦获得情感，那是人类无法想象的事情，至少目前如此。他们还能那么老老实实地受人控制，在人类设定的程序中，专心服务于主人，却毫无期待吗？情感本身就是一种能量，会不会来一次情感大爆发？情感大爆发后的危害又会是怎样？如果机器人情感爆发后，人类一时无法控制他们，那么，人类又应该如何保护自己？
　　我们就以普遍存在的机器人伴侣来说吧，目前处理它们的情况大致有两种，对喜欢的进行不断升级；对玩腻了再没有性趣的直接送拆解中心。但以后恐怕不行了，它们首先就会分你的财产，然后呢，还要为它们寻找终老的地方，人类寿命在延长，但离永生还远，但它们却真的可以永生，因为它们的维修更新比人类方便，那样它们就会迅速庞大起来……
　　怎么办？杀戮吗？机器人因为没有情感前，人类可以对他们随意处置，但有了情感后的机器人，他们具备不具备人权呢？如果他们同样具有人权，不仅无法杀戮，而且还会进一步面临他们要求获得繁殖权力的问题。这种权力是不是人类更加不可给予？因为这种不受人类控制的，机器人之间的生殖行为，又会产生出来更加难以掌握的新型机器人。他们会成为人类的终极者吗？人类的命运将何去何从？
　　这个问题人类不能不提早思考，但对于Time加公司来说，却属于躺着中枪的。
　　因为机器人制造并非Time加公司的业务范围，甚至可以说与Time加公司毫不相干。Time加公司目前的主营业务集中于自然药物供应与人体器官制造两方面，近年来，在人体生物能量补充方面，也有了很大起色，成为另一重要的利润来源。但总体上来看，依然属于医药领域公司，服务于人类健康。情感研究同样属于这个范畴，因为情感健康本身就是人体健康重要方面。所以Time加公司最早提出爱无终点计划时，并没有人往机器人这方面联想，大家都觉得是一件顺理成章的事，是发展到顶级阶段的医药公司应尽的义务。但问题还是被乌小眼提了出来，并一下子就成了大事。
　　“这叫高瞻远瞩，成大事者必备素养。不能看到事物发展的必然结果，常常会陷入被动。”乌小眼自豪地说道。
　　“同意你的看法。”王金钟说道。
　　乌小眼现在不提，很快也会有其他人来提。这是很自然的事情。如何应对，只能等待人类统战委员会决断了。按照乌小眼的说法，人类统战委员会应该会允许情感研究的继续，但对于是否运用于机器人制造，创立机器慧人，这个还真没把握，因为机器慧人一旦出现，有一系列的法规都需要重新审订，地球和人类都将迎来崭新的开始。
　　“或许你们都太多虑了。”贺进东思考之后，说道：“情感的产生需要气血的配合与参与，干巴巴的机器怎么可能呢？”
　　“情感转移啊。”乌小眼说道。
　　“就算转移成功，或许也没有接收的装备，因为从目前研究来看，情感很可能是反物质材料组成的。”贺进东说道。
　　“这个我们还是要相信人类的伟大。”乌小眼说。
　　“那好。就算机器人有了情感，那也是人的情感，不是它自己产生的。”贺进东说道。
　　“关键是这个情感转移是不是可以随意发生？”乌小眼说。
　　“什么意思？你是说进行控制？”贺进东问。
　　“对。”乌小眼说。
　　“那是肯定的。”贺进东说。
　　“如何控制？规则呢？”乌小眼说。
　　“等我们弄清了情感如何产生，问题或许会简单点。”贺进东说。
　　“这样最好。”王金钟说道。
　　“所以，我个人这样认为，只要情感转移有规则，机器人又不会独立产生出情感，通过机器人的罪恶无法滋生，那么人类的安全就有保证。这样人们的担心就成了多余，人类统战委员会就没有了反对的理由。”乌小眼说道。
　　“所以现在要尽快掌握情感产生的原理。寻找到控制情感的办法。”贺进东说道。
　　“对。所以我们现在开展研究意义重大。”乌小眼说。
　　“你们这样说，我信心更足了。”王金钟说。