五 结论：重申人工智能时代保障人类安全的最高价值
正如“互联网教父”尼古拉斯·尼葛洛庞帝（Nicholas Negroponte）听到中国百度公司要建造世界上最大规模的深度神经网络“百度大脑”时，就说，“当我听说‘百度大脑’的时候，我觉得这些人真是太疯狂了”，也许任何警告或者忠告都无法劝阻那颗要完成“创世纪的超级工程”，[46]不啻要做21世纪上帝的疯狂之心。
但是，研发者、设计者、制造者、销售者、政府机构及各类组织等整个人工智能技术发展的所有直接利益相关方，也就是所谓的机器背后的人，[47]都不能不考虑和尊重乃至遵守对人类作为种群的安全性保障的责任，[48]正如霍金所说：“人工智能的真正风险不是它的恶意，而是它的能力，一个超智慧的人工智能在完成目标方面非常出色，如果这些目标与我们的目标不一致，我们就会陷入困境。因此，人工智能的成功有可能是人类文明史上最大的事件。但人工智能也有可能是人类文明史的终结！”需要给科学家可能的有意或者无意忽略对社会乃至人类的责任而进行的创新套上法律的缰绳，[49]也就是“为人工智能的发展设定限制和责任”，“确保这个产业是造福而不是毁灭人类”，[50]以保护基本人权和公共福祉。因此，有学者提出了要求“确立人类优先原则”。[51]
阿西莫夫在《双百人》中清晰地意识到了机器人学三法则文本表述可能存在的问题，但是却并没有对该文本的表述进行任何的修改，这意味着可能对阿西莫夫来说，由于机器人安德鲁的独一无二的特性和其自愿放弃永生而获得人的有死性的生命界限，而且安德鲁在获得法律承认的人类资格之后旋即去世，从而表明没有任何必要修改机器人学三法则以为承认其他机器人的法律上的人格提供基础或者做好准备，可以体会到阿西莫夫在是否要普遍地公开地赋予机器人法律人格的问题上并没有明确的肯定的态度和意见，相反，从整体上看，阿西莫夫从构成两个极端的机器人类型上思考了机器人学三法则所可能遭遇的挑战性理解与解释，阿西莫夫在人类与机器人的关系问题上，强烈的甚或是压倒性的对人类中心主义的持守[52]并没有改变过，无论是在《……汝竟顾念他》还是在《双百人》中处处体现了人类对与机器人关系问题的最基本、最关键的关切，那就是对人类整体和个体的安全性保障问题。在对《双百人》的字里行间的文本解读中，能够感觉到阿西莫夫似乎认为，可以通过技术设计上的改进和改变，杜绝重新出现类似安德鲁这种具有不可预测的通用智能性质的机器人的可能性，由此表明作为普遍的授予机器人法律人格的可能性和必要性的丧失，至于在极端情形下例外的情况是否要授予机器人以法律人格的问题，则似乎无法穷尽可能存在的例外情形，有待于去发掘和考虑，[53]但似无疑问的是，类似于欧洲议会关于机器人民法规范的动议中所提出的普遍授予智能机器人以法律人格[54]（电子人格或“电子人”法律主体[55]），或者“工具性人格”[56]、类似或接近于人类个体的人格[57]的“人工类人格”[58]以及“限制性主体地位”[59]的所谓一般性地普遍性地解决“人工智能机器人的法律主体地位”[60]问题[61]，是没有必要也不现实的，甚至可能是灾难性的后果[62]。
值得追问的是：阿西莫夫是一般地反对科技创新吗？从接近和把握其写作意图出发，对其作品的逐字逐句的阅读并不能使得笔者得出这个结论，阿西莫夫没有明确反对过也没有隐微地反对过科技创新的问题，只是对科技创新应当遵循的“设计伦理”[63]有着清醒的认识，不断地通过他的作品，以具体的场景式展示提醒疯狂的科技狂人——弗兰肯斯坦们[64]注意无限制的无底线的科技创新对人类整体和人类个体所可能甚或必然造成的威胁与损害。制定以阿西莫夫机器人学法则为基础的人工智能发展伦理规范，不仅是可能的，更是必要的！
[1]本文为作者主持的司法部2016年度国家法治与法学理论研究项目“新生权利的理论与实践问题研究”（项目编号：16SFB2001）、教育部人文社会科学重点研究基地重大项目“新兴权利的基本问题研究”（项目编号：16JJD820031）、西南政法大学人工智能法律研究教师研究创新项目“人工智能机器人的法律调整：阿西莫夫法则的贡献与局限”（项目编号：2018-RGZN-JS-ZD-10）的阶段性成果。
[2]张建文（1977～），男，河南邓州人，西南政法大学教授，博士生导师，法学博士，西南政法大学人工智能法律研究院副院长。研究方向：人格权法、信息法学。
[3]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，导言第1页。
[4]1999年12月13日，以该短篇小说作为基础改变的科幻爱情电影《机器人管家》在美国上映，但是其所使用的英文名称仍然是阿西莫夫所使用的《Bicentennial man》，但是故事被改编为它爱上了小小姐的孙女波西娅·查尼，但由于机器人的缘故，波西娅·查尼并不能接受它。它向联邦法庭申请，希望通过一条法令，承认安德鲁是人类。联邦法庭用没有长生不老的人类驳回了它的请求。波西娅·查尼也爱上了这位能逗她发笑的“男人”，和它走到一起。波西娅·查尼弥留之际，安德鲁再次改造自己的身体，向机器体内注入血液，并设定了生命界限。联邦法庭最终宣布它可以与人类结婚。当消息传来时，安德鲁安详地离开了人世（参看：https：//baike.so.com/doc/4693308-4907345.html）。
[5]根据该短篇集的俄文版本可知，《……汝竟顾念他》创作于1974年，而《双百人》创作于1976年。
[6]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第469页。
[7]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第469页。
[8]〔美〕列奥·施特劳斯：《论柏拉图的〈会饮〉》，邱立波译，华夏出版社，2012，第385页。
[9]〔美〕列奥·施特劳斯：《关于马基雅维利的思考》，申彤译，译林出版社，2016，第9页。
[10]张建文：《阿西莫夫的教诲：机器人学三法则的贡献与局限——以阿西莫夫短篇小说〈汝竟顾念他〉为基础》，岳彩申、侯东德主编《人工智能法学研究》（2018年第1期），社会科学文献出版社，2018，第4页。
[11]〔美〕阿兰·布鲁姆：《巨人与侏儒》，秦露等译，华夏出版社，2003，第6、18、19页。
[12]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，扉页。
[13]Римское право：учебник/И.Б.Новицкий.3-е изд.，стер.-М.：КНОРУС，2014.С. 73.
[14]陈卫佐编著《拉丁语法律用语和法律格言词典》，法律出版社，2009，第123页。
[15]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第500页。
[16]Новицкий И.Б.Основы римского гражданского права：учеб.-Москва：Проспект.2017. С.54.
[17]〔美〕列奥·施特劳斯：《自然权利与历史》，彭刚译，生活·读书·新知三联书店，2003，第46页。
[18]〔日〕盐野七生：《罗马人的故事9：贤君的世纪》，计丽屏译，中信出版社，2012，第345页。
[19]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第503页。
[20]Дигесты Юстиниана/Перевод с латинского；Отв.ред.Л.Л.Кофанов.Т.1.-2-е изд.，испр.-М.：Статут，2008.С.117.
[21]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第525页。
[22]〔古希腊〕埃斯库罗斯：《埃斯库罗斯悲剧六种》，罗念生译，上海人民出版社，2016，第143页。
[23]〔以〕尤瓦尔·赫拉利：《人类简史：从动物到上帝》，林俊宏译，中信出版社，2017，第393页。
[24]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第530页。
[25]〔日〕盐野七生：《罗马人的故事12：迷途帝国》，朱悦玮译，中信出版社，2013，第93页。
[26]林来梵：《人的尊严与人格尊严——兼论中国宪法第38条的解释方案》，《浙江社会科学》2008年第3期。
[27]〔美〕列奥·施特劳斯：《自然权利与历史》，彭刚译，生活·读书·新知三联书店，2003，第46页。
[28]在我国，也有学者根据机器人学三大法则提出了在内容上几乎与该三大法则完全一致的所谓“人工智能三定律”（张清、张蓉：《人工智能+法律发展的两个方向》，《求是学刊》2018年第4期）。
[29]值得注意的是，还存在零号法则，该法则意味着不能对人类整体造成损害或者以自己的不作为任由人类整体遭受损害（参看张建文《阿西莫夫的教诲：机器人学三法则的贡献与局限——以阿西莫夫短篇小说〈汝竟顾念他〉为基础》，载岳彩申、侯东德主编《人工智能法学研究》（2018年第1期），社会科学文献出版社，2018）。在本文中，笔者若使用不伤害人类法则的表述则意味着同时包含零号法则意义上的不伤害人类整体和一号法则意义上的不伤害人类个体的内容。
[30]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第469页。
[31]〔美〕John Frank Weaver：《机器人也是人：人工智能时代的法律》，郑志峰译，元照出版有限公司，2018，第1页。
[32]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第511、512页。
[33]南怀瑾：《易经系传别讲》，复旦大学出版社，2016，第378～379页。
[34]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第518、522页。
[35]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第526页。
[36]腾讯研究院等：《人工智能》，中国人民大学出版社，2017，第302页。
[37]李彦宏等：《智能革命：迎接人工智能时代的社会、经济与文化变革》，中信出版社，2017，第309页。
[38]Андрей Незнамов.Новые законы робототехники：как в Европе регулируют права роботов. Популярная механика.2017.№8.
[39]参看欧洲议会于2017年2月16日《机器人民法规范》（P8-TA（2017）0051）第T段（Civil law rules on robotics，European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics（2015/2013（INL）））。
[40]〔美〕阿西莫夫：《阿西莫夫：机器人短篇全集》，叶李华译，江苏文艺出版社，2014，第530页。
[41]赵燮生：《名家导读》，载〔德〕古斯塔夫·施瓦布《希腊神话故事》，赵燮生、艾英译，长江文艺出版社，2006，名家导读第3页。
[42]〔美〕John Frank Weaver：《机器人也是人：人工智能时代的法律》，郑志峰译，元照出版有限公司，2018，第295页。
[43]龙文懋：《人工智能法律主体地位的法哲学思考》，《法律科学》（西北政法大学学报）2018年第5期，第24页。
[44]张清、张蓉：《论类型化人工智能法律责任体系的构建》，《中国高校社会科学》2018年第4期，第136页。
[45]参看《Азиломарские принципы искусственного интеллекта》 第22款。签署该原则的有3500多名学者、研发者、企业家和专家，其中包括亿隆·马斯克、史蒂文·霍金和莱伊·库尔兹维尔、谷歌、苹果、脸书、IBM以及微软等企业代表。
[46]李彦宏等：《智能革命：迎接人工智能时代的社会、经济与文化变革》，中信出版社，2017，第110、124页。
[47]吴习彧：《论人工智能的法律主体资格》，《浙江社会学科》2018年第6期。
[48]杜严勇：《机器人伦理中的道德责任问题研究》，《科学学研究》2017年第11期。
[49]郑戈：《在鼓励创新与保护人权之间——法律如何回应大数据技术革新的挑战》，《探索与争鸣》2016年第7期。
[50]杨延超：《为人工智能筹划法律保护》，《经济参考报》2017年12月5日第8版。
[51]赵万一：《法律应当如何重新定位人》，载〔美〕John Frank Weaver《机器人也是人：人工智能时代的法律》，郑志峰译，元照出版有限公司，2018，推荐序第10页。
[52]这种观点在今天仍然得到了国内学者真切的拥护和支持，如马长山教授提出，“必须以人类中心主义的关怀，来审慎对待它带来的社会风险”[参看马长山《人工智能的社会风险及其法律规制》，《法律科学》]（西北政法大学学报）2018年第6期]。
[53]根据最新的研究表明，能够复制或者产生类似于人类的心智（智能）并不意味着明白了大脑的奥秘，人工制造的智能能否理解和再现大脑的思考过程，仍然是个未能解决的问题，甚或是个人类永远无法解决的问题（参看〔以〕尤瓦尔·赫拉利《今日简史：人类命运大议题》，林俊宏译，中信出版社，2018，第305页）。
[54]参看欧洲议会于2017年2月16日《机器人民法规范》（P8-TA（2017）0051）第T段（Civil law rules on robotics，European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics（2015/2013（INL）））。
[55]郭少飞：《电子人法律主体论》，《东方法学》2018年第3期。
[56]许中缘：《论智能机器人的工具性人格》，《法学评论》2018年第5期。
[57]杨立新：《用现行民法规则解决人工智能法律调整问题的尝试》，《中州学刊》2018年第7期。
[58]杨立新：《人工类人格：智能机器人的民法地位》，《求是学刊》2018年第4期。
[59]刘宪权：《人工智能时代机器人行为道德伦理与刑法规制》，《比较法研究》2018年第4期。
[60]王利明：《亟须法学研究和立法工作予以关注——人工智能时代提出的法律问题》，《北京日报》2018年7月30日第13版。
[61]刘小璇、张虎：《论人工智能的侵权责任》，《南京社会科学》2018年第9期。
[62]赵万一：《机器人的法律主体地位辨析——兼谈对机器人进行法律规制的基本要求》，《贵州民族大学学报》（哲学社会科学版）2018年第3期。
[63]参看2018年10月22～26日在布鲁塞尔举行的第十四届数据保护与隐私专员国际大会所通过的《人工智能伦理与数据保护宣言》第四项原则。
[64]参看欧洲议会于2017年2月16日《机器人民法规范》（P8-TA（2017）0051）第A段[Civil law rules on robotics，European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics（2015/2013 INL）]。