对谈｜何怀宏：绝不让人工智能妨碍我的理智

人脑植入芯片，或能成为长生不老的超人，但我们还会有属人的丰沛感受和无限创意吗？人工智能给世界带来巨大便利，但会不会某一天越过奇点转而操控、替代并加害人类？基因编辑生殖细胞，或能治疗许多疾病，但会不会危及人类基因库与自然的生物世界？凡此种种，对人类来说，到底是福音还是噩耗？

在最新出版的《人来还有未来吗？》一书中，伦理学家、北大哲学系何怀宏教授从底线伦理和中西传统文化智慧的角度考察了人工智能和基因技术与我们的现实关系，并提出了预防性的道德与法律规范设想。这是北京大学何怀宏教授 2017年至今在博古睿研究中心从事跨学科研究的成果。

何怀宏9月底，何怀宏、科幻作家郝景芳、清华大学计算机系教授孙富春与批评家季亚娅就人工智能相关问题进行了对话。对话内容包括：怎么看待赫拉利《未来简史》《人类简史》和刘慈欣、郝景芳等人科幻小说为我们描绘的未来图景；伴随着人工智能在具体生活里的应用，哪些职业会被取代以及由此衍生的人工智能优势在算法、深度学习还是其他方面的问题；人工智能在人类历史的原型、发展；神人关系和人机关系究竟意味着什么……

《人来还有未来吗？》

“

技术时代，文明和人类都将面临新的挑战

”

何怀宏在谈及本书写作的起因时说：“大概是七八年前吧，我对这个世界的精神文化感到一种突然的失落，它好像不再是向上，而是开始向下。我们所读的书，我们的作家、哲学、艺术，包括我们读的最伟大的哲学家的作品还是100多年前的、甚至更早的。我也开始担心文明，100多年前的某天，梁漱溟的父亲梁济曾经问过他25岁的儿子一个问题：这个世界会好吗？三天后他就自杀了。但他这个问题主要还是心系中国，在中国建设政治社会的途中，在辛亥革命、建立共和国之后，他看到很多乱象，忧心忡忡，为什么？我们现在这个问题不仅仅是对中国，可能是对人类而言。在技术时代，文明和人类都将面临新的挑战。”

何怀宏认同“积极的行动者”的态度，“我也是这样想的，绝不让人工智能妨碍我的理智。我非常喜欢具体的事情：比如护理机器人，如果有小偷来袭击一个老人，可不可以让护理机器人保护他？我现在觉得还可以采取别的办法，比如报警或者什么。需要护理机器人用暴力的手段的话，是很危险的，因为很可能变成进攻的工具。还有基因工程也是一样的，你要有预防性，预防各种各样的威胁。比如说生殖细胞你就不能动，你要动生殖细胞，也许能使患者健康，但是它间接的长远的后果是不知道的。可能防止了艾滋病，但是容易感染其他的疾病等等。”

人工智能的研发需要遵守哪些原则？

孙富春作为清华大学计算机系教授、智能机器人研究中心主任，对于人工智能的有一些专业的阐释。

孙富春关于机器人的基层研究已经发生了巨大的变化：我们过去研究的机器人完全写程序控制工作，第二代机器人就给它装上视觉系统，现在在这些基础上研制了一种叫模态的自建传感器，它可以测量接触物体表面的颜色问题，触觉，包括还有给你的感受，这些都能够测出来，还有温度计也能测出来。比如华为最近跟我们合作的家用机器人，它可以识别人，甚至可以对环境进行监控。现在也有情感智能的研究，目前还是基于这种视觉的表面的表情体态的。下一步它可能有像一个拥抱一个轻拍，那种亲热感。”

孙富春介绍，在2017年达沃斯论坛会议上，一些科学家提出了三点建议，现在也成为我们人工智能课程的教学理念，他介绍了人工智能三原则，分别为：价值一致性原则，即我们要让人工智能机器人帮助人增强它的服务能力，但绝不能取代人类，这是一个比较重要原则；其次是透明性原则，人工智能必须是透明的，包括在伦理上的许可，获得公众的信任和可解释性。“讲一个最简单的例子，就是基因编辑，这个基因编辑好吗？有的基因编辑真的是好的，有的基因编辑真的不能做，为什么这么讲？机器人特别聪明，就像一个人特别聪明，时间长了，以后我们可能会看到，我们这些人都将是他统治的对象，这是人的本性。大家可以看到人的贪婪，那种欺弱的本性，这是我们每个人都有的。”孙富春说。最后就是要把工智能系统做成闭合回路。让机器人真的为我们服务，千万不能让机器随性发展。在我们人类能力能够控制的地方，再任它去发展。

何怀宏对此也提出自己观感：“过去区分人和机器主要是在材料。人类是碳基生物。但是我们有人造肢体，那碳基生物是不是也可以完全变成一个硅基的存在？我们用特殊材料支撑，变成钢铁人。我们很难说，哪里发生了一种质变，这会遇到一个极大的挑战。其次就是感受性，作为碳基生物，我们很强调感受性，恰恰这些人人工智能最没办法学的，但是机器人还有一点很笨，我们人能够进入屋子，扫视一下，看着很多人，其实有些印象深刻的一下就记住了。还有可能一见钟情，但是机器没办法做到这些，我们最容易做到的事情，机器最难做到。这要依靠我们的感受。因为他一切都要通过算法，通过计算来完成，机器人需要输入数据。”