人工智能“合乎伦理设计”的理论探源

导读：人工智能设计的内涵 合乎伦理设计作为美国电气与电子工程师协会的框架性指导文件，目的在于指导与规范人工智能在设计上合乎道德标准，达到造福全人类的目的，避免算法偏见等潜在风险。要想明确人工智能的设计以及人工智能合乎伦理设计，必须掌握设计的内涵和...

人工智能设计的内涵

“合乎伦理设计”作为美国电气与电子工程师协会的框架性指导文件，目的在于指导与规范人工智能在设计上合乎道德标准，达到造福全人类的目的，避免算法偏见等潜在风险。要想明确人工智能的设计以及人工智能“合乎伦理设计”，必须掌握设计的内涵和本质，关注设计中的伦理问题。

对于设计的内涵和本质众说纷纭，学界没有达成统一意见，设计理论学家理查德布坎南（R. Buchanan）认为“设计往往被描述为支撑人类个人生活或者集体活动的人工物、手工制品或者产品。”设计学家维克多巴巴纳克（V. Papanek）在其专著《为真实世界而设计》中提出设计必须尊重客观世界的规律，设计基于真理性，设计也为了实现设计者目的，设计具有目的性，设计是真理性与目的性的统一。美国工程哲学家沃尔特文森蒂（W. G. Vincenti）提出“设计当然不仅仅指一组设计方案与图表，也包括产生这些设计方案与图表的过程。”从上述话语，我们可以看出文森蒂认为设计不仅仅关注设计的结果或者设计人工物，并且还要关注设计的过程。设计学家卡莱夫蒂姆（C. L. Dym）认为设计不能简单界定为结果或者过程，设计是一个系统工程，”工程设计是对于人工物进行专门化系统的、智力的概括与评估。这些人工物的形式与工程满足了所阐述的目标并且满足了特定的约束条件。”荷兰技术哲学家皮特克罗斯（P. Kroes）提出可以借鉴系统科学中的“结构”与“功能”概念对技术人工物进行描述，“将一个物体描述成技术人工物，也就是描述成具有功能的物质物体，需要进行结构与功能描述。” 结构与功能对于技术人工物缺一不可，不仅如此，技术人工物的功能由其结构决定。约翰盖罗（J. S. Gero）也把设计定义为所需功能转化为实现这些功能的物体的（结构）描述的活动。设计的结构与人工物的功能紧密联系。例如对于一个智能机器而言，设计它的目的是什么？为了避免战场上的人员伤亡为抑或为了情感需要、为了减轻工作压力呢？为此设计出军事机器人、情感机器人以及工业机器人。形如问题：这个智能机器由几部分构成、由什么材料制作而成、各部分比例是多少等构成呢？这些问题是关于人工智能机器的结构性描述。对于人工智能机器而言，结构性描述与功能性描述缺一不可。

通过上述对于设计内涵的分析，我们可以看出设计过程并非价值无涉的，它包含了设计者的价值理念与价值判断，在人工智能设计之初规范设计者的价值理念显得尤为重要，设计主体在设计之初的信念与意图决定着设计出什么样的人工智能产品以及通过何种途径设计人工智能产品。设计必须关注设计者的行为，设计行为必须关注设计行为的目标、设计行为的手段以及设计行为的规则。

“合乎伦理设计”理论背景分析

技术哲学的价值论转向背景分析

人工智能的“合乎伦理设计”理论背景与技术哲学中的后人本主义思潮密切相关。荷兰的技术哲学代表克罗斯与安东尼梅耶斯（A. Meiyers）等学者提出技术哲学的价值论转向，关注技术设计，纵观技术哲学的发展，技术哲学的研究进路是一个从技术批判的外在性进路到技术哲学经验转向的内在性技术的转变过程，也是一个从描述性研究进路到规范性研究进路的转变过程。价值论转向之后技术哲学的核心内容是技术设计以及其中的伦理问题，技术哲学家从关注技术使用以及社会反思与批判到关注技术人工物的设计。对于人工智能的研究除了关注算法、程序等技术问题，还要关注人工智能的社会影响，更要关注人工智能的设计环节机器设计伦理。

“道德物化”理论背景分析

一般来讲，道德是对人的行为规范，人工物不是道德主体，例如，伦理学的后果论通过行动结果的价值来评价行动，道义论不从行动的结果而是从行动自身来评价行动。不管是哪种观点，都指向道德主体为人，人工物不可能成为道德主体。但机会人工物并非与道德毫无关联的，技术人工物具有与人类道德相关性，可以规范和引导人类形成或者保持遵守道德的行为。福格提出劝导性设计（Persuasive design），并将其运用到计算机技术学中，他认为根据可靠的道德标准设计的高科技劝导工具未来将大有可为，劝导技术是改变人的态度或行为的交互式技术，劝导设计是有劝导意图性的设计，是对劝导技术的设计实践。荷兰的皮特维贝克（P. P. Verbeek）提出“道德物化（Materialization of Morality）”概念，认为技术具有道德调节作用，可以人类价值嵌入到技术人工物。维贝克的“道德物化”观点一提出就引发学者的关注，汉斯阿特胡斯（H. Achterhuis）提出“将装置道德化”。拉图尔提出道德不仅仅在于人，而在于物，例如，马路上的减速带的设计是为了防止车辆超速驾驶。通过上述“道德物化”的分析，我们可以知道，设计有利于规范使用者的行为，设计的人工物具有道德调节作用。

人工智能技术以设计为逻辑起点

人工智能设计同样应关注设计者的行为与设计中的价值负载问题。人工智能先驱希尔伯特西蒙（H. A. Simon）关注人工智能设计人工物。他在《人工科学》（The Sciences of theArtificial）借鉴亚里士多德的“四因说”来分析智能人工物设计的基础与本质，“人工物由人类合成制造（制造人工物的动力因）；人工物通过物理符号系统模仿自然物品的外观，但缺乏自然的真实性（制造人工物的质料因）；人工物包含合成和改造（制造人工物的形式因）以及人工物包含命令（制造人工物的目的因）。”西蒙认为设计不仅仅是对自然科学的补充，对于设计的研究还是一项心理学研究。设计是综合性而非分析性活动，设计需要的不仅仅是描述性陈述，更需要规范性的规约。对于智能机器这种特殊人工物的设计伦理，除了设计伦理与在设计中嵌入人类道德之外，还要包括人类如何对待智能机器的伦理，这涉及到对于人与人工智能机器关系的界定。

“合乎伦理设计”的理论探源

人工智能的发展改变传统主客关系

人与技术的关系或者说主客关系一直以来就是哲学思想的源头，人是主体，人之外的世界是客体；只有主体才具有意向性，客体是人类主体认识的对象。在哲学的研究历史中，从米利都学派的泰勒斯探索万物本元的时候就关注主体如何认识客体，关注主客关系。技术哲学家唐伊德（D. Idle）通过讨论技术在人与世界中的关系来讨论主体与客体关系。维贝克继承了伊德的人、技术与世界区分理论，他在分析人与技术的关系的基础上重新思考了技术意向性问题，在此基础上，维贝克提出了两种新的人-技术-世界关系，即赛博格关系（cyborg relation） 和复合关系（composite relation）。

智能机器具有潜在的道德主体地位

智能机器是否具有道德主体地位应该考虑对于道德主体层次的界定。美国达特茅斯学院的哲学教授詹姆斯摩尔（J. H. Moor）在《机器伦理的本质、重要性与困难》（The Nature,Importance, and Difficulty of Machine Ethics）提出，界定机器是否具有道德主体地位是困难的，伦理只是情感的表达，机器不可能有情感，但在当今的技术世界，我们不能也不应该避免对机器伦理的考虑。摩尔通过层次模式对人工道德主体进行了分类，他把道德主体分为四类：道德影响主体（Ethical-impact agents）、 隐性道德主体（Implicit ethical agents）、 显性道德主体（Explicit ethical agents）以及完全道德主体（Full ethical agents）。随着人工智能的发展，人工智能机器可能具有道德主体地位，不管人工智能是否是道德主体，人工智能设计都应该关注设计者行为与设计中的价值负荷问题，也要承认设计人工物的道德约束作用。

现在进入人工智能技术发展的“第四次革命”时代，不论是是否坚持智能机器具有人类智能，但都认识到人工智能出现具有与哥白尼革命、达尔文生物学革命、弗洛伊德心理学革命同样的“颠覆性”作用，在设计之初通过“道德图灵测试（Moral Turing Test）”，把人类的“善”的道德规范嵌入到人工智能技术的具体设计标准和设计环节中，把人工智能算法的透明性作为基础，提倡人工智能算法的问责制，同时坚持公平、可靠、安全的人工智能设计原则，保护人类的隐私不受侵犯，保障人工智能技术的有序、良性发展。

END

本文节选自《自然辩证法通讯》2020年第42卷第4期

关注我们

发现更多