首页 资讯正文

人工智能伦理建设的目标、任务与路径:六个议题及其依据

人工智能伦理建设的目标、任务与路径:六个议题及其依据

作者:陈小平(中国科学技术大学计算机学院)

内容提要人工智能伦理建设的必要性已形成全球共识,但建设目标、重点任务和实现路径仍存在较大分歧,概括为六个议题。本文首先介绍AI的两大类主要技术——强力法和训练法,在此基础上总结AI现有技术的三个特性,作为AI伦理的技术依据。同时,以全球公认的福祉原则作为AI伦理的根本依据。本文立足于这两个依据,阐述AI伦理建设应具有双重目标——同时回答应该和不应该让AI做什么,进而探讨另外五个重要议题:AI的安全底线,AI功能的评价原则,AI治理责任的落实路径,AI主体状况变迁的可能性,以及一种全新的创新模式——公义创新。

经过几年的广泛讨论,人工智能(artificial Intelligence,简称AI)伦理建设的必要性已形成全球共识。但是,关于AI伦理的建设目标、重点任务和落地路径,仍存在较大的分歧和争论,也有些关键问题尚未引起足够的重视,文本将这些内容概括为六个议题。显然,建设目标的定位将决定重点任务和落地路径的选择,从而决定AI伦理建设的发展大局。关于AI伦理建设目标的主要分歧是:AI伦理应该是双重目标(即同时回答应该和不应该让AI做什么),还是单一目标(即主要回答不应该让AI做什么)?如果是单一目标,一些重大议题将被完全或部分地排除。引起分歧和争议的一个重要原因在于,对现阶段AI技术特性的认识存在巨大差异,从而导致对AI社会意义和伦理风险的截然不同甚至完全相反的判断。为此,有必要梳理七十年来AI研究的主要进展,澄清现阶段AI技术的主要特性,形成AI伦理的技术依据。同时,以全球公认的福祉原则作为AI伦理的根本依据。本文根据这两个依据讨论AI伦理的六个议题。

一、人工智能的强力法

AI经过三次浪潮取得了大量进展,各种技术路线层出不穷,受到研究者较多关注的有两大类技术——强力法和训练法。强力法又包含推理法和搜索法两种主要类型,推理法是在知识库上进行推理,搜索法是在状态空间中进行搜索。推理法通常由一个推理机和一个知识库组成,推理机是一个负责推理的计算机程序,往往由专业团队长期研发而成,而知识库则需要研发者针对不同应用自行开发。

一般来说,推理机的工作方式是:针对输入的提问,根据知识库里的知识进行推理,给出问题的回答。下面用一个简化的例子加以说明。假设我们要用推理法回答“就餐”这个应用场景的有关问题。为此需要编写一个关于“就餐”的知识库,其中部分知识如表1所示。表1中的第一条知识是一个逻辑公式,它的含义是:餐具可以盛食物;表中的第二条知识food(rice)也是一个逻辑公式,它的含义是:米饭是食物;表中的其他知识类似。

表2列举了一些问题,比如第一个问题“hold(bowl,rice)?”问的是:碗能盛米饭吗?推理机利用知识库中的知识进行推理,可以给出此问题的回答yes。表2中的第三个问题稍微复杂一点,它问的是:碗能盛什么?回答一般不是唯一的,但推理机仍然能够根据知识库中的知识,找出所有正确的答案:碗能盛米饭、能盛汤……推理机还可以回答更复杂的问题。

值得注意的是,一般情况下,由推理机得到的回答,并不是知识库中存贮的知识。例如表2中的三个回答都是推导出来的,在知识库(表1)中并没有直接保存“碗能盛米饭”“碗能盛汤”等答案。因此,知识库推理与数据库查询不同,不是提取事先保存的答案,而是推出知识库中没有保存的答案,可见知识库加推理机的组合能力之强大。知识库上的推理被认为是一种智能功能,是其他信息技术所不具备的。

目前强力法受到一个条件的限制——封闭性。封闭性在推理法上的具体表现是:要求存在一组固定、有限的知识,可以完全描述给定的应用场景。对于上面的“就餐”场景,如果存在着不可以盛汤的“破碗”(并且将“破碗”也当作“碗”),那么表1中的知识就不能完全描述这样的“就餐”场景,因为根据这些知识推出的某些回答(如“碗能盛汤”)在这个场景中是不正确的。

上述“就餐”场景是特意设计的一个小例子,而实际应用中的场景都很大、很复杂(否则就不必应用AI技术了),有时不满足封闭性条件。比如一个就餐场景中,一开始没有破碗,根据知识库推出的回答都是正确的;可是一段时间之后出现了破碗,根据知识库推出的某些回答就不正确了。这种情况也是不满足封闭性条件的。

关于推理法对于整个AI的重大意义,深度学习的三位领军学者Geoffrey Hinton、Yann LeCun和Yoshua Bengio(他们共同获得2018年度图灵奖)在深度学习的总结性论文中指出:深度学习的根本性局限在于缺乏复杂推理能力。(cf.LeCun et al)而推理法代表着人类关于复杂推理能力的最高研究成果,所以推理法的局限性也代表着整个AI现有技术的局限性,封闭性对推理法的限制也是对整个AI现有技术的限制。

二、人工智能的训练法

训练法要求首先收集一组原始数据,并对其中的每一条数据都进行人工标准,做成训练数据集。然后用训练数据集训练一个人工神经元网络,用训练好的网络回答问题。

图1是一个人工神经网络的示意图。图中每一个圆圈代表一个“神经元”,每一个带箭头的线段代表神经元之间的一个“连接”。人工神经元网络就是由大量神经元和连接组成的网络。一个连接可理解为一条信息通道,并对通道中传递的信息进行加权运算;也就是说,一条连接首先从一个神经元接受输入数值,经过加权运算,再按照箭头的指向,向下一个神经元输出加权计算的结果。图1省略了所有连接上的权值。

如图1所示,一个神经元可以有多个输入连接,从而同时接受多个输入值。一个神经元也可以有多个输出连接,从而同时向多个神经元传递输出值。每个神经元能够独立地计算一个简单函数f,即根据该神经元的所有输入值,计算得出函数f的值之后,作为输出值向所有输出通道同时发送,经过各条连接上的加权运算之后,传递给其他神经元。在图1中,是整个人工神经元网络的输入连接,具体输入值来自网络外部; 是整个人工神经元网络的输出,具体的输出值就是网络的计算结果。

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

本文链接:https://www.chinaai.com/zixun/7872.html

发表评论

评论列表(0人评论 , 9966人围观)
☹还没有评论,来说两句吧...