当前位置:首页 > 资讯 > 正文

《新一代人工智能伦理规范》发布,确保人工智能处于人类控制之下

新京报快讯(记者 张璐)9月25日,国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》,提出在提供人工智能产品和服务时,应充分尊重和帮助弱势群体、特殊群体,并根据需要提供相应替代方案。同时要保障人类拥有充分自主决策权,确保人工智能始终处于人类控制之下。

《新一代人工智能伦理规范》发布,确保人工智能处于人类控制之下  第1张

提供人工智能产品应尊重弱势群体,提供相应替代方案

《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养6项基本伦理要求。人工智能各类活动应增进人类福祉,坚持公共利益优先,促进人机和谐友好。同时应促进公平公正,坚持普惠性和包容性,促进社会公平正义和机会均等。在提供人工智能产品和服务时,应充分尊重和帮助弱势群体、特殊群体,并根据需要提供相应替代方案。

人工智能各类活动应保护隐私安全,充分尊重个人信息知情、同意等权利,保障个人隐私与数据安全,不得损害个人合法数据权益,不得以窃取、篡改、泄露等方式非法收集利用个人信息,不得侵害个人隐私权。要保障人类拥有充分自主决策权,有权选择是否接受人工智能提供的服务、有权随时退出与人工智能的交互、有权随时中止人工智能系统的运行,确保人工智能始终处于人类控制之下。

要增强安全透明,避免数据与算法偏见

《伦理规范》明确,要坚持人类是最终责任主体,在人工智能全生命周期各环节自省自律,建立人工智能问责机制,不回避责任审查,不逃避应负责任。积极学习和普及人工智能伦理知识,客观认识伦理问题,不低估不夸大伦理风险。

在研发方面,要增强安全透明。增强人工智能系统的韧性、自适应性和抗干扰能力,逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。要避免偏见歧视。在数据采集和算法开发中,加强伦理审查,充分考虑差异化诉求,避免可能存在的数据与算法偏见。

在供应方面,在产品与服务中使用人工智能技术应明确告知用户,保障用户知情、同意等权利。为用户选择使用或退出人工智能模式提供简便易懂的解决方案,不得为用户平等使用人工智能设置障碍。

新京报记者 张璐

见习编辑 刘茜贤 校对 吴兴发