新思路、新举措：专家学者探讨人工智能安全与个人信息保护

原标题：新思路、新举措：专家学者探讨人工智能安全与个人信息保护

中国经济网合肥9月6日讯（记者王婉莹）2022国家网络安全宣传周“人工智能与个人信息保护论坛” 6日在安徽合肥举办。企业代表及专家学者站在“十四五”的新起点上，剖析人工智能行业发展现状，把握人工智能行业发展脉搏，研判人工智能行业发展趋势及坚守发展与安全为底线的原则，用新思路和新举措推动人工智能产业发展迈上新台阶，让人工智能产业发展更好地造福人民。

本次论坛围绕“筑牢个人信息保护防线，促进人工智能健康发展”主题展开研讨，并以“共建个人信息保护防线”为主题开展圆桌论坛。

安徽省委网信办副主任文霞平认为，应形成数据安全使用共识，平衡好人工智能发展与个人信息安全的关系。

科大讯飞总裁吴晓如介绍了当前我国人工智能技术的进展，他指出，人工智能技术具有重要的战略地位，亦是国家“十四五”期间重点攻关的科技前沿领域之一。人工智能技术作为强大的数据处理工具，在个人隐私保护上具有更强大的数字经济推动力，同时也要关注人工智能在个人隐私保护中要坚守的底线和责任。

“比如，在安全管理体系上落实安全组织，制定规范流程，从顶层设计层面保障安全资源；在安全技术体系上，以可用、可信、可靠的安全技术，形成安全能力的坚实基础；在产品安全体系上，将产品安全活动内建于产研管理流程，从源头降低安全风险；在个人信息保护体系上，形成全面覆盖业务场景的隐私保护机制，保障个人隐私信息数据生命周期的安全。”吴晓如说。

谈及信息安全，中科院计算所研究员、博导山世光指出，个人隐私信息保护至关重要，其核心目标是去标识化，破解既要应用又要安全的难题，使数据“可用不可见”。他提出，有三类方法可应对：以加密为核心的隐私保护、可信联邦学习、反制AI系统，可以主动避免信息被收集。

清华大学交叉信息研究院兼职教授，慧安金科（北京）科技有限公司创始人、CEO黄玲坦言，在互联网和大数据时代背景下，在线业务面临欺诈风险的严峻挑战，人工智能在金融安全领域可以在账户安全、企业风控、交易反欺诈、反洗钱这四方面提供解决方案，有望通过开创性使用半监督机器学习技术解决行业痛点。

关于人工智能安全性，在阿里巴巴集团副总裁、中国网络空间安全协会副理事长钱磊看来，在人工智能技术的应用过程中，特别是在用户利益相关的场景，要警惕技术误用或滥用和个人信息的滥用这两大类风险。在消费者隐私保护方面，“形成从算法评估、风险检测、干预机制的全生命周期风险管理流程，并重点推动算法治理、隐私保护、伦理制度建设等工作，探索相关前沿技术，提升整体科技自省自律水平。”