首页 资讯正文

360首席安全官杜跃进:打造“人工智能+安全”国家级开放创新平台

360首席安全官杜跃进:打造“人工智能+安全”国家级开放创新平台

面对2020年的许多挑战,人工智能迎来了应用程序开发时代的机遇。 360集团首席安全官杜跃进在分享中指出,在数字时代,人工智能是核心驱动力。但是,尽管人工智能为各个行业提供了支持,但它也将带来新的安全治理挑战。

杜跃进总结了人工智能本身的安全威胁,从最低级别的硬件传感器和芯片设计到软件本身,包括硬件,软件,协议,数据,算法,应用动机和道德规范都面临安全风险。一是硬件级别。许多人工智能组件在物理层面缺乏安全保护。即使线路的只有一部分没有电磁屏蔽,也会留下物理干扰的机会。第二个是软件级别。任何软件都具有漏洞,攻击者可以利用这些漏洞来实现诸如代码执行,拒绝服务攻击,控制流劫持和信息泄漏之类的目标。第三是协议级别。许多专用的通信协议设计缺乏安全性考虑。第四个是数据级别。大数据时代存在“黑匣子悖论”。人工智能与数据是分不开的,但是数据本身可能会受到污染。这种人工智能似乎被“毒化”。第五是业务水平。该算法本身可以被欺骗和误导。当人工智能越来越多地用于控制相关业务时,它可能会产生致命的影响。第六是应用动机水平。坏人可能会更早,更深地看到人工智能带来的机会。如今,除了人工智能之外,许多尖端技术领域(例如生物技术)都有这种趋势,值得警惕。第七是机构设计水平。模型设计注意事项不足会导致反弹,并可能产生非常严重的后果。他强调指出,坏人手中的人工智能可以有效地用于安全攻击,并将给安全保护带来更大的挑战。但是,与此同时,人工智能也可以用来解决安全问题。

应当指出,在安全领域,人工智能的创新与应用之间存在很大的差距。缺乏人工智能安全研究和创新环境,也缺乏系统的安全评估。因此,360目前为建立人工智能开源软件和硬件技术平台和智能安全检测平台提供技术储备,包括建立开放和协作的人工智能技术创新系统,促进网络安全产业升级。 360安全大脑开放创新平台的目标是通过构建通用技术平台,开放安全的大数据,人工智能安全攻防资源库等来建立开放服务机制,为产业链和创新链的上下游单元,促进人工智能产业持续,健康,快速发展。

演讲结束时,杜跃进表示,360将通过安全大脑来增强行业力量,以解决高级安全对抗的问题。同时,工业互联网安全研究所还将使用人工智能解决工业互联网安全问题。

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

本文链接:https://www.chinaai.com/zixun/564.html

评论