首页 资讯正文

人工智能安全运营的技术发展趋势

人工智能安全运营的技术发展趋势

人工智能安全运营(AISecOps)技术能力的构建不是简单复制其他业务经验就能一蹴而就。人工智能技术应用场景虽然铺得非常广,但是应用深度却明显不足。智能语音服务、图像识别这类服务是典型的智能化场景,却也只是较为低层次(感知层面)的应用。在任何自动化过程中需要关键任务决策的甚至生命攸关的技术场景,如军事、金融、医疗、自动驾驶、法律判决等,当前的人工智能技术仍难以有效胜任,只能应对场景中的部分问题,距离高度的任务自动化相去甚远。网络安全运营正是此类场景之一。当前智能化技术本身的不成熟难以赢得人们的信任,成为限制其在许多场景下深入应用的关键问题。

构建可信任安全智能技术体系

打造更加可信任的人工智能,弥补人在处理海量数据过程中的先天不足,打造可信的智能“战友”,是人类的终极追求。人工智能技术在网络安全中的应用,一方面可以“直接拿来”,应用到网络安全数据分析的非核心场景和流程上,辅助安全工作,如使用自然语言处理技术分析威胁情报,构建专家系统对话机器人,使用成熟的图像处理技术检测恶意图片、视频等;另一方 面,需要“优化打造 ”,构建针对威胁检测、评估、关联、响应等阶段的核心安全智能。

从构建技术信任的角度,以提升关键安全能力自动化水平为目标,可信任的安全智能体须满足以下核心技术要素的要求:能够适应高度动态网络环境和攻击场景的性能,透明、可解释、鲁棒安全的模型算法,合法、合规、可审计且满足社会道德约束的执行过程和结果。以上多个技术要素互为补充又相互依赖,因此在设计之初就要充分考虑。

正如大家都更倾向于选择能力强、善于沟通、抗压能力强、高尚守法的人做战友,具备以上技术要素的机器智能更能够获取人的信任,并胜任高级别的安全运营自动化任务。此外,在可信任安全智能体系的探索过程中,需要充分融合可解释人工智能(Explainable Artificial Intelligence,XAI)、图挖掘与分析、智能决策系统、风险评估、人机交互等多学科、多领域的智能化技术能力,为安全运营的感知、认知、决策和行动多阶段的任务赋能。

构建AISecOps技术生态

网络安全关系到国计民生,国际形势在快速演变,潜在攻击组织可能通过任何一个脆弱点打破网络安全防线。因此,安全运营看似是企业、组织的自家事,实际上是关系到国家安全的关键环节。从近年来国家级网络威胁情报体系的建设、城市级安 全运营中心雨后春笋般的落地,可窥见网络安全运营建设需要国家高度的战略眼光。随着安全运营体系的扩展,所需防护资产从个人、企业、组织的私有资产,逐渐扩大到地区级、国家级关键技术设施及数据资产。

技术的发展需要技术生态的构建,以提供持续的、全方位的资源支撑。AISecOps技术的发展也不例外。现阶段,安全厂商林立,安全技术方案层出不穷,然而在数据、技术、平台等多层上缺乏规范性约束,在技术交流上缺乏共识语言,在共享合作上缺乏监管机制,多个方面统一生态的缺失造成了技术发展的减速。因此,无论从现实需求还是从技术发展的关键途径来看,AISecOps智能安全运营技术生态体系的建立已是迫在眉睫。

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

本文链接:https://www.chinaai.com/zixun/6710.html

发表评论

评论列表(0人评论 , 9088人围观)
☹还没有评论,来说两句吧...