人工智能安全运营的技术发展趋势

人工智能安全运营（AISecOps）技术能力的构建不是简单复制其他业务经验就能一蹴而就。人工智能技术应用场景虽然铺得非常广，但是应用深度却明显不足。智能语音服务、图像识别这类服务是典型的智能化场景，却也只是较为低层次（感知层面）的应用。在任何自动化过程中需要关键任务决策的甚至生命攸关的技术场景，如军事、金融、医疗、自动驾驶、法律判决等，当前的人工智能技术仍难以有效胜任，只能应对场景中的部分问题，距离高度的任务自动化相去甚远。网络安全运营正是此类场景之一。当前智能化技术本身的不成熟难以赢得人们的信任，成为限制其在许多场景下深入应用的关键问题。

构建可信任安全智能技术体系

打造更加可信任的人工智能，弥补人在处理海量数据过程中的先天不足，打造可信的智能“战友”，是人类的终极追求。人工智能技术在网络安全中的应用，一方面可以“直接拿来”，应用到网络安全数据分析的非核心场景和流程上，辅助安全工作，如使用自然语言处理技术分析威胁情报，构建专家系统的对话机器人，使用成熟的图像处理技术检测恶意图片、视频等；另一方 面，需要“优化打造 ”，构建针对威胁检测、评估、关联、响应等阶段的核心安全智能。

从构建技术信任的角度，以提升关键安全能力自动化水平为目标，可信任的安全智能体须满足以下核心技术要素的要求：能够适应高度动态网络环境和攻击场景的性能，透明、可解释、鲁棒安全的模型算法，合法、合规、可审计且满足社会道德约束的执行过程和结果。以上多个技术要素互为补充又相互依赖，因此在设计之初就要充分考虑。

正如大家都更倾向于选择能力强、善于沟通、抗压能力强、高尚守法的人做战友，具备以上技术要素的机器智能更能够获取人的信任，并胜任高级别的安全运营自动化任务。此外，在可信任安全智能体系的探索过程中，需要充分融合可解释人工智能（Explainable Artificial Intelligence，XAI）、图挖掘与分析、智能决策系统、风险评估、人机交互等多学科、多领域的智能化技术能力，为安全运营的感知、认知、决策和行动多阶段的任务赋能。

构建AISecOps技术生态

网络安全关系到国计民生，国际形势在快速演变，潜在攻击组织可能通过任何一个脆弱点打破网络安全防线。因此，安全运营看似是企业、组织的自家事，实际上是关系到国家安全的关键环节。从近年来国家级网络威胁情报体系的建设、城市级安 全运营中心雨后春笋般的落地，可窥见网络安全运营建设需要国家高度的战略眼光。随着安全运营体系的扩展，所需防护资产从个人、企业、组织的私有资产，逐渐扩大到地区级、国家级关键技术设施及数据资产。

技术的发展需要技术生态的构建，以提供持续的、全方位的资源支撑。AISecOps技术的发展也不例外。现阶段，安全厂商林立，安全技术方案层出不穷，然而在数据、技术、平台等多层上缺乏规范性约束，在技术交流上缺乏共识语言，在共享合作上缺乏监管机制，多个方面统一生态的缺失造成了技术发展的减速。因此，无论从现实需求还是从技术发展的关键途径来看，AISecOps智能安全运营技术生态体系的建立已是迫在眉睫。