首页 资讯正文

人工智能与网络安全是一把双刃剑

人工智能与网络安全是一把双刃剑

研究表明,人工智能技术为各行业组织的业务带来了巨大的发展潜力,但同时也带来了威胁和风险。如果某人或某个组织通过人工智能技术获得不当的利益或违法犯罪,那么人工智能技术就是他们手中的武器,并会产生各种威胁。人工智能技术在安全方面并不完全是坏消息。例如人工智能在网络监控和分析方面非常有效。

人工智能如今已经成为一个热门话题,关于人工智能的用途以及可能带来风险的误解和困惑也越来越多。一方面,文学作品和电影几十年来将人工智能技术描绘成为反乌托邦式的全能机器人。另一方面,许多人了解人工智能在加快人类社会发展的潜力。尽管计算机系统可以学习、推理以及采取行动,但这些行为仍处于早期阶段。机器学习(ML)需要学习大量数据,并根据人类分配给人工智能的功能转化为训练或指导。而允许人工智能访问信息并给予其充分的自治权会带来严重的风险,必须得到控制。

人工智能的主要风险与其创造者有着内在的联系。由于人类会犯错误或有偶然的偏差,或者说,程序员的粗心或数据的错误可能会使人工智能系统产生一系列的错误。人工智能系统的不当设计还可能导致计算系统的规模过大或过小,从而导致人工智能系统做出不必要的决策或陷入停顿。而采用诸如人工监督的控制系统并严格测试人工智能系统可以在设计阶段降低这些风险。因此必须对计算系统的决策能力进行测量和评估,以确认是否可以快速解决偏差或可疑决策,并在必要时予以纠正。尽管所描述的人工智能的风险是基于无意的错误以及设计和实施中的缺陷造成的,但是如果个人或组织利用人工智能系统作恶的话,人工智能就像罪犯手中的武器一样带来更多的威胁。

网络犯罪分子可能比人们想象的更容易地使用人工智能技术,并“训练”人工智能系统为其获利。他们可以操纵输入计算机的数据集(数据中毒)以“训练”人工智能,甚至对控制参数进行更改,这一切都是为了将其引向自己的目标。如果网络犯罪分子无法访问数据集,则可以利用篡改技术来强制人工智能系统产生计算错误或使其难以正确识别数据集。即使只是出于财务原因,检查数据和输入的准确性可能并不可行,但安全人员仍需要尽一切努力从可靠且经过验证的来源收集数据。在针对网络攻击的防御措施中,值得一提的是,在某些部分或整个人工智能系统中添加了具有自动预防机制的隔离功能。

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

本文链接:https://www.chinaai.com/zixun/6203.html

发表评论

评论列表(0人评论 , 6629人围观)
☹还没有评论,来说两句吧...