首页 资讯正文

请借我一双甄别AI造假的慧眼丨时评

导读:公司高管打来视频电话,要求财务转款到指定账户完成合同签订,早有防备意识的财务人员反复确认自己看到了高管本尊,说话没有异常,更是眼见为实,便按指示行事,不料最终钱款被骗。原来,视频电话里的高管形象,乃是深度伪造技术合成的假面,声音也是AI合成...

公司高管打来视频电话,要求财务转款到指定账户完成合同签订,早有防备意识的财务人员反复确认自己看到了高管“本尊”,说话没有异常,更是眼见为实,便按指示行事,不料最终钱款被骗。原来,视频电话里的“高管”形象,乃是深度伪造技术合成的假面,声音也是AI合成。这并非科幻电影中的场景,“奇案”已经在我们身边发生。

最近,使用AI等“黑科技”冒充他人进行诈骗的案件频频发生;据统计,造假视频在2019年到2020年一年内增长了330%。近日,针对日益高发的人工智能新型手段诈骗,公安部发文提醒公众注意防范,建议通过多重验证、保护信息和相互提示的方式避免上当。

请借我一双甄别AI造假的慧眼丨时评

风靡一时的AI换脸APP“ZAO”,其换脸功能引发人们对信息泄露、身份冒用等风险的担忧,目前已下架。

人工智能科技高速发展,成为了引领这一轮产业变革的一驾马车。然而科技的双刃剑效应也持续显现,在人工智能极大提高生产效率,方便人们生活的同时,滥用“黑科技”进行犯罪活动,造成了困扰,也冲击着传统的法律与伦理。

尽管有刑侦专家指出,当前的AI造假技术尚能通过加强辨识来防范,但随着技术快速迭代,人类迟早有一天会无法通过自身鉴别真假。“眼见为实”的基本常识,已成明日黄花,我们究竟还能不能在高科技发展的未来,维持互相信任?难道我们向往科技昌明的明天,会是“高科技、低生活”的“赛博朋克”世界?

科技进步的脚步无法也不应被人阻滞。但科技带来的副作用,却需要我们运用智慧来规避。正如当下流行的网络语言“只有用魔法才能打败魔法”,研发更多监管性“白科技”,将科技创新约束在可控范围,势在必行。

人工智能其实已经奋斗在了反诈骗一线。现在,当你接到疑似电信诈骗电话时,这通电话很可能已经被公安部门甄别。电信诈骗总是有类似特征,通过大数据分析,很容易就能从正常通讯中发现异常。许多人接到疑似诈骗电话后,第一时间就会接到公安部门反诈骗中心的提示电话或信息。这种人工智能“道高一丈”,可以很好从根上铲断诈骗黑手。当然,如果这一道防线被突破,在人们进行转账时,人工智能卫士仍会守住防线陌生人之间没有征兆的大金额转账,往往意味着危险,银行、支付应用已经“标配”了这样的预警和干预机制,让人就算被骗也不会蒙受损失。

请借我一双甄别AI造假的慧眼丨时评

诈骗其实是一个“产业链”,在这个链条上有诈骗者、洗钱者,也有收卡者、贩卖个人隐私者等等犯罪团伙,只有彻底断链,诈骗才能被禁绝。下一步,警方也应利用人工智能工具打击这些犯罪。近年来,警方、银监会、电信运营商和不少互联网公司携起手来,打击电信、金融犯罪的“智慧大脑”已经初步形成,麟、鹰眼、神荼、神侦、神羊等十余款反诈骗产品已经帮助相关部门破获众多诈骗案件。

请借我一双甄别AI造假的慧眼丨时评

而面对迷惑性极强的AI换脸、变声,最好的甄别方法,依旧是AI自身。真的假不了,假的真不了,还是颠扑不破的真理人的感官存在缺陷,而AI能够很好弥补人的不足。最近,诸如图神经网络、关联图谱等AI反欺诈算法,以及数据指纹、智能多因子认证技术等反诈骗技术也日渐成熟。利用算法和技术创新,计算机可以发挥机器学习的优势,快速发现造假者的马脚,划分真假的界限,为人们决策作出安全、准确的参考。

回溯历史,我们已经多次面临新技术带来的社会挑战。比如照相机的发明改变了传媒界,却也带来了图片造假技术,人们对此也曾忧心忡忡但总体而言,当下人们依旧相信“有图有真相”,社会的透明度也确实在不断增加。我们有理由相信,未来的世界,也不会因为“造假技术”出现而变得真假莫测,相反,在技术助力下,我们会拥有更明亮的慧眼。

图片:来源于网络,版权归原作者所有

编辑:赵鑫

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

本文链接:https://www.chinaai.com/zixun/6244.html

发表评论

评论列表(0人评论 , 6163人围观)
☹还没有评论,来说两句吧...