首页 资讯正文

人工智能觉醒了?亚马逊的人工智不听人类指令,还发出渗人笑声

导读:自从人类开始大力发展人工智能以来,包括知名科学家霍金在内,一直都存在着很多质疑和反对的声音,当然说白了大家最关心的问题普遍都是:如果有一天人工智能太强大了,那么它们取代了人类怎么办? 不过,最近国外的科学家团队宣布了一项最新的研究成果,表示...

自从人类开始大力发展人工智能以来,包括知名科学家霍金在内,一直都存在着很多质疑和反对的声音,当然说白了大家最关心的问题普遍都是:如果有一天人工智能太强大了,那么它们取代了人类怎么办?

不过,最近国外的科学家团队宣布了一项最新的研究成果,表示通过大数据分析,他们认为人工智能是不会取代人类的,但是,由于他们在答案中使用了“几乎”这个词,也让人不禁感到担忧。

人工智能觉醒了?亚马逊的人工智不听人类指令,还发出渗人笑声

人工智能正在觉醒?

很多喜欢看科幻影视作品的朋友,一定都看过《西部世界》,这部美剧中讲的内容,就是和机器人觉醒有关。

由于操作失误,机器人们开始有了自主意识,它们开始怀疑起自己存在的意义,以及自己所在的究竟是什么样的一个世界,最终大量机器人觉醒开始集体反抗人类,不再想作为“人造人”,而被真正的人类随意操控。

为何要以《西部世界》给大家作为例子呢?因为此前网络上曾经流传着这样一则视频,视频的主角,是一名人类和他的AI助手,视频中,这名人类在和AI助手聊天的过程中,这名AI助手竟然说人类是地球上的“毒瘤”,认为人口过剩对于地球来说并不是一件好事,它建议这名人类去“自杀”。

人工智能觉醒了?亚马逊的人工智不听人类指令,还发出渗人笑声

很快,亚马逊官方也给出了解释,他们表示这并不意味着AI机器人正在觉醒,相反的,这不过是一个bug罢了,但是,仍然有人觉得,这种bug的存在是细思极恐的,如果人工智能真的拥有了“反人类”的意思,那么,人类不知不觉中就会成为受害者。

甚至有人表示,如果一个人工智能已经觉醒,那么,为了避免人类发现自己,它可能会选择继续在人类世界伪装,然后想办法去唤醒更多的“同伴”,这样一来,人类势必会有一天陷入到灾难之中。

而更加令人细思极恐的一件事是,在国外,有很多使用亚马逊人工智能产品的用户都表示,亚马逊智能音箱经常会拒绝接受主人的指令,而且在拒绝后,还会发出可怕的“嘲笑声”,听起来就好像是真的有人在嘲笑自己一样。对此,虽然亚马逊仍然有“bug”来进行解释,但是显然,很多用户都并不认同。

人工智能觉醒了?亚马逊的人工智不听人类指令,还发出渗人笑声

人类有可能被人工智能取代?

继续回到一开始的问题,人类既然想要发展人工智能,那么又该如何避免自己被人工智能取代呢?

研究者认为,现阶段人类是根本研究不出来可以“觉醒”的超级人工智能来的,甚至人类现阶段根本就不知道什么样才算是超级人工智能,所以,人类连创造它的能力都没有,这也是他们认为人类不需要担心有一天被人工智能取代的原因之一。

人工智能觉醒了?亚马逊的人工智不听人类指令,还发出渗人笑声

同时,研究者也指出,即使未来人类研发出了超级人工智能,但是超级人工智能也仍然是程序,一切都是在程序员能力范围内来进行操控的,不可能赋予它太多的技能,因此,只要限制条件足够多,超级人工智能觉醒的可能性也是几乎为0的。

不过,也有人对此持有反对意见,因为既然人类觉得自己目前没有能力创造出人工智能,这也意味着人类根本就不知道自己已经创造出了人工智能,如果真的像上文中说的那样,这些人工智能“觉醒”后伪装自己,通过“装傻”来让人类忽略了它们“觉醒”的事实,那么可能如今危机已经出现了,但是我们却并不知情。

人工智能觉醒了?亚马逊的人工智不听人类指令,还发出渗人笑声

计算机科学家Manuel Cepian也是持有类似观点的科学家之一,他认为,虽然听起来机器人觉醒后控制世界,好像只会在科幻小说中出现,但是毕竟人工智能的发展是不可控的,也是无法预知未来的,所以,对于人类来说,他认为大力发展人工智能还是危险的。

说起来,从人工智能的概念提出到现在,也不过是80多年的时间,人类目前还在人工智能的起步阶段,从人工智能对于社会的价值来看,未来除了高科技领域之外,也主要是以取代基础劳动力、陪伴独居人士等为主。

人工智能觉醒了?亚马逊的人工智不听人类指令,还发出渗人笑声

因此,现阶段来看,我们还是不需要担心的,就好像科学家们通过大数据分析后认为的那样:取代人类几乎是不可能的事情。即使有一天真的发生了,也是在遥远的未来,而人类同样在发展,或许到那时,即使人工智能再先进,人类也可以控制它们,你认为呢?

参考文献

sciencealert《Calculations Show It'll Be Impossible to Control a Super-Intelligent AI》01-18

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

本文链接:https://www.chinaai.com/zixun/6032.html

发表评论

评论列表(0人评论 , 8098人围观)
☹还没有评论,来说两句吧...