首页 资讯正文

马斯克警告:人工智能威胁,比核武器还要大!面对危险,我们还有几条后路?

马斯克警告:人工智能威胁,比核武器还要大!面对危险,我们还有几条后路?

对于人工智能,早在上世纪60年代,当时的科学家们就有过断言,计算机将是人类历史上最强大的“电子思考者”,它们的出现,可能会给人类带来灾难。

就像马斯克所说,“人工智能对人类的威胁,比核武器还要大”。

因为,作为人类助手的智能机器人,也许将会寻求“主人”的角色。

马斯克警告:人工智能威胁,比核武器还要大!面对危险,我们还有几条后路?

人工智能带来的最大威胁,来自于“人类”与“人工”之间的鸿沟。

在希腊神话里,有这样一个故事,米达斯王(King Midas)具有点石成金的超能力,他所摸到的一切都会变成黄金,结果,国王在变黄金时,无意中碰到女儿,误把女儿变成了黄金雕塑。

点金超能力以悲剧收场,这也是人工智能面临的问题。

2017年,布朗大学人工智能研究人员做过一个试验,他们让人工智能学习如何进行赛艇比赛。最终,人工智能设计的取胜方案,让所有人不寒而栗。

马斯克警告:人工智能威胁,比核武器还要大!面对危险,我们还有几条后路?

它没有从赛手配备、赛艇养护、熟悉航线等方面下功夫,而是根据竞争对手的情况,重新设计了比赛路线。在人工智能设计的路线上,它可以撞沉其他船,让所有竞争对手无法完成比赛,人工智能自然成为唯一胜利者。

这如同把癌症病人交给人工智能,它们把治好癌症当成目标,只把病人当作病毒宿主,而不会在乎病人死活。最终,病好了,人没了。

人工智能,会不会和我们同呼吸、共命运,这是谁也回答不了的问题。

亚瑟克拉克的《2001:太空漫游》(2001: A Space Odyssey)里,HAL 9000电脑就代表了人工智能的暗黑面。具有自主思维后,HAL学会了自保,宇航员打算关闭电脑主机,于是,HAL开始杀人……

马斯克警告:人工智能威胁,比核武器还要大!面对危险,我们还有几条后路?

《流浪地球》中也出现了这个桥段,以此向经典致敬。

理性而残忍的人工智能Moss,在危急关头,打算放弃地球,连续杀死阻止它的宇航员。

智慧生命都有生存本能,对于人工智能来说,切断电源就相当于进入“死亡状态”。

为了让自己永续地活下去,人工智能将做出如何反应,它们会不会从人类手里,夺走更多的生存空间和生存资源?

目前,弱人工智能已经形成规模,比如自动驾驶深度学习引擎,其实,我们常用的扫地机器人,就属于弱人工智能领域强人工智能集中在语言、情感以及思维能力的研发,虽然我们还不能彻底认识我们的大脑,但是,如果人工智能足够先进,大脑中至今未被完全理解的“意识”,将会在人工智能上出现。

未来社会,人类必然与人工智能共生。

奇点大学创始人兼校长、谷歌技术总监雷库兹韦尔,曾经做出过预言,2045年,人工智能将超越人类智慧。

人工智能不仅控制着更复杂的程序,代替人类驾驶所有的汽车,控制所有的食品生产线,甚至驾驶所有的飞机。人工智能深入我们生活的每个领域,管理银行、交易股票、治疗疾并调度交通运输……即便人类不想过分依赖人工智能,它们已经和我们深度融合,到那个时候,就算人类不想缴枪,人工智能也会自己拿到坦克、航母、原子弹的控制权。

面对这样的未来,我们或许只有三条路可走:

要么人工智能偏科,看不到强人工智能的曙光,而弱人工智能方向长足发展,我们在人工智能帮助下,全面摆脱繁重体力劳动;

或者,人工智能与人类和谐共存,就像人类历史上的各种新发明一样,这可能是最好的结果。

最坏的结果,就像霍金所担心的那样,人工智能能不能被完全控制,否则,继续代表人类文明的,将是人工智能,它们才是未来的新人类。

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

本文链接:https://www.chinaai.com/zixun/901.html

评论