首页 百科正文

随着人工智能的发展(智能机器人)

1950年,美国著名科幻作家艾萨克·阿西莫夫出版了他的著作《我,机器人》。在这部著作里,一共有9个故事,它们拥有一个共同的主题,那就是人类和机器人的关系。

随着人工智能的发展(智能机器人)

在这里,阿西莫夫提出了著名的机器人三定律:

第一定律:机器人不可以伤害人类,或者看见人类在面临威胁时袖手旁观;第二定律:在不违背第一定律的前提下,机器人必须服从人类下达的指令;第三定律:在不违背前两条定律的前提下,机器人要尽量保护自己的生存安全。

这三条定律非常著名,以至于到了今天,已经是人类在开发机器人时所不可回避的话题。甚至有人还在此基础上,提出了机器人第零定律:机器人必须要保护整个人类种族的利益不受破坏,这一条定律的优先级要高于原来的三条。

随着人工智能的发展(智能机器人)

在阿西莫夫的年代,机器人在极大程度上还停留在科幻的层面。如今,机器人已经开始逐渐走入我们的生活,人工智能已经在许多方面参与到了人类社会进步的进程中。随着人工智能越来越发展,它们是否可靠的问题也再一次成为了科学家们热烈讨论的话题。

庆幸的是,现在的人工智能发展还相当有限,它们更多地是在人类生活和科技发展中充当人类的帮手。然而,随着人工智能不断进步和突破,它们是否还会忠诚于人类呢?

尽管有阿西莫夫提出的机器人三定律,但这毕竟是人类一厢情愿的规则。一旦人工智能有了自己的思维,它们是否愿意遵从人类制定的规则呢?

随着人工智能的发展(智能机器人)

不知道。因此,除了通过程序输入这样的法则来约束人工智能以外,科学家们必须还有其他的方法来防止最坏的情况出现。可是,科学家最近却给出了一个悲观的答案。如果未来超级人工智能真的想要反叛人类,我们很可能将束手无策。

首先的一个问题在于,想要控制一个智能水平远远超过人类的机器人,就要利用我们能够分析的方式来模拟这个超级人工智能。这又是矛盾的,既然我们都无法理解,又谈何模拟呢?

今年年初的时候,《人工智能研究杂志》就发表了科学家的一项研究,论文中就指出:如果我们都不清楚超级人工智能会出现什么样的情况,那么就算制定了所谓的机器人三定律来阻止它们伤害人类,最终也只能是徒劳无功。当机器人的内部系统超过人类程序员的能力范围时,人工智能恐怕就不会再受到人类的限制了。

随着人工智能的发展(智能机器人)

他们在论文中写道:“伴随着超级人工智能诞生的,还有一个特殊的问题,它与以往在‘机器人伦理’的大旗之下所研究的问题大相径庭。其原因在于,一个超级人工智能势必是狡兔三窟,因此很有可能偷偷地调用大量自然,来实现它不可告人的目的,因此可控性更是无从谈起。”

他们之所以给出这个悲观的言论,很大程度上是基于被称为计算机之父和人工智能之父的艾伦·麦席森·图灵在1936年所提出的停机问题。这个问题的核心,就是思考一台机器或者说一个程序是否会在有限的时间内结束运行,抑或是永远不停地陷入死循环地去尝试停止下来。

随着人工智能的发展(智能机器人)

我们可能会在开发人工智能的时候,给它输入一段程序,比如它做任何伤害人类甚至整个世界的行为时,后台就可以将它关闭。但实际情况是,这样的方法未必就能奏效。从数学的角度来考虑,这个程序的奏效与否,是无法完全确定的,这就意味着人工智能仍然有毁灭人类的可能性。

德国马克斯-普朗克人类发展研究所的计算机科学家Iyad Rahwan说道:“这意味着,控制它们的程序是无效的。”

随着人工智能的发展(智能机器人)

我们可以在研发超级机器人的时候,给它输入一些道德的准则,就像告诉小孩子什么该做、什么不该做一样。但正如上面所说的,这样的道德约束未必能够真的起作用。也有人提出观点认为,最可靠的办法或许就是从源头上解决问题——限制人工智能的能力,比如设计一套预案,在必要的时候切断人工智能的一些网络功能,从而限制其能力。

这就是矛盾的所在:我们一方面希望人工智能可以在最大程度上给我们提供便利和服务,另一方面又心存戒备地防止它们反叛而限制能力。用咱们的一句老话来说就是:不给马吃草,还想让马跑。

不得不说,在人工智能方面,人类确实在做着一些超出自己能力范围的事情。很多人都在为超级人工智能的出现而担忧,然而又不知道它究竟何时会出现。

随着人工智能的发展(智能机器人)

马克斯-普朗克人类发展研究所的另一位计算机科学家Manuel Cebrian警示我们说:“那种可以操控整个世界的超级人工智能机器,听起来感觉是科幻小说,但现在已经出现了一些机器,其学习独立完成某些任务的能力甚至超出了开发者的理解范围。所以,关于他们是否会脱离人类的控制并威胁到人类的安全的问题,已经摆在我们面前了。”

我们知道,人工智能确实在有些方面胜过人类,比如进行一些科学发现,或者是阿尔法狗的围棋水平等等。但关于这些,我们都知道它们是如何获得这种能力的。但如果人工智能真的以人类未知的模式学习了新的能力,这就确实超乎想象了。

随着人工智能的发展(智能机器人)

关于人工智能反叛的科幻电影,我们也听说过不少了,这确实也是人们担心的焦点问题之一。但人工智能的发展确实又是必不可少的,人类需要它们的帮助。如何调和这两件事之间的矛盾,还有待于科学家们的进一步探索了。

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

本文链接:https://www.chinaai.com/baike/11389.html

发表评论

评论列表(0人评论 , 4919人围观)
☹还没有评论,来说两句吧...