人工智能将小猪认成飞机？姚期智：机器学习存在脆弱不稳定性

人工智能对科技界和人类社会产生了重大改变，但是否能够解决所有难题？

10月22日，在2020年浦江创新论坛开幕首日，图灵奖首位亚裔科学家、中国科学院院士姚期智介绍了人工智能的技术瓶颈问题，其中包括机器学习目前存在脆弱不稳定性、机器学习缺乏社会透明度以及人工智能的隐私保护问题等。

姚期智介绍，目前机器学习存在脆弱不稳定性，例如在图像识别中，同一张图片出现了微小的变化人眼依旧可以辨认是同一个物件，而机器算法却缺乏这样的稳定性，例如经典的小猪变飞机案例，就是在小猪图像上进行了像素模糊，被人工智能辨认成了飞机，而这样的脆弱不稳定性如果发生在自动驾驶上可能造成严重的安全问题。

“人工智能的算法如今存在黑盒子问题，由于算法缺乏可解释性，计算结果往往受到人们的质疑，因而在使用中会出现伦理甚至法律问题。”姚期智以生活中常见的地区平均房价人工智能预估算法为例，介绍使用数据的人可能无法解释如何计算得出，那么买房者往往会怀疑这个计算结果是否对自己不利，因而不相信计算结果。

在报告中，姚期智也谈到了人工智能领域关注的热点——“超级人工智能”。超级人工智能到底何时到来，姚期智认为这目前是不可预知的，但必须是可控而有益的。他介绍，此前有科学家提出，超级人工智能的算法必须依从“利他的、谦卑的以及尽力的”三条原则，并且将这些原则贯彻在算法的编制中。