当前位置:首页 > 资讯 > 正文

人工智能作业灯:让我看谁敢把“鸟”写成“乌”

原标题:我要看看,谁敢把“鸟”写成“乌”

人工智能作业灯:让我看谁敢把“鸟”写成“乌”  第1张

最近,一款神奇的作业灯登场了。

它有两个摄像头,一个紧盯着孩子的作业本,另一个可以盯着孩子的面部表情。这样在做作业的时候,如果孩子敢把“鸟”写成“乌”,家长哪怕在千里之外,仍能大喝一声。孩子若想愣神儿,没门儿;想揉揉眼睛玩玩笔,一句“集中注意力”保准会扔过来。

可以理解,这款产品能给一些因为工作和生活远离孩子的家长提供慧眼,实现远程陪伴。不过,它也给那些“直升机”家长增添了利器,不仅盯着人,也能盯着所有的小动作,包括指尖、眼神。

凭我们的才智,这样的产品肯定会被超越:可以再加一个摄像头盯着孩子的腿脚,写作业时双脚必须并齐放在地面上,不许跷二郎腿;头上可以悬个锤子,发现走神,锤子立马落下来。

人工智能应用越来越多,在信息安全的前提下,交通导航、医学诊断、移动支付、药物筛选等等,给我们带来了太多福祉。疫情防控,人工智能也功不可没。

从一个摄像头变成两个摄像头,是不是创新暂且不论,关键是与人工智能嫁接,号称人工智能助力教育的新产品,这就值得讨论一下了,人工智能到底该如何助力教育?

浙江某地一所小学的学生,去年被戴上了脑机接口环。这个脑箍可以检测脑电波,评判学生上课、写作业时是否集中注意力,系统可以给注意力打分,分数能实时传输到老师的电脑里,据说也会像考试成绩排名一样被发到家长群里。

还有一款可以对学生课堂听讲情况全程监控的产品,举手3次、低头8次、打瞌睡1次、趴桌子1次……一举一动、面部表情都能被记录在案。

好在经媒体报道后,浙江当地教育部门禁用了上述头箍;上述第二个产品的开发公司也随后发声明说只是技术场景概念演示,否认应用。真要谢谢他们,不然,孩子上学戴上头箍,放学回家用上作业灯,全天候、无死角,尽在大人掌握和干预之中。这不就是电影《楚门的世界》中,活生生的现实“小楚门”吗,24小时都被监控、直播。

如何培养出更多有创造力、想象力、敢于突破的杰出人才一直是我们的追问,也是目标。一个人的成长需要适度的空间,心理的成熟、心灵的丰富,都需要自我不断探索尝试。很多从试错、反思中得到的经验更可贵。一直被作业、分数捆绑,没有一丝一毫的空间,也许会有一个好看的分数,但难说会有阳光的心态。

有人生动比喻,一匹从小只会拉磨的小马,永远不会成为骏马。

前两年人脸识别技术刚刚开始应用的时候,就有公园里的厕所安装人脸识别设备,一刷脸给你一截手纸,你要想再多要一截,对不起,面子只能刷一次。若有特别需求,还真得找别人“借脸用一下”。人脸识别应用场景很多,在新冠肺炎疫情期间,即使戴着口罩,有些摄像头也能识别。

现在厕所厕纸也升级了,有的把二维码印在地上,扫码关注公号才能滑出一截手纸。这种推广和营销,用在厕所里总是让人觉得违和。

奇葩年年有,人工智能来了就特别多。

一些批量生产“优雅骂人”语句的软件横空出世。这类软件可以从文学名著中快速检索、生成特定的骂人句子,语句虽不带脏字却恶意满满。这些软件为网络“喷子”提供了“装满大粪的炸弹”,中伤他人,污染网络环境。

不断迭代的科技,双刃剑从来都是锋利无比。有学者在科技与伦理的论述中,这样形容“科学技术像一匹不断飞驰的骏马,那么伦理就像制约骏马的缰绳。如果没有伦理的规范、约束和引导,科技一味疯狂发展很可能会把人类带上不归路。”

贺建奎对基因编辑技术滥用,被追究刑事责任,这就是缰绳起了作用。前些年瘦肉精、三聚氰胺、苏丹红同样如此。

伦理具有一定的稳定性,面向不确定性增多的未来,科技要给人类提供什么帮助?科技的限度和禁区在哪里?从以往来看,如果预先设置一些高于现行要求的伦理规范,有机会消除一些技术带来的不确定性危害。

去年,几家研究机构共同推出了《人工智能北京共识》,提出人工智能的研发、使用、治理,应该遵循有益于人类命运共同体构建和社会发展的15条原则。例如“善用与慎用原则”,要对人工智能应用可能带来的潜在影响具备充分认识,避免误用、滥用,以最大化人工智能带来的益处、最小化其风险。

之后科技部也对外公布了《新一代人工智能治理原则——发展负责任的人工智能》,提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、敏捷治理等八项原则。

几乎在同时间,欧盟委员会也发布了人工智能伦理准则,并宣布同时启动该准则的试行阶段。据统计,目前各国 ********* 、各类组织、研究机构和产业界颁布的有关人工智能伦理准则提案已经有几十份。

不过,也可以看出,这些准则大多只是原则性、倡议性的,缺乏可操作性,也缺乏法律上的约束性。

因此,如何善用人工智能,还是要靠科研人员的自我约束。作业神灯的发明者,想想自己小时候,是不是愿意被家长、老师无时无刻盯着就行了。

当然,无论是阿拉丁神灯还是宝莲灯,无论是金箍还是银箍,产品经理肯定是考察了市场,看到了需求,推广团队也会培育市场以获得收益。但是这种收益的埋单者是谁,只是家长花钱吗?非也,损失的有可能是一群人的未来。

被算法24小时罩起来的孩子,可能会非常听话,写作业时遇到难题也不会龇牙咧嘴。如果都这样,倒像一批批小机器人,那么未来这个世界到底是谁的世界呢?

电影《星球大战》里,那颗被称为“终极武器”的死星,代表了技术双面中的“恶”,这个有两个重力场的巨大怪物,会让克隆人慢慢减少人性,让所有东西都在机器控制之下。

不说那么远的科幻世界,近几年,商业公司最感兴趣的信息,已经从个人的生日、电话、住址变成了指纹、人脸特征、虹膜等。南京一家售楼处采集看房者人脸信息,有自我保护意识的买房人戴着钢盔看房。家长放心把自家孩子的脸通过神灯交给一家公司?

近几年热热闹闹的人工智能,已经有60多年历史。现在公认的说法是1956年达特茅斯学院夏季研讨会(人工智能的起源事件)的召集者麦卡锡(John McCarthy)想出来的。有人考证,说这是误读,因为麦卡锡晚年承认这个词最早是从别人那里听来的,但记不清是谁了。如今当事人大都已仙逝,谁发明了这个词恐成世纪悬案。不过,人工智能花里胡哨的应用,还能远程管中国小孩写字多一笔少一笔,应该是这些先贤们没有想到的。

李新玲