一贯以为人脸识别只是电影中的桥段，没想到这样的剧情会搬到教室中来，并用于监控孩子的一举一动。
在教室之内，你做什么AI那里都会有记录。
昨天，一张带有“MEGVII旷视”LOGO的视频监控图像在社交网络上疯传。
在这张监控图像中，坐在教室中的两名女生身边，显示出了诸多标签，比如趴桌子、玩手机、睡觉、听讲、阅读、举手等教室行为数据。
01
摄像头盯着你上课学生无处遁形
事情跟刚刚进入的开学季有关。
玄月新学期开始后，不少学生就创造，自己熟习的校园中涌现了人脸识别系统。
比如位于南京的中国药科大学，在校门、图书馆和宿舍都安装了人脸识别门禁。
对付智能门禁，学生们的接管度倒是很高。有人认为这套系统识别准确，速率也很快；有人表示不再担心忘带校园卡，确实很方便。
学校保卫处卖力人也表示，比起从前实施的校园卡刷卡通畅，人脸识别系统的引入办理了过去师生忘带校园卡的麻烦，也办理了代刷卡、复制卡等校园安保问题。
但这套来自“刷脸之王”旷视Face++的系统，可能不止是人脸识别刷门禁。
在梨视频的采访中，校方先容，这套系统不仅能对进入教室的学生进行全程人脸识别，还能监测到学生举头低头，是否玩手机，是否发呆等行为细节。
关于这个别系，旷视也早有过干系先容，目标所指是赞助教诲：
在教室传授教化评价系统中，旷视科技将自主研发的人脸识别、行为识别、表情识别等技能，集成在考勤及行为剖析摄像机MegEye-C3V-920和行为剖析做事器中。
通过对教室视频数据进行实时的构造化剖析，反馈学生行为、表情、专注度、前排上座率等多维度教室数据，赞助传授教化评估评价。
伴随这张图的猖獗，网络上涌现了大量网友严厉的责怪与质疑，认为这样的技能不应该涌如今教室中。
对此，旷视科技在9月2日晚发布官方声明称：
近日网络上涌现的一幅教室行为剖析图片，为技能场景化观点演示。而旷视在教诲领域的产品专注于保护孩子在校园的安全，旷视的聪慧学校办理方案可以帮忙学校管理职员提升效率并保障学平生安，紧张用于智能校门、教室门及宿舍的出入，方便学平生安出入校园。
声明中表示，旷视始终坚持技能向善，让人工智能造福所有人。在人工智能技能的各种场景中，旷视会坚持正当性、数据隐私保护等核心原则，接管社会的广泛建媾和监督。
根据校方说法，干系系统已在两间教室中进行试点，如果效果好，会进行全校推广。
对付学校引进这样的系统，一些教诲专家和高校也表达了自己的意见。
中国教诲科学研究院研究员储朝晖认为，教室虽然是公共场所，但是监控下的西席和学生都不是真实的状态，大家从专业角度得出共同结论，在教室里是不能装监控的。首先保护学生的隐私。——据央广网
中国农业大学本科生院综合处处长韦笑称，从考勤和举头率上来讲，学校并不打算采取，由于我们以为学生的举头率不能判断他的学习效果，可能更多的还是要抓老师的授课。——据中国之声
02
家家法宝各不同数据都是基于监控
此事引发的关注还在连续，有网友表示，这样的技能和运用并不算稀奇，类似的新闻去年前年就有了，想不到的是这次居为成为了热搜事宜。
最早的AI实在还是勾留在校园，没有进入教室。
比如，之前曝出的，贵州和广西的十多所学校的学生都身穿一套智能校服。
所谓智能，便是在校服的旁边肩位置各装有两个芯片，再与学校门口、宿舍旁装有人脸识别摄像头的人工智能系统协同事情。
但它的功能真的可以强大到你瑟瑟颤动。
1、没有经由批准或违规离开学校，就会自动警报。
2、可实时抓拍20秒短视频，传给老师和家长不雅观看。
3、可“侦测”学生有没有好好听讲。
4、校服可支付消费，家长可通过手机查看子女在校的消费情形。
5、体温不正常或者运动量不足将会自动报警。
6、佩戴含有GPS模块的校徽，可实现对学生的实时定位。
7、系统会把孩子的学习、生活状况推送至家长和西席的手机中。
如果说这只是低级阶段，为的是通过监控的目的，降落或减少孩子更多的事件和意外。但后面更高等的运用开始涌现，彷佛和我们想象的加倍的不一样了。
我们来看一张学生行为自动剖析示例图。
如果没有下方红框中的笔墨解释，你可能完备看不懂。
这便是在AI的捕捉下，学生们的坐姿，发言，及站立情形，哪怕是你几分几秒打了个哈欠，也逃不出AI的手掌心。
不仅如此，孩子们在教室上是否走神儿，有没有积极思考，也都被AI记录在案。
老师讲课的时候，举头看老师的都是绿框，低头的都是红框，一个都逃不掉。
来感想熏染下教室中实时的反馈效果：
一个学生一节课涌现多少个赤色标记、蓝色标记、黄色标记全部以数据的形式剖析，从而剖析出学生到底在干什么。
你的眼神飘忽？没有看老师讲课？立时给你黄色标注出来：
乃至一些幼儿园也开始引入AI剖析学生的行为。
高年级的孩子们也同样可以监控剖析。
哪怕是不规则教室还是能剖析。
而最厉害的是，AI是可以做到实时剖析，当时就可通过学生的表情剖析出来并判断出他们在想什么。
这是实时剖析系统的演示：
上课韶光，可随时单独把每个孩子的信息点开，查看孩子们的上课情形：
孩子的锲合度，历史表情，全部储存在AI数据库中。
别以为AI会偶尔偷个
没有一个数据能逃过AI的眼睛，终极呈现在班主任面前的是无比详细的数据。
当这些剖析数据达到一定韶光的积累，系统还会将每一个学生都贴上标签，末了以数据库的形式呈现给老师。
03
“利于发展”的初衷
大概正在毁掉孩子
就此看来，在AI的监控下，孩子们基本没有了隐私和自由。
每天在这样的环境下学习和生活，光是想一想都会不寒而栗。当老师将这份详细的信息反馈给家长们时，孩子还有什么可呼吸的空间？
有网友表示：“技能再好，用的地方不对有什么意义呢？”
这不是像就像《黑镜》第4季中描述的未来科技，它的初衷为什么到末了就变了味道呢？
由于3岁小女孩莎拉意外走失落，她的妈妈被激发起了强烈的保护欲。
于是，她向一个科技公司乞助，给女儿大脑植入了一款芯片。
在这款智能芯片的掌握下，小女孩的思想，把稳力，全都节制在妈妈的手中。
从某种程度上来说，这可比AI厉害多了。比如妈妈不仅可以通过手中的平板对小女孩进行实时监控，而且还能随时知道小女孩的位置。
以及小女孩当前的身体状况。乃至连她身体里短缺哪种微量元素，都明明白白地显示在大屏幕上。
更让人不可思议的是，这款芯片配套的掌握器可以直接展示女儿视网膜上所吸收到的旗子暗记。
妈妈可以随时看到女儿眼中天下。乃至，可以掌握女儿看到的内容。
只要涌现让小女孩产生压力的画面时，比如少儿不宜的黄暴场景，她面前就会自动打上马赛克。
之后，小女孩眼中的天下就变成这样了。邻居家院子里总会吓到小女孩的恶犬。
男生斗殴时的流血场面。
这些令小女孩害怕的画面而导致生理指标变革，系统检测到之后，她看到的画面便是一团模糊的马赛克。
她看不到血液，听不到粗话……小女孩生活在被过滤的天下中。
看似是一个美好的天下，可是美好的背后，也剥夺了她对全体天下的真实感知。
面对中风跌倒的外公，小女孩看到的只是一片模糊，由于面前的景象让她紧张。
就连外公去世后，妈妈脸上悲哀的表情都成为了小女孩的压力源，她无法看到任何负脾气绪的表达。
逐渐的，小女孩终年夜了，也以为自己不太正常了。大约在小学阶段，她用朱颜色笔画的血居然也被打上了马赛克。
可能便是越看不到就越好奇，后来她开始试图用铅笔扎自己的手，想看一下流血的样子。
当涌现自残行为之后，系统自动监测到血腥旗子暗记，警报声立马响起，妈妈很快就赶了过来。
当看完年夜夫往后，的确是创造了孩子有生理问题。
以是屈服了年夜夫的话，为了让孩子正常发展，母亲决定关掉系统，答应孩子不再监视孩子生活。
可是女孩逐步终年夜之后在面对这个真实的天下时，并没有与之匹配的风险评估能力。
她在毫无安全方法的情形下和男孩发生性行为，乃至考试测验毒品。
而这再一次引起了警报的响起，母亲不得已再次打开平板开始了监控女儿生活的模式。
这一举动，彻底激怒了女儿，她乃至拿起平板砸向了妈妈的头，但对此她毫无觉得。
由于母亲血淋淋的头早已被打上了马赛克。
当发生冲突时，女儿质问对母亲说：“你还在监视我？”母亲回答：“我做的统统都是为了你。”
而如今正在被AI监控的孩子们，又和《黑镜》中被监控的小女孩有什么分别呢？
正如纪伯伦《你的孩子实在不是你的孩子》所言：“你可以庇护的是他们的身体，却不是他们的灵魂，由于他们的灵魂属于来日诰日。”
除了隐私、自由，教诲场景中令人担心的还有数据安全问题。
“仅需一张照片，出演天下好戏”。近日名声大噪的换脸软件“ZAO”逼迫用户输入隐私信息，又存在利用协议滥用隐私数据、透露个人隐私、侵权等问题，引发公众年夜众焦虑与质疑。
万一哪天被黑客把数据库给拿走了，鬼知道他会用来做些什么？
而在2018年8月，安徽省繁昌县公民法院，曾讯断了一起造孽出售学生信息的案例。
当时卖力管理掩护安徽全省学籍管理系统的张某，利用职务之便，以每条1毛钱的价格，出售了4万逻辑学生的隐私信息。据新浪财经宣布，张某任职的公司正是科大讯飞。
AI赞助传授教化和隐私安全的话题，不会就此结束。
别让这份教室大数据成为扼杀孩子自傲和情绪的毒药，由于他们不是机器人！
对此你又是抱有若何的态度呢？又是否支持用AI在学校进行赞助传授教化呢？
来源│市界、魔都囡、电影工厂、量子位、和讯网、成都商报