原标题:激辩“AI+教育”的出现触碰了隐私 科技赋能教育边界在哪?
也许令周鸿祎想不到的是,一年多前自己“忍痛割爱”的360水滴直播,如今被各大教育机构换了“马甲”重新出现在课堂上。
“后辈”们比当年的水滴直播更进一步,不仅透过屏幕关注着孩子的一举一动,还用人脸识别来分析学生的上课状态,应用场景也从班级扩展到一对一。这被教育机构称作是“让老师了解学生对课程的理解程度,为调整授课方案提供依据。”
在许多教育峰会上,“AI+教育”、人脸识别、表情分析等均是行业人士探讨的热词。一边是行业的激烈竞赛,另一边却是来自学生、家长和专家的质疑和反对。
除了隐私侵犯老问题,教育伦理、孩子的人格塑造等新问题也暴露出来。科技赋能教育,边界究竟在哪?以让渡孩子隐私为代价的教育,到底值不值?
技术的底线
技术的应用似乎是一个圈。
早在2017年4月,360水滴直播就曾因涉嫌泄露学生隐私被推上了风口浪尖。多家媒体曝出该平台直播全国多所学校、幼儿园的教师和宿舍画面,只需接上电源,打开摄像头,孩子的一举一动尽在眼前。
这或许可以达到“方便家长观看孩子”的效果,但是,孩子们隐私权如何保障?面对铺天盖地的舆论质问,360董事长周鸿祎多次出面回应,甚至召开恳谈会,但质疑声仍未消除。到了2017年底,在隐私权和流量的博弈面前,360选择关闭了水滴直播。
关闭前,也有业内人士给周鸿祎提供建议称,可以使用人工智能技术,比如公众场合直播场景时将人脸打上马赛克。周鸿祎也曾给工程师下达技术攻关的任务。
打码或许可以一定程度上规避隐私泄露风险,但是还未过两年,却出现了反其道而行的课堂精准人脸识别、表情分析技术。
无独有偶,近来,广电总局重拳规范未成年人节目,苹果下架一批家长控制类APP等都提到了未成年人隐私保护的问题。
在技术的急速发展过程中,未成年人的隐私等权利正在面临重重威胁。
如今,众多教育机构竞相追逐人脸识别AI技术。在未来网报道之后,某教育自媒体发文称一家在线一对一教育平台的智能化迭代的经验,其中指出:该平台“通过语音交互和机器视觉等技术手段监控课堂,判断授课质量,对不合格的教师进行回炉培训。”
但是,课堂监控分析是否会给教师和学生带来压力、制造“戏精”;是否已经侵犯了学生隐私;如何防止数据泄露……这些问题都亟待教育机构回答。

“这是必须引起教育系统与全社会高度重视的,学校是育人的地方,培养学生健康成长,所有教育创新必须以尊重学生人格为基本出发点。”21世纪教育研究院副院长熊丙奇在接受未来网记者采访时表示。
在他看来,这种方式是反教育、反人格的。教育本身包含情感、心理和知识交互的过程,过度强调技术手段是对学生和老师的控制,必然会导致教育缺乏应有的温度。而学生长期处于监控环境之下,很容易养成表演性人格。教育首先是教做人,反人格的教育万万不可取。
中国法学会研究部副主任彭伶也告诉未来网记者,“我不赞成收集、分析孩子的表情信息。如果孩子们事先知道,这会让他们处于一个高度紧张的状态,不利于孩子的健康成长。设身处地地想想,你在课堂上的一个挠头、皱眉,或是一个无意识的举动都会被别人观看,甚至放大分析,这是一件多么恐怖的事情。”
彭伶指出,从这个意义上来说,它不符合我国《未成年人保护法》的原则,尽管《未成年人保护法》没有对信息收集做出明确具体的规定,但是它的首要原则就是保护未成年人的身心健康。在《未成年人保护法》中明确规定,学校应当尊重未成年人的人格尊严,不得对未成年学生和儿童实施体罚、变相体罚或者其他侮辱人格尊严的行为。在她看来,除心理辅导等其他必要情况且取得未成年人及其监护人明示同意以外,收集、分析孩子们的上课表情属于“其他有辱人格尊严的行为”。并且,根据联合国儿童权利公约,“儿童最大利益原则”是儿童保护的首要原则。
“因此,上述课堂人脸识别、表情分析的方式是极其不妥当的,有碍于未成年人健康成长。如果以此原则作为标准来衡量这些教育机构的行为,显然它们违背了。”