原标题:AI时代 孩子的教育和孩子隐私权已经开始博弈
“很明显,即使是为了教育,人脸识别、表情分析并不一定能达到教育的目的和效果。既无必要,又有泄露隐私的风险。”一位中学老师向未来网记者表达了自己的担忧:一旦孩子的隐私泄露,会不会被进行商业交易、被拐卖儿童的人获取?即使不会泄露,如果等孩子长大了,当他发现他的人脸和表情特征已经被各个教育机构甚至更多的科技企业掌握了,他会怎么想?
如今,人脸识别逐渐成为了商户、手机APP等普遍采用的技术。据人民网报道:“刷脸”支付在2018年全面提速商用,正不断融入日常生活之中。业内人士预测,2019年随着AI技术的不断落地,以“刷脸”支付为代表的生物支付将成为主流,并有望在实体店里迎来大规模商用,“靠脸吃饭”的时代或许为时不远。
但是,如果生理和心智都尚未成熟的未成年人的人脸信息被有心之人利用,在“刷脸”如此普及的新时代,后果可能不堪设想。
对此,彭伶也告诉未来网记者,监控技术如果面向大众而非特定群体,用于查案和保卫社会公共安全则无可厚非。“但如果把这种技术用于课堂,用于特定个体如学生,就相当于隐私被监控,更可怕的是一举一动还会被人分析,甚至会形成分析报告。在这种情况下,按照我们一般的逻辑推断,这些数据是会留存的,甚至会作为内部的一个资料来交流使用,那么这些未成年人的信息就很可能会泄露出去。”
她还指出,仅分析本身就牵扯到了使用,在这种情况下,毫无疑问已经侵犯了未成年人的隐私,涉嫌违法。
北京市炜衡律师事务所律师周浩在接受未来网记者采访时也对此表示肯定:《网络安全法》《未成年人保护法》《侵权责任法》等法律中明确规定,不得侵犯公民的隐私权。
他介绍,《中华人民共和国网络安全法》第四十一条明确规定:网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意。
所以,教育机构收集学生人脸表情等信息,正当性和必要性都大大存疑,很可能就违反了“合法、正当、必要的原则”。
此外,第四十一条还规定:网络运营者不得收集与其提供的服务无关的个人信息,不得违反法律、行政法规的规定和双方的约定收集、使用个人信息,并应当依照法律、行政法规的规定和与用户的约定,处理其保存的个人信息。
“但是,教育机构在收集学生人脸信息时是否经过了孩子和家长的同意,是否有明确提醒和询问,家长和孩子对其收集使用的风险性和后果知情多少,这些都很难保证。”周浩说。
但同时他也指出,《个人信息保护法》尚未出台,其他相应的条例、法规中关于未成年人的隐私、信息保护也并不明确。“什么信息能收集,什么不能收集,收集后应该怎么使用,目前法律上还未划清界限,较为模糊。”
技术无罪但法律须划清红线
事实上,如果从源头上追寻,最基本的问题在于这些教育机构有没有权利来收集未成年人的个人信息?彭伶表示,我国《民法总则》第一百一十一条明确规定:“自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的,应当依法取得并确保信息安全,不得非法收集、使用、加工、传输他人个人信息,不得非法买卖、提供或者公开他人个人信息。”以此为标准来衡量,这些教育机构在取得孩子们的信息的合法性以及确保信息安全方面显然存在问题。
彭伶强调,事情已经发生,必须控制未成年人信息的保管和使用,要对于利用采集来的个人信息,尤其是未成年人信息来牟利的行为要予以严厉打击和惩处。
“教育机构如果对外大肆宣传,将其作为吸引消费者、投资者的噱头,这算不算是利用未成年人信息牟利,需要法院来判定。但是我个人认为它采取宣传的这种方式是极其不妥当的,应该旗帜鲜明地反对!”彭伶说,如果教育机构确实以这样的噱头对外宣传,用于商业牟利,建议相关部门及时介入调查。查清楚这些信息数据究竟是怎样收集来的,又是怎样保管的,采取了什么样的安全防护措施,措施的可靠性有多高,有没有专人负责等。必须要为孩子的隐私安全保护筑起一道高墙。
对此,有业内人士告诉未来网记者,许多从业者可能也没有注意到这个技术的背后的问题,所以就没有了界限。教育机构面临着伦理难题,可能也不是要故意侵犯谁的隐私,但是在技术发展的过程,确实存在巨大的风险,比如用人脸识别功能继而进行表情分析,或许能达到提高教学效率的效果,但却忽视了达成这个结果需要让渡孩子的隐私权,忽视了信息安全的风险。
“引进运用技术本身这个出发点是好事,但是教育企业看重的是营销力,不是从塑造学生人格角度出发,确实需要补上伦理这节课。”他告诉未来网记者,或许相关部门需要出台一些规定,给技术发展划清一条红线,让从业者有法可依,而不是游走在灰色地带。
在他看来,技术天然不具备道德性,它需要人来做规范,所以为什么克隆人一直是被限制的,如果按技术成熟度来说,可能很多技术是可以实现的,但为什么不能做?因为突破不了社会伦理道德和法律的底线。
“仅靠技术是不行的,技术需要根植在一个场景当中、在整个社会关系网中。这个网的组建,既需要我们约定俗成的一个共识,更需要有关部门的引导和规范。面部识别这个事是不是能有一个严格的规定,尤其是用在未成年人教育领域,哪些场景是可以用的,哪些产品是可以研发制造的。在技术的应用场景上给出规范,用一个这框架性的制度,把技术给框起来。 ”
未来网记者注意到,知乎网友在探讨此类问题时,昵称为“YU JIANG”网友的回答收获了许多点赞:一个较新鲜的尝试,需要各方面一起努力,规范各种行为,避免出现侵犯隐私的可能。行业主管部门要有相关的标准规范和法律手段;行业协会要制定相应的指导规范;企业自身要从技术上规避出现侵权的可能性,做好引导;而最关键的,使用者要有法律意识,明确侵犯别人的隐私权必将付出代价。
“有人叫喊的什么技术无罪,对也不对。技术中立没问题,但是推广技术的人不中立。”