AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手…

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

[导读:旷视科技发布的一张教室人脸识别图,引发社会关注。网友们认为这严重侵犯了学生的隐私和相关个人信息权益。旷视科技发表声明称,图片仅为技术场景化概念演示,并未落地应用。对此,中美专家认为各国应加强对学生数据的保护。]

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

近日,网络上出现的一幅课堂行为分析图片引发大讨论,画面里的女生身处教室,人脸识别摄像头正对女生的学习情况进行人工智能识别:

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

趴桌子2次,玩手机2次,睡觉1次,听讲0次,阅读0次,举手0次,笑了0次,厌恶表情出现了10次……最后机器可能得出一个综合结论:她是个”有问题”的孩子。而孩子们会不会在这样隐形的压力下有了更加符合人性的“特长”,比如学会“装模作样”,学会接受把这套机器用在下一代身上。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

据了解这是「旷视科技将自主研发的人脸识别、行为识别、表情识别等技术,集成在考勤及行为分析摄像机MegEye-C3V-920和行为分析服务器中,通过对课堂视频数据进行实时的结构化分析,可分析反馈学生行为、表情、专注度、前排上座率等多维度课堂数据」 。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

有网友提出质疑,认为这严重侵犯了学生们的隐私;也有网友表示赞同,但认为重点应放在如何分析监测的数据。一时间,微博与知乎等社交媒体的讨伐声此起彼伏,旷视科技很快便发布了正式声明,回应所谓的AI“监视”学生行为,只是为技术场景化概念性演示。公司在教育领域的产品专注于保护孩子在校园的安全,其在校园的应用主要是门禁系统,学生可以刷脸通过。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

官网资料显示,旷视科技成立于2011年,由印奇、唐文斌和杨沐三人创立(三人均毕业于清华大学“姚班”)。作为最早一批在计算机视觉领域的创业公司之一,与商汤、依图并称为AI视觉三大独角兽公司。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

8月25日,旷视科技在香港联合证券交易所披露招股说明书显示,2016年、2017年和2018年,旷视科技营业收入分别为6780万元、3.13亿元和14.27亿元;同期分别亏损3.43亿元、7.58亿元和33.52亿元,亏损额持续扩大。而在今年上半年,旷视科技亏损额达52亿元, 2018年上半年亏损额为7.29亿元。对此,旷视科技解释称,主要是由于优先股的公允价值变动及持续的研发投资造成的。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

据悉,即将赴港上市的旷视,阿里系是其最大股东,股权占比已达到29.43%:阿里巴巴透过淘宝中国间接合共持有旷视科技已发行股份的14.33%;蚂蚁金服通过全资子公司API间接持有已发行股份的15.1%。

然而,就其新增回应,有网友表示很没有说服力,作为一家将要IPO,但营收还存在亏损的人脸识别技术公司,业绩压力也让他们想寻找各种途径实现技术变现,对于一些产品设计的思考可能欠妥当。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

根据《2018年AI+教育美国创投趋势报告》的相关调研,中美专家的讨论焦点主要在手机数据的伦理问题、学生数据的监管和AI技术对教育的影响三个方面。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

此前,上海某小学和南京某大学,也因试点教室人脸识别系统,引发人们担忧。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

远程教学课堂应用面部识别技术,甚至可以辨别哪些学生是快乐的,哪些学生是认真的、分心的等等。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

国外也有类似案例,值得警醒。瑞典北部的Skelleftea市政府为了节省教学时间,准许个别学校进行试验,使用面部识别技术考察学生出勤情况。于是,2018年秋季,一个名为“未来教室”的试验项目在该市的Anderstorp高中开始进行。在试验中,学校使用签名、智能手机App和面部识别技术,追踪22名学生的活动长达3周,主要的检测指标是每个学生何时进入教室。2019年8月21日,瑞典数据保护局(DPA)裁定 Skelleftea政府因违反“欧洲史上最严隐私条例”——《通用数据保护条例》(GDPR),对其处以20万瑞典克朗(约合20700美元)的罚款。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

图源:视觉中国

人工智能和认知科学背景的KP Thai 博士认为,目前真正缺失的是数据的获取和运用没有透明性,根本不知道身边这些 AI 到底都在做什么。从长远来看,这种现状将是无法被公众接受的,也将存在很多潜在问题。

IEEE 标准委员会副主席、弗吉尼亚理工大学公共行政与政策中心(CPAP)教授 Sara Jordan 博士指出,如果成人以某种方式在收集学生的数据,但学生们却没有办法阻止,这便产生了伦理问题。如果真的要收集儿童数据,就应该关注这些数据是否对他们有一个长时间的影响,是否未来会影响他们做其他决定的能力。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

既然存在透明度、数据现金化等可能存在并引发道德问题的现象,政府在这一块有什么作为呢?

Sara Jordan 博士指出,遗憾的是,即使是美国,也没有专门机构会对教育数据的收集进行监管,不像医疗数据的监管有FDA(美国食品药品监督管理局)这样明确的监管机构来进行。

不过,搜集资料显示,尽管美国当前没有专门的机构进行监管,但是从2013年起,美国39个州颁布了120多项法律,规范学校及其服务提供者如何收集、使用和保护学生数据。这些法律大多涵盖小学、初中和高中学生信息的收集。其中也有 35 项法律规定了私立和公立高等教育机构如何使用学生数据。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

在这些法律中,仅有4项法律禁止学院出售学生信息或向学生索取社交媒体帐户信息。禁止出售,也就意味着学生的信息将无法被用来赚钱。硅谷所在的加州也是其中一个立法州。

加州在2014 年通过的这条州法显示,禁止 K-12 网站/应用程序供应商出于教育目的以外的任何目的使用、共享、披露或编译学生信息并改进其服务;如果学校或学区要求他们不能出售信息的话,还必须删除信息。这里面对信息的定义,就包括生物信息(biometric information)。但此条法案仅针对 K-12 阶段。学前阶段,以及高等教育阶段不涵盖在内。

也就是说,美国现今的法律系统有开始围绕学生数据方面进行立法保护,但是,监管机构的缺失问题依旧存在。Thai 博士认为,美国政府对 AI 的关注太少了,因为美国盛行的还是自由市场思维,对AI没有足够的注意力。

那么在中国呢?中国在AI时代对学生数据的监管同样有待提高。2019年1月2日,教育部官网公布《关于严禁有害APP进入中小学校园的通知》,学习类App中色情暴力、网络游戏、商业广告、抄作业、搞题海、公布成绩排名等行为,遭到教育部严令禁止。学校与教育主管部门将建立“双审查”的监督制度,进入中小学的教育类App必须受到严格审查。

但是,围绕面部识别等搜集的学生数据可能存在的泄露和监管问题,当前最主要的还是《消费者权益保护法》、《未成年人保护法》以及《网络安全法》等通用型的法律在监管,并没有专门法律。对此,上海交通大学法学院副教授何渊认为:

其一,违反《网络安全法》第41条:目的限制和数据最小化原则。只有在用其他方法无法以令人满意的方式实现处理目的时,才可以使用个人信息。学校完全可以侵害性较小的书面形式登记课堂上的出勤,这意味着面部识别软件的使用与拟实现目的不成比例

其二,没有法律依据而处理敏感的个人信息。面部识别软件收集的是生物统计数据,这是最典型的敏感个人信息。即使获得信息主体(学生)的同意,该“同意”也不能作为处理数据合法化的依据,因为该“同意”不能被视为自愿,学校和学生之间是一种“不对等”的关系,出勤记录是学校对学生的一种单方管理措施。

其三,缺乏合法正当的事前程序。学校并没有进行任何数据保护影响评估和事先协商,违反正当程序,缺乏程序正义。

哥伦比亚大学教师 HenanCheng 博士认为,中国当前尚未形成足够的公众意识,即自己有权利来保护自己的数据的意识。“政府需要投入努力,让公众这样意识到这样的权利”。回归本源,教育者也需要思考,因为当教育者需要使用某些技术时,就应该思考为什么要设计这个工具,到底真正想要学生从中学到什么,避免设计出来的产品被用在错误的地方。

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

在人工智能飞速发展的技术背景下,五年后中国教育市场会发生何种变化,会取得何种进步?

芥末堆合伙人Sophie Chen 认为,过去五年一个明显趋势是从线下变成线上。未来三五年的话,更多的学习行为会变成线上进行,那就意味着数据可以被收集,机器会做出更多有条理的分析,从而给出学生更多积极的建议。

KP Thai 博士也认为,如今教育科技在整个教育市场大概所占比例是10%左右。预计五年内,会有更多针对学生个性化能力的指导、提升的工具。但她也一再强调,科技只是一个工具,无论 AI 多好,都要关注学习的内容,因为这才是教育的根本。因此,会有更多关于教育内容本身方面 —— 比如教育方法 —— 的进步,而不仅仅是AI 技术的进步。

何渊副教授强调,民众对于技术的接纳和融入,并不一定都是一帆风顺的。尤其在隐私和个人信息保护越来越重要的当代社会,人脸识别技术的应用更是面临越来越严重的尴尬局面。我们的确到了应当“认真对待隐私和个人信息权益”的法律时刻。

[资料来源]

1. 硅谷洞察

2. 视觉中国

3. 虎嗅APP

4. 砍柴网

5. 数据法盟

6. 新浪科技

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

AI教育 | 开学季遇上教室人脸识别,听讲六次 阅读八次 举手...

相关教育文章

Leave a Comment

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据