金字塔的财富返水

最高罚款1000万！瑞典“人脸识别进校园”被判违反GDPR，未来或将立法

2019-08-28 10:30

AI世界

关注

↑↑↑ 点击上方蓝字

关注AI世界公众号

专注AI的新媒体，分享AI领域的新思想。

锁手机”“刷脸购物”“刷脸验证身份办理银行卡”……我们与生俱来的“脸”除了与颜值形象挂钩，也在逐渐演变成中国人身份的识别标识，逐渐深入我们的日常生活。

但当人脸识别遇上现实，也?#29615;?#36330;地躺枪，?#20063;?#24525;睹的时候，比如今天我们上次提及的亚马逊Rekognition（亚马逊人脸识别从120名官员中认出了26名罪犯）。

除了这个可笑“事故”之外，?#35775;?#21448;传来人脸识别罚单消息。

近日，瑞典数据监管机构（The Swedish Data Inspection Authority，下称“DPA?#20445;?#23545;当地一所高中开出第一张基于?#35775;恕?#36890;用数据保护条例?#32602;℅DPR）的罚单，金额为20万瑞典克朗（约合人民币14．8万元）。

据悉，该校使用人脸识别系统记录学生的出勤率，而瑞典DPA通过对系统试行期间涉及的22名学生进行调查，最终认定学校董事会对学生个人信息的处理?#29615;?#21512;GDPR的规定。

事实上，随着人脸识别技术的广泛应用，?#20998;?#24050;经开始考虑对人脸识别等人工智能（AI）技术进行立法规管，限制公司和公共机构?#23433;?#21152;区分地使用人脸识别技术?#20445;?#24182;赋予所?#20449;分蘧用?#26126;确的决定权。

瑞典高中使用人脸识别监控违反GDPR

8月21日，瑞典DPA在官网公布了GDPR生效以来的首张罚单。与其他?#35775;?#22269;家普遍拿科技巨头“开刀”不同，瑞典DPA的处罚对象是斯盖乐夫提的一所高中。

该校为了统计学生的出勤率，在校园内试行人脸识别系?#22330;?#22312;实施试验的三周内，共涉及到22名学生。

学校强调，他们事?#28982;?#24471;了学生的同意。

但是，瑞典DPA律师Ranja Bunni指出?#28023;?#20107;?#28982;?#24471;学生同意＂的说法不可接受，因为学生是在学校董事会管理之下的”。也就是说，无法判断这里的“同意”是否为学生的独立意志。

经调查，瑞典DPA认为，在日常环境中对学生进行摄像监控等行为侵犯了学生的隐私。因为学校统计学生出勤率完全可以通过其他方式完成，而这些方式都比人脸识别技术对学生权益的侵害要小得多。

因此，瑞典DPA以该校董事会处理个人信息?#29615;?#21512;GDPR规定为由，?#20113;?#22788;以20万瑞典克朗（约合人民币14．8万元）的罚款。据悉，罚款金额最高可?#28304;?#21040;一千万克朗（约合人民币740万元）。

记者了解到，在瑞典，记录每节课的出勤率是法律要求。据IT公司Tieto统计，每年瑞典老师需要花费17，280小时在记录出勤率的工作上，这相当于10个全职工作的时间。

“人脸识别技术还处在起步阶段，但是发展非常迅速，我们看到了建立一个适用于所有参与者的清晰准则的巨大需求。”瑞典DPA负责人Lena Lindgren Schelin表示。

?#35775;?#27491;在探索严厉的人脸识别技术立法

不仅是在瑞典，英国数据保护监管机构（ICO）也刚刚对一起人脸识别相关事件发起调查。

据英国媒体披露，伦敦国王十字车站地区安装了带有人脸识别系统的?#31456;?#30005;视摄像?#32602;?#21487;以监控这一带办公室、商场的人流情况。据房地产开发商表示，这些摄像头不仅有人脸识别和追踪功能，背后还有复杂的系统支撑，可以保护公众隐私。

日前，ICO?#35759;源?#23637;开调查。“在日常生活中扫描人脸以识别他们的身份，这种对隐私的潜在威胁值?#30431;?#26377;人重?#21360;保琁CO专员Elizabeth Denham认为，“尤其是没有经过告知或理解的情况下”。

据《金融时报》报道， ?#35775;?#22996;?#34987;?#30340;高级官员透露，他们正在计划一项关于人脸识别数据使用的立法，这将赋予所?#20449;分蘧用?#26126;确的决定权，而这项立法也是?#20998;轆I监管改革的一部分。

还有官员指出，这项立法的目的在于限制公司和公共机构?#23433;?#21152;区分地使用人脸识别技术”。?#20998;蘧用?#23558;有权“知道人脸识别数据?#38382;?#34987;使用?#20445;?#21363;使有例外情况，也将是在“严格限制”之下，以确保适当使用。

《金融时报》还提到，在一份相关文件?#26657;访?#25552;出希望制定一套“AI监管的世界性标准?#20445;?#24182;建立“足以保护个人的明?#32602;?#21487;预测和统一的规则”。它将在GDPR的现有义务之上更进一步，将目标锁定为“带来特定风险”的人脸识别等技术。

“AI应用可能对基本权利?#38057;?#37325;大风险，不受管制的AI系统可能会做出影响人们?#20174;?#26080;法解释的决定，还无法溯源或者?#19994;?#30456;关负责人?#20445;?#35813;文件称。

公开资料显示，?#35775;?#22996;?#34987;?#23558;在11月迎来新一任主席——Ursula von der Leyen。她计划在其上任的前100天内推出新的AI管理法规，为人类和AI伦理提供一个“经过协调的?#20998;?#26041;法”。

其实除了?#35775;耍?#32654;国旧金山议员丁右立（Phil Ting）早已就提议禁?#25925;?#29992;人脸识别技术软件系?#24120;?#24182;且表示类似于低级错误识别结果将会给人们带来巨大的负面影响，当你被人认为是一个罪犯， “可能会影响你找工作的能力、影响你买房租房的能力。”这远不是一项技术犯了一个可笑的错误那么简单，而是确确实实会有活生生的人们，受到这一错误带来的?#23548;视?#21709;。

科技进步、人工智能给我们的生活带来的方便和快捷不言而喻，但是科技作为工具，能否使用的好最终?#25925;?#25484;握在人的手里，尤其是像这种涉及人们隐私的技术——人脸识别，是不是需要禁止或者是否要严加看管，在中国我们也需要一个保护自己隐私的权利！