人工智能实验室

人脸识别禁令“胎死腹中”,欧盟不再因噎废食

▲图片来源:新京报网

文 | 许可

2月19日,欧盟发布《人工智能白皮书》和《欧盟数据战略》两份重磅文件,体现出欧盟在数字经济领域的政策新动向。在种种错综复杂的议题中,一个颇为戏剧性的转折,便是欧盟人脸识别监管的缓和。

被扼杀在摇篮的“人脸识别技术禁令”

在之前流出的2019年12月《人工智能白皮书(草案)》中,欧盟委员会表示正在考虑实施史上最严的人工智能监管措施,其中,公共或私人机构在公共场所使用人脸识别技术将被禁止3至5年的时间。

同时成立相关监督机构,监督技术服务商及其客户对法规的执行情况,并在此期间评估这项技术快速发展的影响,制定风险管理措施以防止其滥用。显然,该草案旨在回应人脸识别技术的迅猛发展以及人们对其滥用的忧虑。

事实上,对于人脸识别技术,欧盟一直持谨慎态度。欧盟《基本权利宪章》赋予了每个欧洲公民“保护与其有关的个人数据的权利”。

欧盟《一般数据保护条例》(GDPR),对于可用于个人生物数据的处理予以特别规制,以保证数据主体的知情同意权利,但公共场所中的人脸识别通常无法征得我们的明示同意。

人们不由担心,使用人脸识别技术进行公共监控,可能侵犯了公民的隐私和自由。

此外,人脸识别技术在不同皮肤、种族的识别率上存在着巨大差异,很可能存在种族歧视和性别偏见。

▲图片来源:新京报网

此前,欧洲议会一份内部备忘录泄露,讨论了人脸识别技术在安全领域的应用,就引发了民众强烈抗议,欧洲议会随后坚称没有引入人脸识别技术的计划。

2019年12月《人工智能白皮书(草案)》正是在上述背景下出台,但其对人脸识别技术一刀切禁止的态度,也令聚讼纷纾

微软总裁Brad Smith表示,人脸识别技术能够造福社会,例如可以用来帮助寻找失踪的孩子。因此,不应因噎废食全面禁用,而应寻找解决问题的方法,尽快研发出防止滥用的新方法,逐步推动技术向善。

经过综合权衡,欧盟委员会最终删除了上述人脸识别技术禁令,但对使用人脸识别等远程生物识别系统提出了严格限制。

人工智能白皮书》指出:根据欧盟《一般数据保护条例》和基本权利宪章,将人工智能用于远程生物识别只能基于正当和相称的目的,并具备足够的保障。

为了化解在公共场所人脸识别的社会风险,并且避免欧盟市场的分裂,欧盟委员会将就人脸识别的正当性及共同保障措施进行更广泛的磋商。

监管放松的背后考量:为了确保欧洲与数字时代相互适应

正式版白皮书公布后,尽管有研究者尖锐地指出“欧盟委员会似乎临阵退缩了”,但总体上看各方均予以肯定。

欧洲议会议员称赞“欧洲人工智能和数据战略是面向未来的,这将为欧洲企业提高竞争力铺平道路。这份白皮书使我们有时间进行反思,继续讨论我们在未来5年、10年、15年中想要走向何方”。

智库机构CEPS的监管政策主管安德烈亚 伦达亦抱有极大的信心,认为“这个方案,一方面是为了确保欧洲适应数字时代,另一方面也是为了使数字时代适应欧洲。并且确保人工智能技术的发展与基本权利和欧洲价值观保持一致”。

人工智能白皮书》并非孤立实践,它和《欧盟数字战略》共同构成了欧盟数字经济一揽子计划的一部分。

正如欧盟委员会所主张,这些政策旨在创建一个真正的数据单一市场,推动所有数据驱动的产品和服务遵守欧盟规则和价值观,加强欧盟在全球的技术主权地位,并释放人工智能技术的巨大潜力。

中国应对人脸识别争议:“权利保障”和“风险规制”两手抓

中国对于人脸识别技术及其争议早已耳熟能详。据欧盟专利办公室的统计,中国人脸识别专利的申请数量近年来独占鳌头。

2019年7月,上海中医药大学附属闵行蔷薇小学成为首家“AI+学校”,利用智慧课堂行为分析系统,学校可以实时捕捉学生上课时的举手、练习、听课、发言等课堂状态和面部情绪变化,定量分析学生的学习状态、学习兴趣。

面部识别并不仅仅在学校,北京地铁也拟应用人脸识别技术,对乘客实施分类安检,以提高乘客的通行效率。

毋庸讳言,人脸识别技术的使用与质疑如影随形。但正如欧盟经验所表明的,人脸识别绝非洪水猛兽,其在医疗教育安全金融领域大有可为。

当然,这也绝不意味着这一技术游离于法律之外。对此,我们不妨借鉴欧盟经验,分别从“权利保障”和“风险规制”两方面入手:

一方面,充分保障个人信息权利,坚持个人信息主体“知情同意”原则,只有法律、法规明确规定的前提下,才能诉诸公共利益,豁免个体同意。

这意味着无论是政府部门,还是私人机构使用人脸识别技术,均应充分保证被获取者的知情权,告知收集规则、使用目的和存储期限。

个人有权选择是否接受,更重要的是,拒绝接受人脸识别不得影响其获得服务和开展相应活动。

另一方面,在人脸识别可能对“基本价值和人格产生非常不利影响”的“高风险关键领域”,应当采取更严格的事前监管,包括明确技术标准、履行审批程序,并要求使用者提供个体救济渠道等。

▲图片来源:新京报网

事实上,欧盟人工智能白皮书(草案)》抑或美国旧金山、奥克兰等地对人脸识别的禁令,主要集中在无法获得个体同意的公共识别场景。

对此,除了再次重申法律保留和比例原则外,不妨从操作层面增强人脸识别技术的透明性。例如,明确标识所有监控设备的位置,以简短文字说明设立机关和联系方式,并辅以二维码与隐私政策链接,帮助公众随时获得详尽信息,便利后续监督和救济。

欧盟委员会执行副主席、主管数字业务的玛格丽特维斯塔格在评价《人工智能白皮书》和《欧盟数据战略》时曾言,“中国有数据,美国有钱,我们有目标”。

她的话不免偏颇,但欧盟人脸识别立法目标的变化,未尝不能提醒我们:既坚持普遍的法治原则又在具体场景中有的放矢,才是新型数字技术监管的中道。

□许可(法学博士 对外经济贸易大学数字经济与法律创新研究中心执行主任)

编辑:李碧莹 校对:卢茜

投稿、合作、联系我们:futurecity@xjbsmartcity.com

精彩推荐