展会信息港展会大全

亚马逊面部识别AI犯众怒,图灵奖得主呼吁暂停售予执法机构
来源:互联网  (转载协议)   发布日期:2019-04-04 21:23   浏览:6874专栏投稿 值班编辑:QQ281688302

赚钱
亚马逊先前将其面部识别工具 Rekognition 提供给警方使用,引起侵犯民众隐私的争议,当时遭到亚马逊员工、用户、民间组织等超过 15 万人联名抗议。 现在,至少 26 位重量级 AI 研究人员发出公开信,指出 Rekognition 面部分类有高错误率、性别歧视、偏差等问
w-1广告位招商中...更多广告位投放事宜点击查看
 

亚马逊先前将其面部识别工具 Rekognition 提供给警方使用,引起侵犯民众隐私的争议,当时遭到亚马逊员工、用户、民间组织等超过 15 万人联名抗议。

现在,至少 26 位重量级 AI 研究人员发出公开信,指出 Rekognition 面部分类有高错误率、性别歧视、偏差等问题,要求亚马逊停止向执法部门出售该工具,包括 ACM A.M. 图灵奖得主 Yoshua Bengio、加州理工学院教授 Anima Anandkumar、谷歌旗下几位知名研究人员包括 Timnit Gebru、 Margaret Mitchell、Sergio Guadarrama 等都签署此信。

图丨ACM A.M. 图灵奖得主 Yoshua Bengio 呼吁亚马逊停止向执法部门出售 Rekognition 工具(来源:Facebook)

人工智能衍生的道德、偏见争论越演越烈,几家美国科技巨头都曾惹出犯众怒事件,为了消弭外界质疑,不久前谷歌宣布建立一个先进技术外部道德委员会(ATEAC,Advanced Technology External Advisory Council),以协助谷歌面对及处理 AI 引起的道德、隐私、歧视等问题。

但才过了一周,这个外部 AI 道德委员会就面临崩解,因为谷歌员工公开请愿,要求谷歌撤销某些本身就很有争议性的成员,像是美国传统基金会(Heritage Foundation)总裁 Kay Coles James,曾反对同性恋和跨性别人士的平等权利法律,且对移民采取强硬立场,另外还有 Trumbull 公司首席执行官 Dyan Gibbens,因为这家公司就是开发国防军事相关的自动系统。

现在,被众多重量级科学家盯上的则是亚马逊 AWS 云服务下的 Rekognition 产品。用户只需将图像或视频提供给 Rekognition API,系统就会进行脸部分析和脸部辨识,以及识别各种物件、人物、文字、场景和活动。早期客户包括佛罗里达州的奥兰多警察局和俄勒冈州华盛顿县警长办公室。

今年 1 月多伦多大学研究人员 Inioluwa Deborah Raji 和麻省理工学院媒体实验室研究员 Joy Buolamwini 发表一份研究,指出亚马逊的 Rekognition 在分类肤色较深的女性,比肤色较浅的男性,有更高的错误率,如 Rekognition 在识别照片中女性和深色皮肤面孔,19%的女性被误认为男性,并且皮肤较黑的女性则有 31% 被误认为男性。

除了 Rekognition 之外,Joy Buolamwini 也曾研究了 IBM、微软和国内旷视科技的 Megvii 的服务,当研究人员提出的问题后,这三家公司随即都改善了他们的服务,错误率也跟着降低,以正面的态度回应。

但唯独亚马逊态度强硬,两位亚马逊的高管:AWS 人工智能总经理 Matthew Wood 和全球公共政策副总裁 Michael Punke 在博客上反驳,指此研究误导并得出错误结论。

一直到现在,此事件并未消停,日前一群知名的研究人员在 Medium 上发布公开文章反击,指出亚马逊的博客文章错误表达技术细节,并呼吁亚马逊停止向执法部门出售 Rekognition,因为立法和防止滥用的保障措施尚未到位。

而响应的研究人员也相继提出看法,Yoshua Bengio 在其 Facebook 帐号写下:“我与其他学者签署了这封信,呼吁亚马逊停止向执法部门出售它们的面部分析 AI—Rekognition,直到法规到位,以防止滥用和偏见,并保护受影响的社区”。另外,Anima Anandkumar 也表示:“我们需要对公开发布的 AI 服务负责。从人脸识别开始”。

图丨Anima Anandkumar 响应呼吁(来源:anima-ai.org)

从去年开始,就不断有类似抗议或请愿事件出现,反映出学术界和科技行业越来越担心面部识别技术的偏见,这也是一个系统性问题,并不是少数 AI 研究人员或公司的责任,而是当全球相继重金投入发展 AI,就得面对的问题。

登陆 | 注册 欢迎登陆本站,认识更多朋友,获得更多精彩内容推荐!

赞助本站

人工智能实验室
下一篇:没有了...
AiLab云推荐
推荐内容
展开
Copyright © 2010-2019 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港