亚马逊面部识别软件又被曝存在偏见?这回是麻省理工科学家发声了

  • 时间:
  • 浏览:0
  • 来源:大发时时彩平台-大发时时彩网投平台_大发时时彩投注平台
 Winnie Lee • 2019-01-25 15:43:14 来源:前瞻网 E253G0

亚马逊的面次要析软件对有些种族的性别区分不如IBM和微软的累似 服务准确。

这是麻省理工学院(Massachusetts Institute of Technology)研究人员在今天发表的一项新研究中得出的结论。该研究发现,亚马逊网络服务(Amazon Web Services)的对象检测API应用Rekognition在特定场景下无法可靠地选择女性和深色皮肤面孔的性别。

该研究的合著者称,在2018年进行的实验中,Rekognition公司的面次要析内外部在19%和31%的时间里将女性误以为是男性,将深色皮肤的女性误以为是男性。

相比之下,微软误将深色皮肤女性分类为男性的错误比例为1.5%。

亚马逊反驳了有有哪些发现。

该机构表示,在内内外部,在对你这一最新版本Rekognition的测试中,它发现,所有种族的性别分类准确性“这麼 差异”。

报告还指出,这篇论文这麼 明确置信度阈值——这是在实验中Rekognition的正确预测需用达到的最小精度。

在一份AWS高度学习和人工智能总经理、马特•伍德(Matt Wood)博士提供的声明中,对面次要析——面次要析是处于视频或图像中识别人脸,并为其分配通用属性——和人脸识别(能将视频和图像中的人脸进行匹配)进行区分。

你说有哪些,根据面次要析得出的结果,“不有些”得出面部识别的准确性,并认为这篇论文“不代表客户将怎么使用Rekognition”。

伍德说:“使用最新版本的亚马逊Rekognition软件,从议会网站下载的累似 数据以及百万张图片的海量数据集,让当我们 发现,在推荐的99%的置信阈值下,让当我们 发现假阳性匹配的数据为零。”

“让当我们 继续寻求输入和反馈,以不断改进这项技术,并支持第三方评估、数据集和基准的创建。”

这是亚马逊第二次有些所谓的易受偏见影响而陷入困境。

美国公民自由联盟(American Civil Liberties Union)在今年夏天进行的一项测试中(亚马逊对这项测试的准确性处于争议)证明,在提供了从“公共来源”提供的2.116万张罪犯的脸部照片,并将其与国会议员的官方照片进行对比时,Rekognition错误地认定了28名国会议员是罪犯。

ACLU称,被识别为罪犯的28名议员中,40%是有色人种,然而国会议员暗含色人种的比例仅为20%。

这并都是说这是那我孤立的问题图片图片。

2012年的一项研究显示,Cognitec供应商的面部算法在非裔美国人身上的表现比白人差5%至10%。2011年,研究人员发现,在中国、日本和韩国开发的面部识别模型难以区分白人面孔和东亚面孔。

今年2月,麻省理工学院媒体实验室(MIT Media Lab)的研究人员发现,微软(Microsoft)、IBM和阳国公司旷视科技(Megvii)生产的面部识别软件在肤色较浅的女性中误认性别的比例高达7%,在肤色较深的男性中误认性别的比例高达12%,在肤色较深的女性中误认性别的比例高达35%。

弗吉尼亚大学(University of Virginia)的研究人员进行的另一项研究发现,ImSitu公司和COCO公司这两家著名的研究图像挂接公司在描述体育、烹饪和有些活动时表现出性别偏见。

(累似 ,购物的形象与女性有关,而指导教练则与男性有关。)

你说有哪些最臭名昭著的是,2015年,一名软件工程师报告说,Google Photos的图像分类算法将非裔美国人识别为“大猩猩”。

但都是令人鼓舞的进步迹象。

今年6月,微软与人工智能(AI)公平方面的专家合作协议协议,修订并扩展了用于培训人脸API的数据集。人脸API是微软Azure API,提供用于检测、识别和分析图像中的人脸的算法。

通过研究肤色、性别和年龄的新数据,研究人员可以将肤色较深的男性和女性的错误率分别降低20倍和9倍。

亚马逊方面表示,它正在不断努力提高Rekognition的准确性,最近一次是在2018年11月进行的“重大更新”。

伍德说:“让当我们 为你这一领域的学术研究提供了资金,为让当我们 个人所有的团队进行了重大投资,并将继续那我做。”

“有有哪些努力中的有些都集中在改善面部识别、面次要析、在解释有有哪些结果时高度置信水平的重要性、人工审核和标准化测试的作用……让当我们 感谢为改善有有哪些技术做出贡献的客户和学者。”

麻省理工学院的研究结果将于下周在夏威夷火奴鲁鲁举行的人工智能、伦理和社会会议上签署。

相关高度报告 REPORTS

本文来源前瞻网,转载请注明来源。本文内容仅代表作者个人所有观点,本站只提供参考暂且构成任何投资及应用建议。(若处于内容、版权或其它问题图片图片,请联系:service@qianzhan.com) 品牌合作协议协议与广告投放请联系:0755-3150115062 或 hezuo@qianzhan.com