博客彩票客服端-

作者:三分pk10客服端发布时间:2019年11月21日 15:16:57  【字号:      】

快讯丨南京出台人才购买商品住房办法 为人才购房开辟优先通道

AI的种族歧视,是算法盲点还是人心叵测?

在目前,包括亚马逊在内的很多科技公司尚未加入这一承诺。“根据我们的研究,贸然向执法部门或者政府机构出售面部识别系统将是不负责任的。”作为算法正义联盟创始人之一的Joy希望,在未来,更多的机构能加入到“安全面孔承诺”,能够负责任地、符合道义地为面部分析技术的发展付出行动。

那么,是谁在“扭曲”两性?为何有时候,算法眼中的你处在可男可女的模糊地带?进一步讲,性别之外还有哪些偏见?为了应对这种状况,我们可以做些什么?人脸识别下的性别失衡皮尤的这份报告指出,在Facebook上不同类型的新闻报道中,女性在图片中的“在场”情况始终低于男性。在与经济有关的帖子中,只有9%的图片为纯女性内容,与此形成鲜明对比的是,纯男性图像占到了69%。女性在娱乐新闻图片中拥有更多展示机会,但总体上仍低于男性。

亚马逊面部识别系统对不同肤色、性别的测试准确度Google将这位用户的朋友识别为“大猩猩”“不管其正确性如何,面部识别技术都可能被滥用,”Joy说道。准确或者不准确地使用面部识别技术对他人的身份、面孔、性别进行分析,都可能侵犯到他人的自由。比如,不准确的识别可能会使得无辜者蒙冤,受到执法人员的无理审查,这并不是假想的情况。

以上供应对象不限户籍,包含海外人才和港、澳、台人才。其中,本市户籍相当于A、B、C类人才须申请时本人、配偶及未成年子女在南京市无自有产权住房或仅有1套住房且建筑面积小于90平方米,其他人才须申请时本人、配偶及未成年子女在南京市无自有产权住房且1年内无住房交易记录。

不同系统对深肤色演员的识别数据不同Facebook曾宣布,在名为Labeled Faces in the Wild的数据集测试中,自己面部识别系统的准确率高达97%。但当研究人员查看这个所谓的黄金标准数据集时,却发现这个数据集中有近77%的男性,同时超过80%是白人。

为了减少对面部识别技术的滥用,算法正义联盟(Algorithmic Justice League)和隐私与技术中心(Center on Privacy & Technology)发起了“安全面孔承诺”(Safe Face Pledge)活动。

具体来看,在涉及经济相关的帖子中,女性面孔的平均尺寸比男性小19%,但在娱乐相关的内容中,女性面孔的平均尺寸比男性大7%。

为了更好地了解这一过程中的规则,皮尤研究中心进行了一个有趣的实验,他们将自己中心工作人员的图像上传到机器视觉系统,并对图像内容进行部分遮挡,希望从中寻得规律,找到是哪些面部区域会让算法做出或改变决策。

你也许会为女性身影的稀少而感到疑惑,这在一定程度上和更大的社会现实相关。比如,在关于职业足球队的新闻报道中,识别出的图像大多都是男性;在针对美国参众两院(女性占比为25%)的报道中,识别出的女性面孔当然要比男性少得多。

机器学习的确可以极大地提高我们处理数据的效率,但与传统的计算机程序不同,机器学习遵循一系列严格的步骤,它们的决策方式在很大程度上隐而不显,并且高度依赖于用来训练自身的数据。这些特点可能导致,机器学习工具产生更难以被人理解和提前预测到的系统性偏差。

最后,当你完成选择后,图片将呈现出能影响性别分类改变的所有区域。感兴趣的读者,可以登陆皮尤研究中心网站,自己动手完成这个小实验。传送门:https://www.pewresearch.org/interactives/how-does-a-computer-see-gender/

毕竟,算法偏见的背后,其实是我们人类自己的偏见。参考链接:1.https://www.journalism.org/2019/05/23/men-appear-twice-as-often-as-women-in-news-photos-on-facebook/

亚马逊的面部识别系统为奥普拉·温弗里的这张图片打上了男性标签,并给出了数据置信度Joy表示,现实世界中的脸部识别要比实验检测更为复杂和困难,他们建立的基准数据集也并非完全经受得住考验,“但这就好比跑步比赛,在基准测试中的出色表现,起码能保证你不会刚起步就摔倒。”

为了在数据层就尽最大可能地剔除偏差,Joy提出,应当构建更具包容性的基准数据集。为了平衡基准数据,她列出了世界上妇女在议会所占比例最高的十个国家,其中卢旺达以超过60%的女性比例领先世界。考虑到北欧国家和少数非洲国家具有典型代表性,Joy选定了3个非洲国家和3个北欧国家,通过选择来自这些国家年轻、深肤色的个体数据来平衡数据集中的皮肤等类型。

在现实生活中,识别你周围人的性别再简单不过,但是对于计算机而言,它的工作需要经历怎样的步骤?计算机如何“看出”你的性别?“在给算法‘喂入’成千上万个图像案例后,作为一个‘成熟的算法’,面部识别系统自己就能学会如何辨别男性和女性。”这种回答虽然可以解释上文的疑问,但对于“黑箱”外的我们,可能并不容易理解这一学习过程。

《办法》中商品住房供应对象有七类,其中,在南京市工作,相当于《南京市人才安居办法》中的A—E类人才;在南京市工作,取得博士学位的人才;在南京市登记注册的规上企业、高新技术企业、已备案新型研发机构工作,取得硕士学位的人才;

著名非裔记者、平权运动家Ida B.Wells被识别为男性。为了减少搜索人脸所需的时间,执法部门正在大量使用性别分类。如果需匹配人脸的性别是已知的,通过简单的二分法,就可以大量减少需要处理的潜在匹配数。性别分类正广泛应用到警务活动中。

本文来自公众号:全媒派(ID:quanmeipai),原标题为:《人脸识别的肤色性别偏见背后,是算法盲点还是人心叵测?》,题图来自:。

从这个角度看,皮尤研究中心用一个简化的实验,展示了用于训练算法的数据是如何将隐藏的偏差、意外的错误引入到了系统结果中。研究人员表示,随着算法正在人类社会中发挥越来越重要的决策影响力,了解它们的局限、偏差具有重要意义。

当这些有偏差的识别系统被广泛应用到社会生活中,就可能导致更糟糕的后果。Joy Buolamwini在TED上发表题为How I"m fighting bias in algorithms的演讲

在这个“人机博弈”的交互挑战中,你不妨也大胆猜测下,哪些部分影响了系统的判断?首先,输入一张清晰的图片到机器视觉系统,此时,不管是算法还是你,都可以清楚地判断出照片中人物的性别。接下来,照片中出现了若干方框,提示信息告诉你,“选中某一方框意味着,在图片中遮挡隐藏该部分内容,你的选择有可能影响性别判断。”

市场优先供应的房源分批供应上再细分为需要摇号的项目和不需要摇号的项目。其中,需要摇号的项目具体要求为,相关开发企业在办理商品房预售许可(现售备案)后,通过摇号或抽签的方式确定人才选房顺序号,并根据项目本次申请上市销售量的20%—30%确定人才入围名单,按人才优先、其他购房人递进的顺序组织选房。

像面部识别这样的机器视觉工具,正被越来越广泛地应用在执法、广告及其他领域,对性别的识别,是其基本功能之一。

3.https://medium.com/@Joy.Buolamwini/response-racial-and-gender-bias-in-amazon-rekognition-commercial-ai-system-for-analyzing-faces-a289222eeced

2.https://www.pewresearch.org/interactives/how-does-a-computer-see-gender/

在TED演讲中,Joy和大家分享了一个小故事:在同样的光线条件下,面部识别系统只能检测到浅肤色的参与者;只有戴上白色面具,才能检测出深肤色的参与者。“在人工智能工具确定人脸的身份或者辨别表情信息前,最基本的前提是,检测出人脸。但是,面部识别系统在检测黑皮肤个体上,屡次失败。我只能安慰自己,算法不是种族主义者,是自己的脸太黑了。”Joy说道。

市场优先供应的房源分批供应方面具体而言,市房产部门根据项目开盘计划,在“南京市人才安居信息服务平台”发布即将开盘的商品住房信息和服务专员联系方式,人才凭《人才购房证明》到项目现场报名登记,开发企业在办理预售许可(现售备案)后,按照“人才优先,过程公开”的原则,根据公示的销售方案,组织人才和其他购房人同步选房。

Joy提醒我们关注基准数据集的偏差。“当我们讨论面部分析技术的准确性时,是通过一系列图像或者视频测试来完成的。这些图像数据构成了一个基准,但并不是所有的基准都是平等的。”

正是基于这个更平衡的数据集,他们对亚马逊、Kairos、IBM、Face++等公司的面部识别系统进行了重新评估。在2018年8月的研究中,他们发现,亚马逊和Kairos在白人男性识别工作上表现优秀,但亚马逊对有色人种的女性面孔识别的准确率很低,仅为68.6%。

即便在同样的基准下,面部识别系统的准确度数字可能也会发生变化。人工智能并不完美。在这种情况下,通过提供置信度给用户更具体的判断信息是一个有用的做法。

未入围的人才不纳入本批次人才选房,该部分人才可报名参加其他购房人摇号或轮候下一期开盘房源,也可在《人才购房证明》有效期内选择其他商品住房。

皮尤研究中心的一项最新研究发现,Facebook的新闻图片中,男性出现的频率是女性的两倍,且大部分的图片是关于男性的。

此前,多伦多大学的研究人员Deborah Raji和麻省理工学院媒体实验室的研究人员Joy Buolamwini撰写了研究报告,指出亚马逊的Rekognition在检测图像中肤色较深的女性性别时,要比判断肤色较浅男性性别的错误率高得多。该研究成果也得到了学者们的支持,但亚马逊曾对两人撰写的这篇报告及研究方法提出过异议。

本文来自公众号:全媒派(ID:quanmeipai)。

关于供应房源及供应方式,《办法》规定,全市可售商品房均可作为供应房源,同时采取整体筹集和按比例筹集相结合的方式,包括政府定向筹集的房源集中供应和市场优先供应的房源分批供应。

同时包括,在南京市登记注册的规上企业、高新技术企业、已备案新型研发机构工作,取得高级技师及以上职业资格的高技能人才;在南京市登记注册的企业工作,年纳税收入50万元及以上的企业高级管理人才和技术骨干;在南京市工作,通过南京市高层次人才举荐委员会认定,并经市委市政府批准的举荐人才。

“偏见”带来了什么?最近,包括图灵奖获得者Yoshua Bengio在内的26位AI领域顶尖研究者,在一篇公开博文中要求亚马逊立即停止向警方出售其人工智能服务Amazon Rekognition。亚马逊云计算部门前首席科学家Anima Anandkumar等人也加入了这一联合呼吁。

偏差来自哪里?如果对比开发者自己声明的准确率和研究者们的研究结论,会发现一个有趣的事情:公司发布的数据和独立第三方的外部准确率总是有所出入。那么,是什么导致了这一差异?

研究人员还测量了图像中女性面部与男性面部的大小情况(目前的技术只能捕捉人脸的大小情况,忽略了头发、珠宝和头饰等因素的影响)。结果显示,男性面孔平均占到的图像面积更大,这种差异导致图像中男性平均面部尺寸比女性大出了10%。在Facebook的图像中,这表现为男性人物能给读者带来更大的视觉冲击。

11月7日,南京市委政府召开新闻发布会,并出台了《2020年南京市人才购买商品住房办法(试行)》(下称《办法》),将于2020年1月1日起施行。




500vip彩票注册整理编辑)

专题推荐