人工智能招聘体系也搞轻视?纽约市经过法案进行监管

发布时间:2021-11-22 17:46:20 | 作者:环球体育靠谱吗


  假如人工智能招聘体系没有经过年度审计,无法证明不会由于应聘者的性别或种族进行轻视,这套体系将被制止运用。

  无论是写进招聘须知明文规定的“不招募女人”和“年纪35岁以下”,仍是在面试时被常常问到的“是否有生育计划”,求职时常会遭受片面上的成见。但出其不意的是,现在被越来越被广泛应用的人工智能招聘体系也隐藏轻视。

  据美联社报导,纽约市议会11月初经过一项法案,假如人工智能招聘体系没有经过年度审计,无法证明不会由于应聘者的性别或种族进行轻视,这套体系将被制止运用。此外,开发人员还需求发表更多的信息,并提供人工检查等替代计划。

  据悉,该法案于11月10日取得经过,行将离任的市长比尔·德布拉西奥(Bill de Blasio)有一个月的时刻签署该法案,使之成为法令。不过,他没有表明是否会签署。假如办法持续施行,该法案将于2023年收效。

  哥伦比亚广播公司指出,这项法案诞生布景是由于人工智能在招聘中的运用激增,越来越多地替代人工挑选,包含达美航空、宜家和联合利华在内的财富500强公司现已转向人工智能来协助评价求职者。这些人工智能招聘东西能够挑选特定单词和短语,评价求职者的面试视频,以判别他们是否合适作业。

  相关数据显现,从在视频面试中评价申请人面部表情的人工智能程序,到猜测作业体现的简历挑选渠道,人工智能招聘职业的价值超越五亿亿美元。

  需求警觉的是,人工智能体系并非彻底公平,最著名的比方是亚马逊曾开发的一款招聘东西。该东西模型学习了曩昔10年求职者提交给亚马逊的简历,并有效地“教训”了自己:男性提名人更受欢迎,对包含“女人”一词的简历以及两所女子大学的毕业生进行降级处分。尽管该东西从未被运用过,但它展现了用机器智能替代人类判别的潜在缺点。

  该法案的发起人、市议会成员劳里·库姆博 (Laurie Cumbo) 在立法听证会上表明:“作为一些世界上最大公司所在城市的立法者,咱们有必要进行干涉并避免不公平的招聘。”

  几个民权安排表明,纽约市议会提出的法案还远远不够。包含纽约公民自由联盟和纽约革新社区在内的十几个集体发布公开信,推进法令包含更多类型的自动化东西和招聘过程中更多的过程,期望该办法包含更重的处分,使人们能够在因算法有成见而被疏忽的状况下提起诉讼。

  “审计成见的办法是一种很好的办法,但纽约市对这种状况采取了十分脆弱和含糊的规范。”民主与技能中心总裁亚历山德拉·吉文斯(Alexandra Givens)以为,审计终究或许会给人工智能供货商一个“遮羞布”,让他们能够在市政府的答应下出产高风险产品。

  关于招聘专业人士而言,人工智能的首要吸引力在于其节省时刻的才能。部分技能专家也必定了自动化程序的潜力,假如运用妥当,能够消除人为成见,例如招聘司理能够忽视非洲裔美国申请人或看好与招聘司理在外表上相似的提名人的倾向。

  美国招聘渠道HiredScore的首席执行官雅典娜·卡普 (Athena Karp) 说:“不幸的是,当只要人工审阅简历时,人类无法忽视导致无意识成见的工作,比方母校相同或许在同一个当地长大。”

  卡普表明,她支撑纽约法案。她在听证会上坦言:“假如技能用于招聘,技能制造商和提名人能够并且应该知道他们是怎么被运用的。”