纽约市通过了一项人工智能招聘法案到目前为止，很少有公司在遵循这项法案 - WSJ
Lauren Weber
纽约市开始执行全国首个法律已经六个月了，要求公司披露算法如何影响其招聘决策。到目前为止，披露情况很少。
该法律要求使用软件辅助招聘和晋升决策的雇主（包括聊天机器人面试工具和简历扫描仪等）每年对这些工具进行潜在种族和性别偏见的审计，然后在其网站上公布结果。该法旨在鼓励公司识别和消除技术可能无意中嵌入偏见到就业决策中的方式。
康奈尔大学的研究人员在本月初的一项新研究中分析了近400家雇主，其中有18家发布了这些信息，他们让学生们搜查公司的网站。在进行审计报告的公司中包括摩根士丹利、辉瑞、西格玛和派拉蒙。
对于分析的391家公司中的大多数，其中许多公司总部或大型运营位于纽约，它们并未披露信息。研究人员写道，在某些情况下，当审计结果被发布时，查找通知“具有挑战性，耗时且令人沮丧”。法律要求公司在其网站的职业部分发布这些信息。
研究人员表示，结果表明该法律对求职者的价值非常有限，最多可能为改进未来的监管提供一份路线图。“我们现在更多地了解了失败点，”康奈尔大学研究的合著者、非营利技术研究组织Data & Society的人工智能倡议负责人杰克·梅特卡夫说。
低合规性的一个原因是，该法律几乎允许雇主“几乎无限的自由裁量权”来决定他们是否适用于该规定范围内，梅特卡夫说。虽然最初的规定提出，使用大多数自动化就业决策工具（AEDT）的雇主必须对其进行审计，但最终版本限制了范围，称该法律仅适用于工具实质上协助或取代人类决策的公司。包括微软、SAP和甲骨文在内的商业贸易团体曾游说纽约市议会对一些变更进行了修改。
许多雇主表示，“‘我们使用这个工具，但它并未完全取代人类决策，因此不符合AEDT的定义，’”ConductorAI的联合创始人本·费希特说，该公司已为几十家技术供应商完成了审计。
2022年SHRM的一份报告发现，64%的公司正在使用人工智能或其他形式的自动化来审查或筛选求职者的简历。
Fichter补充说，另一个挑战是：因为许多雇主不追踪大多数申请者的种族或性别，所以结果具有可疑的价值。
雇佣纽约市岗位并受该规定约束的雇主必须在其网站上发布不利影响比率，显示该流程是否对任何种族或性别产生不平等影响。他们还必须包括使用这些工具的通知以及申请工作的人请求使用软件筛选或排序的替代方法。
不遵守规定的雇主可能被要求支付高达每天1,500美元的违规罚款。LL 144是一项披露法律；它不要求雇主改变其招聘程序。
该法律生效后不久，PepsiCo发布了一份披露，显示了在其食品部门的供应链岗位申请者中进行评估的影响比率。其中一些比率低于表明不利影响的阈值。该报告的链接已不再有效。
纽约市消费者和劳工保护部发言人负责监督该法律的执行，表示执法是由投诉驱动的，自该规定实施以来，该机构尚未收到任何投诉。
“除非有一些执法行动，雇主们可能会忽视它，”代表雇员进行就业诉讼的Outten & Golden律师事务所的管理合伙人亚当·克莱恩说。他补充说，如果公司进行并公开其偏见审计，“没有办法验证信息。”
一些求职者表示，在与自动招聘工具（如求职者跟踪系统）多年的挫折后，他们开始关注自己在招聘决策中的作用。去年二月，莫尔豪斯大学的一名毕业生起诉了人力资源技术最大供应商之一Workday，声称其软件在种族、残疾和年龄方面存在歧视。原告表示，他曾向使用Workday招聘工具的雇主申请了80到100个工作岗位，但全部被拒绝。
Workday曾游说纽约市议会放宽该法律的一些要求，随后提出驳回诉讼。上周，一名联邦法官准许了Workday的请求，但给原告到2月20日提交新的投诉和额外证据。
“我们认为这起诉讼毫无根据，完全缺乏支持该主张的事实陈述和断言，”Workday在一份声明中表示。
Workday表示，它尚未针对纽约市的法律目的对其工具进行审计，而其他人力资源技术供应商，包括ADP和Eightfold，已经这样做了。
雇主们将不得不适应更严格的监管制度，律师和科技公司表示。“这只是即将到来的更多义务的开始，尤其是考虑到欧盟即将发布的全面规定，” BABL AI创始人Shea Brown表示，该公司为企业审核人工智能风险和系统。
请写信给Lauren Weber，邮箱地址为[email protected]