纽约市开始对用于招聘工具的人工智能进行监管-华尔街日报

雇主们正在为纽约市即将生效的一项新法律做准备，该法律将成为全国首个规范自动化和人工智能在招聘决策中使用的法规。

这项法律，被称为NYC 144，要求使用特定类型软件来协助招聘和晋升决策的雇主（包括聊天机器人面试工具和寻找关键词匹配的简历扫描器）每年对这些工具进行潜在种族和性别偏见的审计，然后在其网站上公布结果。

公众对算法在人们生活的重要方面（从就业和教育到人寿保险和抵押贷款）所起的作用越来越关注，因为大多数人难以甚至不可能解开和理解这些算法，立法者们更多地关注于强制透明度而不是对软件本身进行监管。

尽管NYC 144旨在消除就业决策中潜在歧视的迹象，“它实际上并不是一项反歧视法律。它是一项公开披露法律，”代表Orrick, Herrington and Sutcliffe律师事务所的Erin Connell表示。她补充说，全国的立法者和行业团体都在关注纽约市作为未来技术监管的试点案例。

根据新法律，雇主将审计任何在其招聘和晋升决策中发挥重要作用的软件，并将公布所谓的不利影响比率，以显示某一程序是否对特定种族或性别产生不平等影响。

雇主雇佣纽约市居民将不得不在其网站上发布影响比率，以及通知他们正在使用这些工具的声明，并提供一种让求职者请求替代方案以避免被软件筛选或排序的方式。如果雇主不遵守规定，将每天支付高达1500美元的违规罚款。

“这其中蕴含了一个假设，即如果雇主看到影响比率，表明存在某种偏见，那么他们可能会采取一些行动，” 联邦平等就业机会委员会的前委员、现任劳工咨询公司Resolution Economics的合伙人维多利亚·利普尼克说道。“这是一个相当大的假设，但这是第一步。”

由于开发人员现在有更多的方法来预先测试他们的软件并更精确地编程，因此有可能减少或消除自动化工具中的偏见，” 招聘软件平台Pymetrics的创始人弗里达·波利说道。该平台现在由Harver公司拥有。她曾就纽约市议会的法案提供建议，并支持对算法进行更好的监管。

“这确实需要更多的努力，它迫使你现代化，” 波利说道。“但继续使用存在不平等影响的东西是没有意义的。”

根据该法律，工人和求职者不能仅凭影响比率起诉公司，但他们可以将这些信息作为潜在证据，用于根据当地和联邦法规提起的歧视案件。接近1的比率（介于0和1之间的数字）表示几乎没有偏见，而0.3的比率则表明，例如，每10名男性候选人中有3名女性候选人通过了筛选过程。

低比例并不意味着雇主自动歧视候选人，Lipnic说。根据长期以来的法律，如果公司能证明其招聘标准与工作相关并符合业务必要性，那么不同影响可能是合法的。

例如，黑人和西班牙裔的大学毕业率低于白人和亚裔美国人，如果雇主能够证明大学学位是工作的必要条件，因此其系统排除了更多西班牙裔候选人，因为申请人中没有学位的人更少，那么雇主可以为其流程辩护。

在过去的20年中，随着技术变得更加复杂，以及在线求职申请成为求职者的常态，雇主开始大量依赖招聘软件。在2008-2009年金融危机后失业率飙升后，雇主投资于技术来帮助他们快速筛选和排序候选人。

求职者长期以来一直不喜欢这些工具，有时会因为简历中有空白或未包含与不明确的工作要求相关的关键词而被排除。哈佛商学院教授Joseph Fuller在2021年的一项研究中发现，自动决策软件排除了1000多万名工人参与招聘讨论。

立法者也越来越担心软件中潜在的偏见。一些城市和州提出了规范这些工具或要求披露的法律草案，包括华盛顿特区、加利福尼亚和康涅狄克州，白宫也提出了“AI权利法案蓝图”。由于强大的新生成式AI工具（如ChatGPT）的发布，近几个月来对此类问题的担忧日益增加。

算法歧视已在许多案例中有所记录。在一个被广泛引用的例子中，将近十年前，亚马逊开发了一个招聘算法，分析了顶尖软件工程师10年的申请记录，然后寻找那些背景与他们相似的候选人。但由于这些年来大多数申请者都是男性，算法很快就降低了使用特定术语的女性申请者的评分，或者毕业于某些女子学院。

亚马逊在意识到发生了什么之后停止使用了这个程序。“这个项目只是试验性地进行了探索，并且始终在人类监督下使用，”亚马逊发言人说。

纽约市144号法案于2021年通过了纽约市议会，并在议会考虑公众意见（包括许多雇主和技术供应商的反对意见）期间延迟了近两年。BSA，代表包括微软、Workday和甲骨文在内的大型软件公司的组织，游说以减少报告要求并缩小哪些用途将受到审计的范围。

一些组织提出的改变得到了采纳，但该组织仍然反对当前法律的某些要素，并计划与美国和世界各地的政策制定者合作，“制定比我们在纽约市144号法案中看到的更具建设性和持久性的风险管理方法和监管模式，”BSA副总裁Aaron Cooper在一份电子邮件声明中说。

写信给Lauren Weber，邮箱地址：[email protected]

刊登于2023年7月6日的印刷版上，标题为’纽约市开始监管用于招聘的人工智能’。