首席人工智能官员，偏见测试现在是美国联邦机构的必需条件 - 彭博社

摄影师：Josep Lago/AFP/Getty Images白宫将要求联邦机构测试人工智能工具的潜在风险，并指定官员进行监督，旨在鼓励美国政府对新兴技术的负责任采用。

管理与预算办公室周四发布了一项政府范围的政策，以减轻人工智能带来的威胁，包括歧视和侵犯隐私，增加政府使用该技术的透明度，这是对总统乔·拜登去年签署的行政命令的延续。

根据白宫的一份简报，机构将被要求在12月1日之前实施“具体的保障措施”，当他们使用人工智能可能影响美国人权或安全时。各联邦机构将任命首席人工智能官员，协调政府各部门使用人工智能的工作，并确保执行管理与预算办公室的指导。

这些保障措施将确保机构能够让旅客选择在机场不受延误地退出交通安全管理局的面部识别，更好地防止医疗保健领域的偏见和不平等，并允许在使用人工智能查找政府服务欺诈时进行人类监督，根据简报。

副总统卡玛拉·哈里斯告诉记者，拜登总统和我打算让这些国内政策成为全球行动的典范。她表示，美国将“继续呼吁所有国家效仿我们的做法，把公共利益放在首位”在推广人工智能的使用时。

高级管理官员在匿名情况下预览措施时表示，高风险系统将根据新指导方针进行严格测试。

早些时候：拜登签署了一项广泛的法令，规范人工智能

拜登政府打算雇佣至少100名专注于人工智能的员工，计划在今年夏天完成，根据信息简报。据一位高级官员称，一些职位预计将是政治任命，不需要参议院确认。

民主与技术中心总裁兼首席执行官亚历山德拉·里夫·吉文斯称赞这项指导方针是帮助确保联邦机构负责任地使用人工智能的“一大步”。

“这关乎纳税人资金的负责使用，以及机构在选择部署可能会显著影响人们的新技术时，是否有严格的流程。”吉文斯说。

联邦机构多年来一直在使用人工智能技术，并计划增加使用量，根据一份12月份的政府问责办公室报告。尽管国会对人工智能的更广泛监管陷入停滞，拜登却利用政府作为技术顶级客户的地位来建立保障措施。白宫已经依赖于主要公司的自愿承诺，这些公司承诺遵循一套关于人工智能创新的原则。

管理层面临来自民权团体、劳工盟友和其他倡导者的压力，他们敦促采取防范措施以防止伤害。

一些人工智能软件被发现存在偏见。彭博新闻实验发现，在使用ChatGPT时存在种族偏见，这是OpenAI Inc.的产品。在其他地方，刑事司法系统中，面部识别误认嫌疑人，软件导致个人受到不公平的判决。

哈里斯表示，这些措施是在与私营部门和公益团体的磋商中制定的。咨询。

根据指导方针，美国人将能够寻求补救措施，如果他们认为人工智能导致了关于他们的虚假信息或决定。要求机构公布正在使用的人工智能系统、风险评估以及如何管理这些风险。

对于不符合管理规定的软件可以给予豁免，但必须公布理由。根据信息简报，由于敏感性，某些用途可能会被保留。