美国将成立自己的人工智能安全研究所

美国商务部长吉娜·雷蒙多在英国布莱切利公园举行的AI安全峰会第一天发表讲话，时间为2023年11月1日。英国政府主办了AI安全峰会，汇集了国际政府、领先的人工智能公司、公民社会团体和专家… 阅读更多

英格兰布莱切利公园/华盛顿，11月1日(路透社) - 美国将成立一个AI安全研究所，评估所谓的“前沿”人工智能模型的已知风险和新兴风险，商务部长吉娜·雷蒙多周三表示。

“我几乎肯定会呼吁在座的许多在学术界和行业的你们成为这个联盟的一部分，”她在英国AI安全峰会上的讲话中说。

“我们无法独自做到，私营部门必须挺身而出。”

雷蒙多补充说，她还将承诺美国研究所与英国安全研究所建立正式合作关系。

这一新举措将由国家标准与技术研究所(NIST)负责，并领导美国政府在人工智能安全方面的努力，特别是对先进人工智能模型进行审查。

该研究所“将促进人工智能模型的安全、安全性和测试标准的制定，制定用于验证人工智能生成内容的标准，并为研究人员提供测试环境，以评估新兴人工智能风险并解决已知影响，”该部门表示。

美国总统乔·拜登周一签署了一项人工智能行政命令，要求开发可能对美国国家安全、经济、公共卫生或安全构成风险的AI系统在发布之前根据《国防生产法》与美国政府分享安全测试结果。点击此处阅读更多。

该命令还指示各机构制定相关测试标准，并解决相关的化学、生物、放射性、核和网络安全风险。