OpenAI和IBM敦促参议院在过去的科技失败之后采取行动对人工智能进行监管 - 彭博社

ChatGPT的创始人和国际商业机器公司的隐私主管在周二的听证会上呼吁美国参议员更加严格地监管引发伦理、法律和国家安全关切的人工智能技术。

在参议院司法委员会的一次听证会上，OpenAI首席执行官Sam Altman赞扬了这项新技术的潜力，他表示这项技术可以解决人类面临的最大问题。但他也警告说，人工智能足够强大，可以以不可预测的方式改变社会，“政府的监管干预将至关重要以减轻风险。”

“我最担心的是我们，科技行业，对世界造成重大伤害，”Altman说道。“如果这项技术出现问题，后果将会很严重。”

IBM的首席隐私和信任官克里斯蒂娜·蒙哥马利着重于风险为基础的方法，并呼吁对人工智能工具的使用进行“精确监管”，而不是对其开发进行监管。

参议员们公开质疑国会是否有能力胜任这项任务。政治僵局和来自大型科技公司的强大游说使华盛顿在设定基本的监管框架方面变得更加复杂，其中包括数据安全和社交媒体儿童保护等挑战。正如参议员们在提问中指出的那样，国会的审议过程往往远远落后于技术进步的速度。

康涅狄格州民主党参议员、该小组主席理查德·布卢门撞出示了人工智能欺骗的能力，他在开场陈述中播放了一段由人工智能撰写和制作的录音，听起来与他完全一样。尽管他敦促人工智能创新者与监管者合作制定新的限制措施，但他也承认国会尚未通过足够的保护措施来应对现有技术。

“国会现在有选择。当我们面对社交媒体时，我们也有同样的选择，”布卢门撒尔说。“国会未能在社交媒体上把握机会。现在我们有义务在人工智能上做到，以免威胁和风险变得真实。”

参议员理查德·布卢门撒尔在一场关于人工智能的听证会上发表了开场白，其文本由OpenAI的ChatGPT撰写，声音由一款应用程序生成，该应用程序是根据他在参议院演讲中的训练而成。

几位参议员主张成立一个新的监管机构，负责监管人工智能和其他新兴技术。阿尔特曼对这一建议表示欢迎，认为这是美国继续领导源自美国公司的技术的一种方式。

但与阿尔特曼和蒙哥马利一起作证的纽约大学教授加里·马库斯警告称，一个新的旨在监管人工智能的机构可能会被其应该监管的行业所控制。

立法者们质疑了人工智能模型在互联网内容上训练时存在的危险虚假信息和偏见。他们提出了人工智能制造的内容对民主进程构成的风险，同时也担心像中国这样的全球对手可能会超越美国的能力。

人工智能“幻觉”

布卢门撒尔询问了当人工智能技术获取错误信息时的“幻觉”。田纳西州共和党参议员玛莎·布莱克本询问了她所在州歌手和词曲作者的保护措施，阿尔特曼承诺将与艺术家合作，保护其权利和获得补偿。

作为小组委员会的共和党排名第一的密苏里州参议员乔什·霍利问道，人工智能是否会像印刷机一样具有变革性，更广泛地传播知识，还是像原子弹一样具有破坏性。

“在某种程度上，这取决于我们这里，也取决于我们作为美国人民，来书写答案，”霍利说。“这将是什么样的技术？我们将如何利用它来改善我们的生活？”

讨论的重点大部分集中在生成式人工智能上，它可以生成看起来像是人类创作的图像、音频和文本。OpenAI通过推出产品如ChatGPT推动了许多这些发展，ChatGPT可以进行对话或生成类似人类的，但并非总是准确的文本块，还有DALL-E，它可以根据简单的文本提示生成奇幻或逼真的图像。

但机器学习被应用于现代经济的方式有无数种。社交媒体上的推荐算法依赖于人工智能，分析大数据集或天气模式的程序也是如此。

需要注册

拜登政府提出了几项关于人工智能的非约束性指导方针。国家标准与技术研究所于一月份发布了一个自愿风险管理框架来管理人工智能的最高风险应用。白宫今年早些时候发布了一个“人工智能权利法案”来帮助消费者应对这项新技术。

联邦贸易委员会主席莉娜·卡恩承诺利用现有法律防范人工智能技术可能带来的滥用。国土安全部上个月成立了一个任务组，研究如何利用人工智能来保障供应链安全和打击毒品走私。

在周二的听证会上，阿尔特曼将他的初始政策建议集中在对某种复杂程度的AI模型进行注册。他表示，公司应该被要求获得经营许可并在发布新的AI模型之前进行一系列测试。

阅读更多：OpenAI的阿尔特曼在敦促美国进行AI监管时引起全球关注

蒙哥马利表示，决策者应该要求AI产品在用户与机器进行交互时透明。她还吹捧了IBM的AI伦理委员会，该委员会提供了国会尚未设定的内部监管措施。

蒙哥马利说：“人们常说创新的速度太快，政府跟不上。但虽然AI可能正在经历它的时刻，但政府发挥其适当作用的时刻并未错过我们。”