拜登政府12月19日表示,它正在迈出第一步,为安全部署生成式人工智能以及如何测试和保护系统编写关键标准和指南。
美国商务部国家标准与技术研究院(NIST)称,将在2月2日之前征求公众意见,以进行对确保人工智能系统安全至关重要的关键测试。美国商务部长雷蒙多表示,这项努力是拜登10月份关于人工智能的行政命令所推动的,旨在制定“围绕人工智能安全、保障和信任的行业标准,使美国能够继续在负责任地开发和使用这一迅速发展的技术方面引领世界。”
NIST正在制定评估人工智能的指导方针,促进标准的制定,并为评估人工智能系统提供测试环境。该请求寻求人工智能公司和公众就生成式人工智能风险管理和减少人工智能产生错误信息的风险提供意见。
此前包括特斯拉CEO马斯克在内的多家科技公司高管,都呼吁建立人工智能监管框架,防范其对人类文明可能造成的风险。拜登10月份签署的人工智能行政命令涵盖层面广泛,包括建立人工智能安全新标准、保护美国民众隐私、推动平等和民权、保护消费者和工人、促进创新和竞争,确保美国在全球人工智能竞赛中处于领先位置。
这项行政命令还援引美国《国防生产法》,要求科技公司研发任何可能危及美国国家安全、经济安全、公共卫生安全的人工智能系统时,必须告知美国政府。