10 月 27 日消息，综合 CNBC、路透社等报道，当地时间周四，英国首相苏纳克宣布计划成立世界上第一个 AI 安全研究所，并于 11 月 1-2 日举行 AI 安全峰会。此次峰会将汇聚世界各国 AI 公司、政府、民间团体和相关领域专家，旨在讨论如何通过国际协调行动来降低 AI 带来的风险。
苏纳克在演讲中表示，这个即将成立的研究所将推动世界对 AI 安全的认识，并将对新型 AI 技术进行仔细研究、评估与测试，以便了解每种新模式的能力，并探索从“偏见和误导”等社会危害到“最极端风险”的所有风险。
苏纳克称，“AI 可以让制造化学或生物武器变得更容易，但这项技术也会被犯罪分子所利用。在最不可能但最极端的情况下，人类甚至有可能通过有时被称为超级智能的 AI，在 AI 面前完全失控。”
此外，在下周举行的 AI 安全峰会上，苏纳克将提议成立一个“真正全球化的专家小组”—— 该小组的成员由与会国家和组织提名，届时还将发布一份 AI 科学现状报告。
另据IT之家此前报道，英国反垄断监管机构 CMA（竞争与市场管理局）上个月提出了管理 AI 模式的新标准，涵盖了问责、访问和透明度等事宜。CMA 当时公布的监管原则中，包括 AI 开发人员和部署人员应对输出内容负责、不得从事反竞争行为等内容。
