飞象网讯（易欢）当前，人工智能技术颠覆性、跨越式突破引发通用人工智能新一轮发展热潮，推动全球人工智能治理进入规则构建的关键阶段。中国信息通信研究院发布的《人工智能治理蓝皮书(2024 年)》指出，随着人工智能的飞速发展，人工智能领域发展不平衡、规则不健全、秩序不合理等问题日益显现，全球人工智能治理面临前所未有的挑战。并提出，未来，人类社会将迈向更深层次的智能化发展阶段，需要系统谋划、综合施策，在伦理监测、制度设计、监管模式、国际合作等方面持续改革创新。
人工智能治理面临复杂多变新形势
近一年来，大模型等新技术带动全球人工智能行业实现高速增长。从产业规模来看，受人工智能存储、服务器等基础设施市场拉动，2024年全球人工智能产业收入高速增长。据 IDC 预测，2024 年全球人工智能产业收入规模达 6421.8 亿美元，同比增长22.2%。
与此同时，人工智能技术创新需求持续加大，产业链条拉长、商业生态分化等特征显现。自 2022 年 11 月 ChatGPT 发布以来，人工智能已被应用于金融、法律、设计等多个行业。人工智能产业链条从大多数情况下由单一企业完成，发展为在开发、调优、应用等不同环节，由不同企业合作完成。围绕生态主企业构建的商业生态开始出现分化，开源与闭源、通用与专用等不同路线均呈现竞争与融合并存态势。
人工智能技术深刻变革、迅速发展的同时全球人工智能治理面临复杂多变新形势。《人工智能治理蓝皮书(2024 年)》强调，全球人工智能行业实现高速增长，在产业规模、投融资、企业数量等方面表现明显，具身智能、数字人等人工智能应用将驱动下一轮产业洗牌。通用人工智能技术飞速跃迁敲响安全警钟，幻觉难消除、场景难限定、责任难追溯等特性放大了虚假信息、隐私侵犯、网络犯罪等现实风险。
其中，在治理需求方面，人工智能安全可控和发展优先路线并存。一方面，国际社会普遍关注人工智能风险问题，将“安全、可靠和值得信赖”理念纳入多部共识文件；同时探索通过英国、韩国、法国系列人工智能峰会，推进全球安全研究网络和评估评测合作。另一方面，各国对技术发展不平衡带来的“智能鸿沟”问题表示忧虑。
多元主体协同推进人工智能治理进程
《人工智能治理蓝皮书(2024 年)》指出，为了推进人工智能治理进程需多元主体协同。主要经济体政府监管模式各异，规则落地取得实质进展。以我国为例，我国构建四大层级制度体系，初步形成三项落地举措从横向来看，我国坚持人工智能发展与安全并重，强调国家主导，涵盖顶层设计、法律制度、部门规章和技术标准四大层面，形成了由政府引导、多部门协同、公私部门合作参与的全方位治理格局。此外，已有立法为人工智能治理奠定扎实制度基础。
部门规章方面，我国人工智能治理自2017 年起至今经历了三个阶段，体现出急用先行的治理特点。标准方面，各部门围绕产业发展和风险治理出台多项人工智能标准，为企业合规提供具体指引。实践方面，我国形成监管备案、伦理审查和安全框架三个维度相互独立又紧密关联，各有侧重但相辅相成的制度保障体系。
此外，企业和专业机构等主体创新探索，形成协同共治生态圈。科技企业、技术社区、行业共同体作为人工智能研发、部署和应用第一线的先行者，通过提供技术工具、充当“资源中介”、促进信息流动以及参与国际治理等发挥重要作用。
国际人工智能治理日益深化，三大维度热点持续深化。新一轮人工智能技术创新导致治理举措急剧增加，国家、国际和区域组织等竞相发布原则、宣言、声明等，全球人工智能治理格局复杂而分散，包容性有待进一步提升。机制层面，联合国酝酿新的人工智能治理协调机制；议题层面，人工智能发展优先与风险管控路线并行；执行层面，各方推动高层次承诺向可执行政策落地。
五大对策建议加速推进人工智能治理
人工智能作为我国实施创新驱动发展战略的关键力量，是加快形成新质生产力的重要引擎。展望未来，人工智能技术带来的发展红利和全球性挑战同步显现，各国围绕人工智能评估评测、知识产权、价值对齐等加速搭建规则标准体系，人工智能治理加速迈入实践落地和国际合作的关键窗口。
蓝皮书也对加速推进人工智能治理提出了五点建议：一是深化落地人工智能协同敏捷治理模式探索敏捷治理理念，建立灵活性、全面性制度框架，推动人工智能高质量发展和高水平安全实现良性互动。二是系统监测预警人工智能伦理社会影响为有效应对具身智能、数字人等应用带来的情感依赖、劳动替代等伦理挑战，应对相关伦理影响进行系统监测预警。三是围绕要素和场景细化负责任创新方案面对人工智能带来的制度性挑战，针对产业链各环节，坚持“小步快跑”“边发展边治理”的制度路径具有重要现实意义。四是立足于全生命周期优化安全技术工具人工智能治理既需要完善治理理念与规则，也需要优化治理手段与能力，进一步更新丰富治理工具箱。五是加速落地全球人工智能能力建设方案人工智能治理攸关全人类命运，是世界各国面临的共同课题，应积极参与并推动国际合作治理。
