11月21日，2024 年世界互联网大会乌镇峰会人工智能负责任开发与应用论坛举行。安恒信息董事长范渊发表《人工智能技术与应用的安全可靠和健康发展》主题演讲。在范渊看来，新一代人工智能技术，不仅仅是人机交互体验、协作的革命，更是专家经验传承的一次变革。在网络安全、数据安全领域，AI正在重构安全工作协同关系，助力安全产业发展和行业应用价值化呈现，引发行业质变。我们应该以工具视之、以工具用之、以工具治理之。
范渊指出，安恒信息依托多年来积累的技术和实践经验，做了诸多有益探索。
一方面，智能体+安全运营，可以实现运营工作提质增效。2023年8月，恒脑安全垂域大模型首次发布后，在杭州亚运会期间投入实战应用，凭借“精准”和“高效”的双重优势，恒脑的自动化研判机制显著提升告警分析效率，进一步降低了人力投入。依靠安全大模型和智能体的赋能，安恒信息恶意软件检测迅速实现了行业领先，在国家计算机网络应急技术处理协调中心公布的 2024 年人工智能技术赋能网络安全应用测试结果中，安恒信息在恶意软件检测场景排名第一。
另一方面，智能体+数据安全，可以实现安全与业务的完美融合。例如，数据分类分级借助 AI 对行业和业务特性的理解，将数据分类分级效率提升30倍，并在政府、运营商、教育、医疗、企业、金融、交通、公安、烟草等行业实现全面覆盖，彰显出AI 在数据安全领域的强大力量。
范渊还强调，人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应。当前，鼓励人工智能创新发展仍是第一要务。但随着 AI 技术深入场景，安全事件频发，例如大模型敏感数据泄露、歧视内容输出、虚假内容生成等风险问题等。如何能够让人工智能的发展始终沿着我们希望的轨道前进？轨道的微调、轨道的预判、轨道的规则变得非常关键。因此，在加速技术应用“虚实共进”，变“Chat”为“Product”的同时，要确保人工智能安全、可靠、可控。
为此，安恒信息创新性提出人工智能领域的安全治理实践路径。首先是做好隐私计算。数据是大模型的燃料，隐私计算是数据的安全阀门。安恒恒隐·隐私计算平台首批获得了中国信通院面向大模型的可信执行环境产品专项测试证书，为数据的“可用不可见，可训不可见”提供实践途径。
其次，加快建立人工智能安全监管和评估体系。例如，恒脑智鉴，基于五大核心大模型风险检测能力，采用精细化风险评估方法，配备多种检测手段和大量测试用例，构建了AI基础设施、模型算法、应用服务的全链路风险评估体系，可覆盖了12大类、40多个不同类型、2000多种不同的风险。
最后，范渊提出，面向未来，安恒信息将持续开展大模型安全研究，致力于让模型可控、不越界。期待各方以开放和包容的心态迎接新技术的到来，肩负起引导其健康发展的重任，共同探索AI与人类的命运共同体，确保技术进步能够促进社会的发展进步，真正实现“人机”和谐共存的美好愿景。
