让每一句人机对话都安全可信,让每一次智能交互都风险可控——这是属于AI时代的安全承诺。
—— 启明星辰
近年来,随着生成式人工智能、深度合成等新技术的迅猛发展,AI生成合成内容在给人们带来便利的同时,也引发了滥用生成合成技术、虚假信息传播扩散加剧等问题。例如,2025年1月,西藏日喀则地震期间,一张被压在废墟下的儿童图片被大量转发,但实际上该图片是AI生成的,并非真实灾区影像。
AI合规新时代:《标识办法》与强制国标出台
为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,国家网信办、工信部、公安部、广电总局联合发布了《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行。
《标识办法》明确,人工智能生成合成内容(文本、图片、音频、视频等)信息需要进行标识,可采用显式标识和隐式标识两种形式。
强制性国家标准《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识标准》)提出具体实施方式和操作方法,同《标识办法》两者同步发布,于2025年9月1日同步实施,更好地指导相关主体规范开展强制标识活动。
《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》为人工智能生成合成内容服务提供者和网络信息内容传播服务提供者提供编码规则,指导其开展人工智能生成合成内容的文件元数据隐式标识工作。
●显式标识:以文字、声音、图形等直观方式呈现,让用户一眼就能辨别内容是否由AI生成;
●隐式标识:隐藏在文件数据中,虽不易被用户察觉,但能详细记录生成、传播的全链路信息,为内容追溯提供有力支持。
这一举措旨在通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,推动人工智能健康有序发展。
大模型应用内容合成水印系统:应运而生的合规利器
面对《标识办法》、《标识标准》带来的合规挑战,企业在使用大模型生成内容时往往感到无所适从。如何确保生成的内容符合标识要求?怎样在复杂的业务场景中快速、准确地嵌入标识?如何满足强制合规管理要求?这些问题成为了企业亟待解决的痛点。
为了帮助机构应对这些挑战,启明星辰凭借在数据安全领域的深厚积累和技术优势,重磅推出了大模型应用内容合成水印系统(Model Application Content Compose Watermark System,MACCW)。这是一款面向企业机构,用于企业用户使用、应用调用各种大模型时,对大模型生成的内容进行合规标识嵌入的产品。该产品基于《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》等要求设计,通过标准化SDK/API能力,帮助大模型应用方在生成、传播AI内容时,自动嵌入显式与隐式标识,确保内容可追溯、可鉴别,满足数据安全与合规监管要求。
产品定位:满足企业合规刚需
在《标识办法》、《标识标准》的严格要求下,大模型人工智能应用方服务提供方需要确保生成的每一段文本、每一张图片、每一段音频和视频都符合标识标准。MACCW定位于对于企业用户,尤其是那些依赖大模型人工智能生成合成进行内容生产生成与传播的企业,无缝对接企业现有的大模型AI应用架构,统一处理帮助企业轻松应对内容标识嵌入的合规挑战,防止人工智能生成合成的内容无标识扩散和传播。同时对于政府用户,尤其是有面向公众提供政务服务的单位和机构,也能够加强人工智能生成合同内容进行政务服务的标识“把关”。
核心价值:合规、安全、可追溯、即接即用
●合规遵从:系统严格遵循《标识办法》、《标识标准》等相关要求,确保企业生成的AI内容在标识方面完全符合国家标准 ,避免因合规问题而面临的处罚和声誉损失。
●数据安全:为企业AI生成内容加上了一层坚固的“安全锁”。显式或隐式标识中记录的生成、传播全链路信息,就像内容的“身份ID”,一旦出现数据泄露或滥用等安全事件,企业可以迅速通过这些信息进行追溯,查明问题源头。
●行为可溯:详细记录每一次水印动作,对每次人工生成的行为进行记录。
●即接即用:系统提供标准的API、SDK接口,能够同使用大模型的业务系统、大模型一体机、chatbot工具快速结合,降低用户开发接入成本,助力企业快速合规。
产品创新
MACCW实现“生成即标识、流转可追溯”的创新模式,通过智能嵌入技术、全链路追溯及场景化智能适配技术,构建多模态AI生成内容的全生命周期自动化合规体系,实现高效可鉴别、抗篡改的监管闭环。
●多模态智能嵌入:首创多类型内容(文本/图片/音视频/虚拟场景)统一标识框架,支持显式标识动态位置适配(如文本首尾角标、图片智能留白区域嵌入),确保用户体验与合规性的平衡。
●全链路数据水印:突破传统元数据嵌入方式,采用分层隐式标识技术,在文件元数据层植入专属扩展字段(如来源、属性、用途、版权等),同时在内容数据层进行特征指纹编码,实现“生成 - 传播 - 使用”全生命周期追溯。
●自动化合规校验:构建AI驱动的合规校验系统,实时检测显式标识格式(位置/内容/形式)与隐式标识完整性,通过规则引擎自动触发预警机制,并生成可追溯的审计日志链,支持监管机构穿透式核查。
●场景化智能适配:开发动态模板库技术,基于业务场景(如智能客服对话流、文生图创作工具)自动匹配最优标识策略,结合生成内容特征(如图片分辨率、文本长度)实现参数智能调优,降低企业 80% 以上的配置成本。
产品功能
1、显式标识嵌入:清晰告知内容来源
MACCW针对AI生成的文本、图片、音频、视频、虚拟场景等各类内容,按照《标识办法》、《标识标准》的要求添加用户可见的显式标识。在文本内容方面,支持在文本的起始位置、末尾位置或中间适当位置添加文字提示或角标形式的标识。
2、隐式标识嵌入:深度嵌入内容信息
在文件元数据或内容数据层嵌入不可见标识,详细记录生成、传播全链路信息 。以文件元数据隐式标识为例,MACCW会按照《标识办法》、《标识标准》要求,在文件元数据中添加隐式标识扩展字段,字段名称或关键词包含“AIGC”。隐式标识扩展字段的值为符合特定格式的字符串,其中包含生成合成标签要素、生成合成服务提供者要素、内容制作编号要素、内容传播服务提供者要素、内容传播编号要素等关键信息。
3、合规性校验与审计:为企业合规自查提供有力支持
MACCW提供了全面的标识完整性校验功能,能够自动检查标识是否符合标准,包括显式标识的形式、位置、内容,以及隐式标识的字段格式和内容等,如果发现标识存在问题,系统会及时发出预警,提醒企业进行整改,同时具备日志记录与审计能力,它会详细记录每一次标识嵌入的操作信息,包括时间、内容类型、生成合成服务提供者、内容传播服务提供者等。
4、多场景合规适配:灵活应对各种AI生成场景
不同AI生成场景对标识要求各异,MACCW为此预置合规标识模板。智能对话场景,像智能客服与用户交互时,它在对话文本附近持续显示提示文字,让用户辨明AI回复。文生图场景,用户用大模型生成图片,MACCW依图片尺寸和内容,自动选位添加显式标识,保证风格协调。企业借助这些模板,无需单独复杂配置,降低使用成本,提高合规效率,可快速将其应用到各类业务场景。
核心能力
1、智能适配引擎:智能识别,精准嵌入
MACCW的智能适配引擎能够自动识别AI生成内容的类型。当一段文本、一张图片、一段音频或视频输入到MACCW中时,智能适配引擎能够迅速准确地判断其类型,然后根据不同的内容类型和尺寸,动态调整标识的位置,大大提高标识嵌入的效率和准确性,让企业无需为不同类型的内容分别进行复杂的配置,真正实现了“一键式”的标识嵌入操作。
2、双模式嵌入:实时与离线的灵活选择
MACCW提供双模式嵌入能力,为企业提供灵活、高效的解决方案。
●实时嵌入模式:与大模型API同步调用,在AI生成内容的瞬间,迅速将标识嵌入其中 。当企业的智能客服与用户进行实时对话时,MACCW的实时嵌入模式能够立即对客服回复的内容添加标识,确保每一次对话都符合合规要求,让用户在第一时间了解内容的来源。
●离线批量嵌入模式:适用于企业需要对大量已生成的内容进行集中打标的场景。企业可以将存储AI生成内容的文件夹或数据库连接到MACCW,通过离线批量处理模式,一次性对其中的所有内容进行标识嵌入。
3、强鲁棒性技术:保障标识安全可靠
MACCW采用强鲁棒性技术,具备抗压缩、抗篡改、抗转换的能力,为标识的安全可靠提供了坚实的保障。比如,经过MACCW嵌入标识的图片,即使经过多次压缩,标识依然清晰可辨,确保了标识在各种复杂环境下都能稳定存在,有效避免了因标识丢失或损坏而导致的合规风险。
部署场景
1、方式一:对接私域大模型/一体机
MACCW采用旁路方式接入用户网络,并为私域大模型/一体机提供数据水印能力,实现大模型生成合成内容自动标识,如下图所示:
私域大模型/一体机部署安装MACCW的水印SDK或调用MACCW的API接口,当大模型生成合成内容后,通过MACCW生成内容进行自动标识,再提供给用户或大模型业务服务系统进行使用。
2、方式二、对接大模型业务服务系统
MACCW采用旁路方式接入用户网络,并为用户大模型业务服务系统提供数据水印能力,实现大模型生成合成内容自动标识,如下图所示:
大模型业务服务系统部署安装MACCW的水印SDK或调用MACCW的API接口,当业务系统从公域大模型、私域大模型/一体机获取生成合成内容后,通过MACCW生成内容进行自动标识。
3、方式三:对接大模型访问脱敏罩
MACCW采用旁路方式接入用户网络,通过与大模型访问脱敏罩结合,实现用户与大模型之间数据上传、数据生成、数据防护的全方位安全保障,如下图所示:
●用户访问大模型时,对用户输入数据(文本提示词)或上传文件自动识别敏感信息,并对敏感数据自动脱敏处理,避免用户隐私泄漏;
●大模型生成合成内容通过MACCW自动添加标识,满足合规需求,同时对生成内容追踪定位。
未来展望:携手共进,迎接AI合规新未来
启明星辰大模型应用内容合成水印系统的推出,为企业在AI生成内容合规领域提供了强有力的支撑,具有重要的意义和价值。它不仅帮助企业满足了《标识办法》、《标识标准》的合规要求,降低了法律风险,还提升了企业对AI生成内容的管理能力,增强了内容的可信度和安全性。
●助力合规达标:帮助企业满足国家相关合规要求,降低合规风险。
●风险监测预警:实时监测和预警大模型应用过程中的安全风险,及时采取应对措施。
●支撑业务创新:在保障数据安全和合规的前提下,为企业大模型应用提供了有力支持,促进业务的高效开展和创新发展。
●守护品牌声誉:避免因数据泄露或违规行为导致的声誉损失。
在未来,随着AI技术的不断发展和应用场景的日益丰富,合规挑战也将不断变化。启明星辰将继续秉持创新精神,不断优化和完善大模型应用内容合成水印系统,提升其性能和功能,以适应不断变化的合规需求。同时,启明星辰也期待与更多的企业客户携手共进,共同探索AI合规的最佳实践,分享经验和成果,共同应对AI发展带来的各种挑战。
