📋 监管动态 | 2026-06-20 | 转载自 国家网信办

国家网信办就《生成式人工智能服务管理办法(修订征求意见稿)》公开征求意见

政策背景与发布意义:从“野蛮生长”迈向“有序治理”

国家网信办就《生成式人工智能服务管理办法(修订征求意见稿)》公开征求意见,这标志着我国对生成式AI的监管正从宏观框架走向场景化、精细化治理。此次修订特别聚焦智能客服这一高频应用场景,直击当前AI“幻觉”频发、虚假信息传播等痛点。其核心意义在于:既要为技术创新留出空间,又必须为公众信息安全和市场秩序划出“红线”。这是监管部门在AI产业爆发期及时亮出的“信号灯”,对于引导行业合规发展、防范技术滥用具有里程碑意义。

政策核心内容:标识义务与责任界定的“双刃剑”

修订稿的核心要点可概括为“可追溯、可问责”。首先,新增的“标识义务”要求智能客服等场景下,AI生成内容必须做出明确标注,这直接冲击了当前部分企业利用AI冒充人工客服、隐匿对话来源的灰色操作。企业不能再将AI对话“包装”成人工服务来规避责任。其次,对呼叫中心等应用方提出的“对话记录留存不少于6个月”要求,本质上是通过数据存证倒逼企业建立全流程风控体系。一旦发生虚假信息传播或用户权益纠纷,监管方和消费者都能调取原始记录进行追责,企业的技术“黑箱”操作空间将被极大压缩。

对企业的影响:短期成本承压,长期合规红利显现

对于大量依赖智能客服的电商、金融、通信等行业企业,政策将带来显著冲击。一方面,技术改造成本增加——企业需要升级AI系统以嵌入内容标识模块,并建立符合标准的日志存储与加密系统。另一方面,法律责任边界更加清晰:若AI生成虚假广告、误导性金融建议或侵权内容,企业作为服务提供方将难辞其咎。但长远看,这反而能淘汰那些依靠“AI话术陷阱”牟利的低质竞争者,倒逼行业从拼“话术数量”转向拼“服务质量”。合规企业可通过留存数据优化AI模型,将监管约束转化为用户信任资产。

企业应对建议:构建“技术+管理”双合规体系

面对即将落地的监管要求,企业应尽快启动三项行动:第一,立即开展合规审计,梳理现有AI客服的对话生成逻辑,确保所有输出内容实现显性化标识,并建立与留存期限匹配的数据归档系统。第二,重构责任机制,在AI服务协议中明确标注“AI生成内容”免责条款,同时设立人工审核抽查流程,对高风险对话(如涉及金融、医疗、法律咨询)进行实时干预。第三,主动拥抱合规红利,将留存数据用于AI模型训练,通过分析用户投诉与纠错记录,反向提升生成内容的准确率。唯有将合规视为核心竞争力而非负担,企业才能在监管收紧的浪潮中立于不败之地。

本文由科讯软件AI政策分析师综合整理

原文参考:国家网信办

← 返回行业政策列表

立即咨询