20家单位联合发布《智能体发展自律公约》:抵制算法压榨与黑灰产,为智能体立规矩

来源:爱集微 #智能体# #自律公约# #行业治理#
225

一、八条自律措施,勾勒智能体治理框架

11月4日,2026年世界互联网大会乌镇峰会“智能体互信互联互操作全球合作创新——携手构建智能互联网论坛”上,《智能体发展自律公约》(以下简称《自律公约》)正式发布。该公约由中国信息通信研究院(简称“中国信通院”)、华为、腾讯、蚂蚁、阿里、抖音等20家单位联合发起。

据中国信通院方面介绍,《自律公约》是在中国网络社会组织联合会组织下,由中国信通院联合腾讯、蚂蚁、阿里、抖音、华为、荣耀、OPPO、小米、百度、度小满、亚信科技、中移互联网、长安通信、深信服、奇安信、三六零、深演智能等20家智能体生态主体单位共同起草并对外发布,参与方涵盖国内多家头部互联网与科技企业,被视为落实《智能体规范应用与创新发展实施意见》中“强化行业自律”工作部署的落地举措。发布会消息公布后,证券时报、中国青年报、中国财富网等多家媒体进行了同步报道。

《自律公约》共提出八条自律措施:一是健全智能体信任体系,二是建设智能体互联基础设施,三是提升智能体互操作水平,四是提升智能体安全防护能力,五是健全智能体治理机制,六是保护智能体用户权益,七是加速智能体赋能千行百业,八是推动智能体技术普惠共享。

公约序言写明,智能体是人类智慧的延伸,是增进人类福祉、促进社会进步和可持续发展的工具;制定公约旨在促进智能体互信、互联、互操作,推动规范应用与创新发展,构建开放、可信、安全、普惠的智能体生态,发起单位自觉接受行业组织和社会监督。公约同时明确,将根据行业发展和政策法规变化定期评估、适时修订,以确保公约的时效性与适用性。

在技术层面,公约第一条提出建立分层次、可验证的智能体身份标识,完善智能体身份验证与管理、权限授予与控制、规则表达与内嵌等机制,降低智能体互信的技术门槛,为构建智能体生态建立“信任锚点”。

二、直面公众关切:安全、责任与用户控制权

围绕公众对智能体安全风险、用户控制权等层面的担忧,《自律公约》均作出直接回应。

针对智能体出事后的责任划分问题,公约第四条写明,要“健全前瞻性风险评估、运行监测、行为管控、异常熔断等技术体系,努力保障模型、插件、技能来源可靠,共建风险信息共享与联合处置机制”,持续防范人工智能内生缺陷与外部攻击引发智能体越权操作、隐私泄露乃至行为失控等安全风险,打造安全可控的产品服务。

公约第五条提出,积极发展规则表达与内嵌、合规性测试等技术,确保智能体行为遵守法律法规、公序良俗,共同抵制利用智能体实施算法压榨、黑灰产等行为,持续构建健康向善的发展秩序。

就用户能否保有对智能体控制权的问题,公约明确要保障用户知情权、选择权和对重要事项的最终控制权,防范个人信息滥用、过度迎合、认知操纵,加强未成年人、老年人等特殊群体保护,培育用户健康使用素养;同时不断提升智能体公平性与可及性,保障用户在智能体时代平等享有发展权。

三、互联互通:降低跨域协作壁垒

对不同厂商智能体能否互通协作的问题,公约第二条提出共建可互联的基础设施,发展智能体注册与解析、能力描述与发现、意图理解与转换、网络路由与连接、资源调度与计量、协议兼容与互认等技术与标准,不断降低智能体跨域发现连接成本,支撑智能体互联协同。第三条进一步明确,在合法合规、守牢安全底线前提下,尊重各方知识产权与正当权益,坚持开放协作、平等协商,深化能力开放与接口适配、任务委托与协同执行、分类分级授权与行为边界、权利义务与责任划分等机制,有序降低智能体互操作壁垒。

互联互通之所以被置于突出位置,与智能体协作的现实瓶颈直接相关。此前报道指出,智能体互联网建设至少要闯“身份关、发现关、互通关、协同关、安全关”五道关,需要为每个智能体建立唯一标识、可信认证和动态授权机制,解决不同模型、框架和平台之间协议及语义不一致等问题。中国信通院工业互联网与物联网研究所互联网研究部主任李炳奇表示,智能体互联网就是让分散的智能能力能够按需组合,推动AI从单点应用迈向网络化协同。

从制度供给看,市场监管总局已于2026年5月批准发布《人工智能 智能体互联》系列7项国家标准,作为我国首个针对智能体互联的国家标准体系,围绕破解“信息孤岛”核心目标,覆盖总体架构、身份码与身份管理、智能体描述与发现、智能体交互与工具调用等核心环节。中国信通院此前还联合政产学研多方代表发布《智能体互联互通协同发展与治理倡议》,构建“可连接—敢协同—可持续”的发展路径,并发起《互联网智能体行为规范倡议》,呼吁行业主体落实智能体身份管理、坚持依法合规运营、保障用户权益确权、共建产业标准体系。此番《自律公约》发布,是行业自律共识的又一次递进。

四、政策脉络:自律并非孤例

近两年,智能体治理的制度框架正加速成形。2025年8月,国务院发布《关于深入实施“人工智能+”行动的意见》,推动人工智能与经济社会各行业各领域广泛深度融合。2025年9月,《人工智能安全治理框架》2.0版在国家网络安全宣传周主论坛发布,治理原则上增加“可信应用、防范失控”,强调AI应始终处于人类控制之下。

2026年5月,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,指出智能体高自主性、高权限等特性带来了隐私泄露、越权操作、行为失控等安全风险,把智能体安全、可靠、可信确立为产业发展的底线要求,并强化行业自律与智能体全流程风险管控。《自律公约》正是对这一部署的呼应。

五、风险底色:为何此时强调“安全”与“向善”

风险担忧并非空穴来风。有安全治理研究指出,AI智能体的安全风险贯穿感知层、决策层、存储调用层与执行层四个层面,且具有显著的层级传导特性,单一环节的漏洞即可沿“感知失真—决策误判—执行失控”的路径放大危害。

开源智能体工具的安全事件也在敲响警钟。工信部监测发现,OpenClaw开源AI智能体部分实例在默认或不当配置情况下存在较高安全风险,极易引发网络攻击、信息泄露等安全问题。中国信通院副院长魏亮分析指出,此类智能体更新迭代极快,官方最新版本虽修复了已知漏洞,但不意味着安全风险被彻底消除;其具有自主决策和调用系统资源等高权限特点,系统信任边界模糊,技能包市场缺乏严格安全审核,用户一旦使用被植入恶意代码的第三方技能包,便可能面临核心数据泄露甚至整个系统被黑客控制的危机,应遵循“最小权限、主动防御、持续审计”的安全防护原则。

与此同时,智能体产业正进入爆发期。国家数据局数据显示,2024年初中国日均Token调用量为0.1万亿(1000亿),至2025年底跃升至100万亿,2026年3月已突破140万亿,两年增长超千倍。国际数据公司(IDC)发布的行业首份《DAA研究报告》显示,全球活跃Agent数量2025年约为0.286亿个(即2860万个),预计2026年达到0.794亿个,2030年将增长到22.16亿个。

【图表:全球活跃Agent数量及预测】

解读:全球活跃Agent数量呈高速增长态势,2026年预计为2025年的约2.8倍,2030年较2025年有望增长约77倍。智能体规模化落地持续提速,与之伴生的安全与治理需求也在同步放大,这正是《自律公约》此时出台的产业背景。

【图表:中国日均Token调用量变化】

解读:从2024年初的0.1万亿到2026年3月的140万亿,中国日均Token调用量两年多增长约1400倍,印证AI正从“聊天”走向“干活”。有分析指出,智能体每完成一项真实任务需多次调用大模型并查询航班、酒店等各类数据,Token消耗可达简单问答的10倍、100倍甚至1000倍。任务执行能力越强,越权操作、行为失控的潜在影响面也越大,安全与治理要求随之水涨船高。

六、结语:从公约文本到生态实践

值得注意的是,《自律公约》并非只有约束。第七条提出坚持服务实体经济,发展低门槛智能体开发部署工具,合作研发面向真实作业场景、创造实际价值的智能体,推动智能体嵌入现有生产系统和业务流程;第八条倡导推动智能体技术普惠共享。约束与发展并重,是该公约区别于单纯“负面清单”的特点。

下一步,各发起单位将带头落实《自律公约》约定,主动接受行业组织和社会公众监督,同时欢迎智能体生态中各类主体积极参与公约建设,共同营造开放、可信、安全、普惠的智能体生态。

有行业人士看来,作为一份行业自律文件,《自律公约》的约束力有赖于发起单位的持续落实与外部监督,其对算法压榨、黑灰产等行为的治理成效,仍有待后续实践检验。但可以确定的是,随着智能体加速融入经济社会体系,“先立规矩、再跑快车”正在成为中国智能体产业的共识路径。

责编: 爱集微
来源:爱集微 #智能体# #自律公约# #行业治理#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...