近年来，人工智能技术颠覆性、跨越式突破引发通用人工智能新一轮发展热潮，全球人工智能行业实现高速增长。与此同时，人工智能引发的模型安全、劳动替代、能源消耗、生存性风险等问题凸显，全球人工智能治理进入规则构建的关键阶段。深入分析人工智能治理核心议题趋势动态，研究各国人工智能治理模式和实践经验，对于推动形成健康有序、包容普惠的人工智能发展环境、推进人工智能治理国际合作至关重要。
2024年12月27日，中国信息通信研究院（简称“中国信通院”）在“2024人工智能赋能新型工业化大会”上发布了《人工智能治理蓝皮书（2024年）》。中国信通院政策与经济研究所副所长、人工智能产业发展联盟政策法规工作组组长张春飞对报告进行了深入解读。
报告在“以人为本、智能向善”的理念指引下，基于产业链条、价值链条、全生命周期链条等底层逻辑，从What、Why、Who、How四个维度搭建了“1244”人工智能治理总体框架，对人工智能治理作全景式呈现，力求全面性、系统性、前瞻性。中国信通院持续跟踪人工智能治理焦点议题和趋势进展，期待为推进各方交流讨论、促进合作共赢贡献绵薄之力。
蓝皮书主要内容：
1. 全球人工智能治理面临复杂多变新形势。全球人工智能行业实现高速增长，在产业规模、投融资、企业数量等方面表现明显，具身智能、数字人等人工智能应用将驱动下一轮产业洗牌。通用人工智能技术飞速跃迁敲响安全警钟，幻觉难消除、场景难限定、责任难追溯等特性放大了虚假信息、隐私侵犯、网络犯罪等现实风险。同时，全新的人机交互模式开启了“人类外脑”时代，在未来发展中可能引发情感依赖、劳动替代、生存性风险等方面的人机伦理风险，不断挑战政府传统监管模式、加剧国际合作协调难度、考验供应链主体自治能力。
2. 报告提出人工智能治理框架体系。本报告从新技术革命引发的经济社会发展变革和历史经验出发，在“以人为本、智能向善”理念指引下，基于供应链条、价值链条、全生命周期链条等底层逻辑，从What、Why、Who、How四个维度搭建了人工智能治理体系框架。在梳理人工智能概念分歧、人工智能风险谱系基础上，框架从安全和发展两个维度提出四组议题，提出“要素+场景治理”“基于风险的全生命周期治理”“包容性治理”等理念思路，力求框架的全面性、系统性和前瞻性。
3. 总结提炼人工智能重点议题进展及趋势。安全侧来看，安全可控是人工智能治理的底线基础，强调全生命周期逻辑下制度回应和技术治理并进的思路，亟需对透明度、监管沙箱、红队测试、评估评测等制度、技术工具细化落地；伦理先行是人工智能治理的价值导向，需关注通用人工智能等技术发展带来的人类主体性危机，提前研判人工智能对人类生活、生产乃至生存问题带来的冲击。发展侧来看，负责任创新是人工智能治理的源头根本，国际社会共同探索应对算力供给不平衡、高质量数据集建设、开源模型生态治理等问题解决方案，为人工智能创新发展提供要素支撑；可持续发展是人工智能治理的终极要求，应围绕经济、社会和环境三个维度，协力应对数字鸿沟、能源短缺等问题，支持发展中国家开展能力建设，推动联合国2030年可持续发展目标实现。
4. 多元主体协同推进人工智能治理进程。主要经济体人工智能治理模式初具雏形，在监管模式、治理重点、实践策略等方面日益成熟完善。企业主体、专业机构、产业联盟等主体各展所长，在安全技术研发、资源共享等方面发挥关键作用。大国间围绕人工智能安全合作共识初建，各方在议程设置、规则塑造等多方面进程提速，联合国系统积极酝酿新的人工智能治理协调机制，各双多边机制推动高层次承诺向可执行政策落地。
