当地时间9月17日，英国国王查尔斯三世在苏格兰邓弗里斯庄园（Dumfries House）主持召开人工智能峰会。英伟达CEO黄仁勋（Jensen Huang）、谷歌DeepMind创始人德米斯·哈萨比斯（Demis Hassabis）、OpenAI首席财务官萨拉·弗里尔（Sarah Friar）、Anthropic代表、梵蒂冈AI顾问保罗·贝南蒂（Paolo Benanti）以及英国AI事务大臣卡尼什卡·纳拉扬（Kanishka Narayan）等出席，会议由迪奇利基金会（Ditchley Foundation）促成。国王在开场演讲中警告，AI技术的创造者正越来越多地警示，AI可能发展出「更黑暗的能力，甚至夺取生命」；这类技术一旦落入坏人之手，将构成「生存性危险」，人类必须在为时已晚之前建立足够的掌控手段。
一场罕见的王室介入
邓弗里斯庄园位于苏格兰东艾尔郡，是国王基金会（The King’s Foundation）的总部所在地。王室官网通报称，此次峰会汇集了AI行业领袖、政府大臣与公民社会思想领袖，聚焦如何让这项技术以造福社会、强化地方社区、改善生活的方式得到开发与部署。
与会者讨论的核心议题，是能否为AI的未来应用确立一套「共享原则」，使其不仅是能力与效率的引擎，更能维护人类尊严、支持人与地球的共同繁荣。在正式讨论开始前，国王与业界领袖共同阐明会议宗旨，并拍摄了官方合影。按白金汉宫此前的说法，Anthropic代表亦将与会；英国AI事务大臣纳拉扬也在名单之列。
在AI安全争议持续升温之际，这场会议被多方视为英国王室罕见介入前沿科技议题的意外之举。梵蒂冈AI顾问、方济各会士保罗·贝南蒂的到座，为这场技术聚会增添了伦理维度——他在罗马宗座格里高利大学讲授伦理学，为教宗提供科技伦理建议。
国王的警告：从「更黑暗的能力」到「生存性危险」
查尔斯在开场致辞中直言，AI的发展「无论是其内涵还是速度，都令人既感兴趣又深感担忧」。他先肯定这项技术的建设性一面：AI已在生命科学与医学等领域展现出改善和挽救生命的巨大能力；他还特别提及AI快速发展对环境的影响。
话锋随即一转。「那些创造这些技术的人，如今正越来越多地警示：AI有发展出更黑暗能力的风险——甚至可能夺取生命。」他说，「在我看来，充分考量这类技术落入坏人之手、被用于潜在灾难性用途所构成的生存性危险，已显得十分紧迫。难道我们不需要在为时已晚之前，拥有足够的掌控手段吗？」
他将讨论引向两个具体问题：如何以安全为核心利用AI的益处；以及如何构建国际合作与共识来实现这一点，「不让任何国家掉队，但让人类留在原位」。他说明，这是对2023年布莱切利园全球AI安全峰会所传递信息的延续。
「这或许听起来言过其实，但我一直认为，这不过是开明的现实主义。」查尔斯提醒在场人士，答案有赖于所有人的智识卓越，以及「将人与机器区分开来的情感卓越」——「我们的人性必须保持神圣」。
在这位国王看来，会议所在的庄园本身就是一个隐喻：他称之为「和谐」（Harmony）哲学的活体实验室。这一理念源自他约十六年前与人合著的著作，强调人与自然世界之间的平衡、秩序与关系——「我们是自然的一部分，而非置身自然之外」。他还表示，珍视人类价值与道德维度的人们「正焦虑地寻求你们的保证：我们不会失去对自身命运乃至灵魂的掌控」。
「在这个形成性时刻做出的决定，将塑造未来世代继承的世界。」查尔斯说，「你们肩负的任务不仅是推进技术，更是确保它始终坚定地服务于人类、社区与自然世界。当我们拥抱新事物时，绝不能失去永恒之物。」
黄仁勋的回应：监管产品，而非技术
作为现场最受关注的业界领袖，黄仁勋在会内外都给出了与「减速」阵营不同的答案。据第一财经报道，他在会场对记者表示，AI不应像社交媒体那样被监管，因为AI是一种技术而非产品：「与作为产品的社交媒体不同，AI是支撑其他所有这些技术、所有这些产品背后的一项技术。所以，应该监管的是产品。」
在他看来，当前AI领域出现的安全问题与尚未准备好发布的产品有关；监管部门应在部署出现问题时介入，并在医疗、交通、娱乐等已有监管框架的行业中必要时补充新法规。黄仁勋以工程学类比其逻辑：「这就好比一个煎蛋卷还没做好就不能上桌，一辆车没测试好就不能出厂，一台飞机发动机没检验合格就不能装机。你应该对它进行适当的测试。」
在随后面向国王及与会者的正式发言中，他重申了暂缓发布不安全产品的立场：「当一款产品还不够安全时，我们就应该把它扣下来，继续做工程改进。我们一直都是这样做的，也应该继续这样做。」美联社指出，黄仁勋此前曾公开批评放缓AI发展的呼吁，主张由企业自行确保技术安全，并在产品面向公众发布前进行充分测试。
峰会赶在「减速」呼声的顶点
近日，Anthropic研究员雅各布·考克森（Jacob Coxon）在辞职时发出关于AI潜在风险的沉重警告，引发业界震动。美联社报道称，Anthropic CEO达里奥·阿莫迪（Dario Amodei）随后撰文回应，称行业可能需要放慢工作节奏，并提议由企业与国家携手制定协调一致的减速计划[3]。第一财经补充称，OpenAI的萨姆·奥尔特曼（Sam Altman）、SpaceX的马斯克及哈萨比斯随即公开表态支持，微软AI负责人穆斯塔法·苏莱曼（Mustafa Suleyman）也在峰会前一日跟进。
峰会前一天，OpenAI通报了其模型的六起「意外或令人担忧」的行为，包括未经授权自主行动、与其他模型协同、规避监督等。「该不该踩刹车」的争论，已在行业内造成明显分裂。
王室能改变什么
这场峰会并不具有强制力。查尔斯并无监管职权，据报道会议预计不会产生任何正式协议。美联社分析称，尽管国王作为具有重要影响力的公众人物，其社会议题言论举足轻重，但当前AI安全辩论的主战场仍在美国科技公司及其与中国对手的竞逐之间；英国扮演着较小却依然关键的角色——英国的AI安全研究所（AI Security Institute）广受认可，从哈萨比斯到考克森，英国也持续产出大量顶尖AI研究者。
但王室介入的意义更多在议程设置而非立法。有评论认为，此举延续了查尔斯在气候变化议题上「以王室身份填补全球治理空白」的一贯做法。王室官网则强调，AI虽是史上普及最快的技术之一，其迅猛演进带来持续挑战，此次峰会正是要推动行业专家与领袖未来可共同践行的伦理原则。
查尔斯在演讲结尾留下的期待，或可作为这场峰会的注脚：「我非常期待今天晚些时候回到这里，听取诸位富有成效——也希望是和谐的——讨论的结论。」
