OpenAI奥特曼:AI收益巨大,社会应接受部分风险

来源:爱集微 #AI监管# #openai# #人工智能治理#
1036

OpenAI首席执行官萨姆·奥特曼在采访中表示,在人工智能监管问题上,OpenAI与竞争对手Anthropic的底层世界观仍有根本分歧。他认为,AI带来的巨大价值,足以让社会承担一部分风险,同时这项技术应当持续向公众广泛开放。

当被问及他与Anthropic及其首席执行官达里奥·阿莫代的核心分歧时,奥特曼称:“双方的理念差距很大。”他说,OpenAI的看法是,为了获得这项技术带来的益处、保障人们拥有自主使用权,世界应当接受部分坏事发生。

长期以来,Anthropic是AI行业中最积极主张监管的力量之一,这一立场曾与OpenAI倾向轻监管的主张相冲突。不过近几个月,两家头部AI企业在政策层面的分歧有所缩小。在接连发生引发关注的黑客事件、模型出现异常行为后,OpenAI开始支持更严格的监管规则。

奥特曼认同阿莫代上月提出的放缓最前沿大模型研发节奏的观点。OpenAI也效仿Anthropic,支持美国部分州出台新法案,设置比ChatGPT开发商此前支持标准更严格的安全要求,显示其州级监管策略出现微妙转向。OpenAI的政策游说人员近期还支持一项众议院两党提案,要求头部AI企业引入外部安全评估人员。

尽管双方立场逐渐靠近,奥特曼仍试图划清两家公司在监管思路上的界限。他提到,特朗普总统身边的科技顾问曾批评Anthropic存在监管俘获问题。

奥特曼说:“我并不认同这种看法,但我理解一部分人的观点:这项技术会变得威力极强、风险极高,所以应当由旧金山的一家实验室掌握它,确保不会发生任何坏事,再由实验室决定如何分配技术红利。”他认为,这种取舍完全不可接受,也违背OpenAI支持的轻监管思路。

“我不会接受这样一种交易:我们要保证不会出现重大黑客攻击、技术滥用、零诈骗,杜绝所有可能发生的各类坏事。”奥特曼说,“因为我相信,人类利用AI创造的善举,在数量级上将远远超过它带来的危害。”他随后补充,自己并不接受真正灾难性的风险,包括AI可能造成的严重失控局面。

Anthropic发言人回应称,该公司的监管提案仅适用于前沿模型。公司还引用阿莫代8月与一名投资经理在社交平台上的对话,回应外界关于监管俘获以及监管政策冲击小型企业的批评。阿莫代当时表示:“Anthropic在制定政策提案时一直十分审慎。我们竭尽全力设计方案,在约束前沿AI巨头的同时,为小型竞争对手创造有利条件。”

责编: 张轶群
来源:爱集微 #AI监管# #openai# #人工智能治理#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...