Anthropic上市当天遭抗议,离职研究员呼吁必须关闭这项AI技术

来源:凤凰网 #AI 安全# #RSI# #人工智能#
784

北京时间11月20日,据美媒《旧金山标准报》(The San Francisco Standard)报道,Anthropic前研究员雅各布·考克森(Jacob Coxon)在该公司IPO当天现身旧金山总部外,向现场抗议者公开呼吁,禁止人工智能系统进行递归自我改进(Recursive Self-Improvement,简称RSI)。

考克森在现场表示:“他们应该禁止RSI,关掉它。”

他还对抗议者说:“这里每来一个人,就有数十万人如果知道正在发生什么,也会来到这里。而这样的人有数百万。”

RSI即递归自我改进,是指人工智能系统通过改进自身的算法、模型或研发流程,进一步提升自身能力,并利用提升后的能力继续进行下一轮优化。这一机制被认为可能加速AI能力发展,同时也引发外界对人工智能系统失控风险的担忧。

考克森此前已从Anthropic离职。此次他公开要求禁止RSI,反映出围绕先进AI系统自主改进能力及安全边界的争议。

责编: 集小微
来源:凤凰网 #AI 安全# #RSI# #人工智能#
THE END
关闭
加载

PDF 加载中...