2月8日,拜登政府表示,200多家实体加入了一个新的美国联盟,以支持生成式人工智能的安全开发和部署,其中包括领先的人工智能公司。
美国商务部长吉娜·雷蒙多宣布成立美国人工智能安全研究所联盟(AISIC),其中成员包括OpenAI、Alphabet旗下的谷歌、Anthropic、微软、Facebook母公司Meta,以及苹果、亚马逊、英伟达、英特尔、摩根大通和美国银行等。
雷蒙多在一份声明中表示:“美国政府在制定标准和开发我们需要的工具方面可以发挥重要作用,以减轻风险并利用人工智能的巨大潜力。”
该联盟成员还包括高通、思科、IBM、惠普、万事达卡、Visa、英国石油、诺思罗普·格鲁曼,以及主要学术机构和政府机构,将隶属于美国人工智能安全研究所(USAISI)。
这一组织的任务是执行美国总统拜登去10月的人工智能行政命令中概述的优先行动,“包括制定“red-teaming(红队)”、能力评估、风险管理、安全保障以及对合成内容加水印的指导方针。”
据报道,主要的人工智能公司去年承诺为人工智能生成的内容加水印,以使技术更安全。多年来,“red-teaming”一直被用于网络安全领域,以识别新的风险,这个术语指的是美国冷战模拟,其中敌人被称为“red-teaming”。
拜登的命令指示各机构制定测试标准,并解决相关的化学、生物、放射性、核和网络安全风险。去年12月,美国商务部表示,其正在为编写安全部署和测试人工智能的关键标准和指南迈出第一步。
目前,拜登政府正在寻求人工智能保障措施。然而,尽管有许多高层论坛和立法提案,国会通过有关人工智能的立法的努力却陷入停滞。
美国商务部表示,AISIC联盟代表了最大的测试和评估团队集体,将专注于为“人工智能安全的新测量科学”奠定基础。
(校对/张轶群)