大型语言模子(LLM)提供商OpenAI和Anthropic日前与美国国家标准与手艺研究院(NIST)下属的美国人工智能清静研究所(AISIC)签署了一份协议
，妄想在包括测试和评估在内的AI清静研究方面开展相助
。

作为协议的一部分
，Anthropic和OpenAI都将在向公众宣布他们的新模子之前与AISIC共享
，以便举行清静检查
。

AISIC认真人Elizabeth Kelly在一份声明中体现：“有了这些协议
，我们期待着与Anthropic和OpenAI开展手艺相助
，配合推进AI清静科学的生长
。”

这些协议是在美国总统乔·拜登通过一项行政下令近一年后告竣的
，这项下令为AI的开发和使用制订了一系列周全的标准、清静和隐私；ひ约凹嗍硬椒
。

NIST在7月初宣布了一个名为Dioptra的新开源软件包
，允许开发职员确定哪种类型的网络攻击会降低AI模子的效率
。

别的
，NIST还凭证行政下令宣布了几份增进AI清静和标准的文件
，包括其开发基础模子的指南初稿“治理两用基础模子的滥用危害”
，以及作为NISTAI危害治理框架(AI RMF)和清静软件开发框架(SSDF)的配套资源
，旨在资助开发职员治理GenAI危害的两份指导文件
。

协议还支持美国与英国AI清静研究所的相助

与LLM提供商告竣的协议还包括一项条款
，该条款将允许美国清静研究所与英国人工智能清静研究所的相助同伴相助
，并向两家机构提供有关其模子潜在清静刷新的反响
。

美国和英国的政府部分在今年4月初签署了一项协议
，测试支持AI系统的清静LLM
。

该协议由美国商务部长Gina Raimondo和英国科学、立异和手艺部部长Michelle Donelan在美国华盛顿签署
，AI清静研究所之间的相助是该协议带来的直接效果
。

美国围绕AI清静接纳的其他步伐

OpenAI和Anthropic签署这份协议正值加州AI清静法案进入成为执法的最后阶段
，该法案可能将制订美国最严酷的AI规则
，并为其他类似的规则铺平蹊径
。

这项名为《前沿AI模子清静立异法案》(SB 1047)的立法为AI开发职员提出了严酷的测试和问责步伐
，特殊是那些建设大型重大AI模子的开发职员
。若是该法案成为执法
，将要求AI公司在向公众宣布之前测试其系统的清静性
。

直到8月早些时间
，OpenAI还在阻挡该法案
，直到最近才允许支持该法案
。

NIST还接纳了其他步伐
，包括今年2月建设了由AI建设者、用户、学者组成的AI清静咨询小组
，为AI的使用和开发设置了一些清静步伐
。

AISIC咨询小组的使命是制订AI系统“红队”行动指南
，这些使命包括评估AI能力、治理危害、确保清静、以及为AI天生的内容添加水印
。OpenAI、Meta、谷歌、微软、亚马逊、英特尔和英伟达在内的一些主要科技公司都加入了该同盟
。