英国与澳大利亚签署AI安全合作备忘录，将共享前沿模型评估与网络风险研究
两国AI安全研究机构将共享前沿AI能力信息、协作制定评估标准，并开展人员交流，重点应对AI在网络攻击中的潜在用途。
AI解读：英美澳在AI安全领域的合作进一步制度化：英国AI安全研究所与澳大利亚AI安全研究所基于新签署的备忘录，将互相通报前沿AI能力进展、共同研究网络攻击与防御中的AI应用、协作制定模型测试与评估的国际最佳实践，并互派人员。直接驱动因素是英国AI安全研究所的最新研究显示，AI在网络攻击等复杂任务上的能力正快速提升，对攻击者和防御者都带来机会。对两国政策制定者和AI企业的影响在于：评估基准和风险信息将趋于一致，跨国AI产品的安全审核可能更快对齐；但这一备忘录属于政府间机制，不直接约束企业，其实际成效取决于两国监管如何采纳这些研究成果。对普通用户而言，现阶段无需任何操作，可将其视为国家层面在AI风险早期预警上的投入。
英国人工智能安全研究所（UK AI Security Institute）与澳大利亚人工智能安全研究所（Australian AI Safety Institute）于5月25日在堪培拉签署合作备忘录，双方将就前沿AI能力的发展（包括这些系统如何被用于网络攻击、以及如何加强防御）交换情报，共同研究新兴风险，并合作制定AI系统测试与评估的国际最佳实践。
英国AI部长Kanishka Narayan与澳大利亚科学、技术和数字经济助理部长Andrew Charlton博士在堪培拉会面时签署该协议。备忘录还包括两家机构间的员工交换计划。
英国AI安全研究所表示，其最新研究显示，先进AI系统执行复杂网络攻击的能力正在快速提升，对攻击者和防御者都构成新的机会和挑战，这凸显了两国合作的紧迫性。