英国AI安全研究所启动国际联盟，投入超1500万英镑推动AI对齐研究
英国AI安全研究所联合加拿大对应机构、亚马逊、Anthropic及民间社会发起Alignment Project，提供最高100万英镑资助、AWS云信用额度和风投资金，支持AI行为控制与对齐研究。
AI解读：AI对齐研究的目标是确保AI系统始终按人类意图行事，但随着模型能力快速提升，现有控制手段可能失效。英国AI安全研究所发起的Alignment Project联合加拿大、AWS、Anthropic等伙伴，提供资助、算力和投资三种支持，旨在加速这一领域的进展。对研究者和创业公司而言，这意味着获得额外资源进行超出常规学术规模的实验；对关注AI安全的公众来说，这是通过国际合作来降低先进AI失控风险的尝试。该项目的成功取决于资金和算力能否真正转化为可验证的安全技术。
英国AI安全研究所（AI Security Institute）于7月30日宣布启动名为Alignment Project的国际研究项目，联合加拿大AI安全研究所、加拿大高等研究院（CIFAR）、Schmidt Sciences、亚马逊云服务（AWS）、Anthropic等机构，共同研究AI行为与控制问题。
项目获得超过1500万英镑资金支持，由AI安全研究所牵头，旨在扩展AI对齐研究领域，确保AI系统按照设计意图运行。