ControlAI高管Leahy：超级智能不是武器而是对手，应彻底停止研发

AI解读：ControlAI主张的不是“加强监管”，而是直接禁止开发超级智能。Connor Leahy在播客中说，AI安全界的传统思路——通过对齐技术让AI听人类的话——在超级智能面前可能根本不够用。他认为这类系统一旦失控，人类可能没有第二次机会去修正错误。

Leahy特别强调一个临界点：当AI能自己改进自己、造出更强的AI时，就可能出现无法遏制的自我进化循环。到那时，人类对AI的控制能力会迅速丧失。这也是为什么他一再呼吁，与其冒险去管理一个可能超越人类智慧的系统，不如从源头叫停。

他提出的解决方案是国际“信任但核查”协议。这个思路听起来简单，落实起来极难，尤其是中美之间的互信问题。不过Leahy认为，发展超级智能实际上也不符合中国利益，因为这种技术带来的风险远远大于收益。当然，这只是一位AI研究者的观点，不是普遍共识。

值得注意的是，Leahy的观点在六个月前听起来可能还很边缘，但现在有越来越多立法者跟进。他参与评论了美国参议员Sanders和众议员Casar提出的“禁止超级智能法案”，也参与了英国平行的立法建议。有人说美国法案可能走得比必要更远——这正是这场辩论开始变得真实、变得有政策影响力的信号。