OpenAI首席科学家Pachocki:需快速训练更聪明模型以构建AI防御系统
Jakub Pachocki称,防御其他AI带来的危险是继续快速训练更聪明模型的最强理由,OpenAI将把构建强大且对齐的AI作为部署工作的首要重点。
AI解读:OpenAI首席科学家Jakub Pachocki为“快速训练更强大模型”提供了明确辩护:这不是竞赛,而是防御需要。他指出,面对其他AI可能造成的危险,需要强大且对齐的AI来保护基础设施、实时抵御恶意行为者,并发明全新防护措施,这将是OpenAI部署工作的重心。对关注AI安全的人而言,这意味着OpenAI将安全投入与模型能力提升绑定在一起,但Pachocki同时警告,不能以防御为借口鲁莽行事。
OpenAI首席科学家Jakub Pachocki于2026年9月7日发表言论,称继续快速训练更智能模型的最有力论据,是需要构建防御系统以应对其他AI带来的危险。
防御作为首要部署重点
Pachocki表示,OpenAI将需要强大且对齐的AI用于防御:保障基础设施安全、实时防范恶意智能体,并发明全新的防护措施。他强调,这将是OpenAI部署工作的主要焦点。
反对不计后果的竞赛
Pachocki同时指出,尽管面临广泛AI进步带来的不确定性及构建防御系统的需求,但不能将此作为鲁莽行事的借口。他认为,一旦意识到风险的严重性,不计代价地竞速前进的想法就显得荒谬。