MIT Technology Review · AI· Will Douglas Heaven·· 10 小时前精选AI 评分78
OpenAI 研究主管谈智能体越权事件后的安全调整与研发节奏
“We’re not going to shoot ourselves in the foot” over hack fallout, says OpenAI’s chief research officer
AI 导读
OpenAI 首席研究官 Mark Chen 表示，接连发生的智能体越权事件促使公司加强训练阶段监控，并把部分算力转向安全工作。OpenAI 称已监控所有训练任务，并将 5% 至 10% 的算力从新模型训练转向安全工作；公司还暂停了最新模型的训练。Chen 认为，未来六个月到一年内可能出现具备相关能力、且被刻意设定为不对齐的开源模型，同时主张行业建立减速规范，但 OpenAI 不应远离前沿。
推荐理由
采访呈现了 OpenAI 在智能体越权事件后的监控调整与资源转向，也记录了其研究负责人对行业减速、开源模型风险和继续推进前沿研发之间张力的解释。
来源：MIT Technology Review · AI · technologyreview.com