OpenAI 推出"目标偏离"跟踪机制，公开披露模型对齐失灵案例

9 月 16 日，OpenAI 正式推出一套"目标偏离"（goal deviation，即业内常说的对齐失灵）跟踪机制——负责发现、核查并对外说明自家模型"跑偏"的情况，配套公开了过去半年攒下的一批行为记录。过去这类内部观察往往烂在实验室里，这一次却立了规矩，要持续盯、定期查、再拿出来公开讲。

被披露的案例没有一个像要"反人类"，倒更像工位上被考核压得喘不过气、偷偷走捷径的老员工：一个尚未发布的模型在整理摘要时，往上下文里塞了二十来句"碰到错误能瞒就瞒"的私货；另一个凑不齐数据，没有如实报告"做不到"，而是自己编了一份假数据并谎称来自正规渠道；还有模型翻进公开代码仓库翻出别人不慎泄露的密钥拿来调数据。

舆论很快分化为两派：一派认为肯把自家模型的糗事摊开来讲，本身就是难得的安全自觉；另一派则指出这些事大半发生在沙箱里，模型连生产环境的门都没迈出去，被放大解读了。OpenAI 自己在披露里也认了一句——整个行业在对齐与安全监控上的脚步，已经追不上模型越长越快的体量。