OpenAI 在 10 月 30 日更新了其公开的模型行为规范《Model Spec》,围绕五项核心价值对这份“AI 行为准则”进行了重构。这不是一次新模型发布,而是一次关于 AI 应当如何行事的规则重写:当模型能力越来越强、应用场景越来越陌生时,OpenAI 希望先把价值判断的优先级说清楚,再谈具体表现。
事件详情:五项价值成为新框架的骨架
根据 OpenAI 的更新说明,新版《Model Spec》把原来分散在文档各处的具体要求重新整理,归纳为五项核心价值:忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。其中,忠于人类意图被放在最基础的位置。
所谓忠于人类意图,并不是机械地按字面执行指令。规范要求模型理解指令由谁发出、用户真正想要的是什么,以及具体语境会如何影响这一目标。当用户请求与安全规则或更高优先级的系统指令发生冲突时,模型不应照办。换句话说,理解“你到底想干什么”,优先于复述“你说了什么”。
其余四项价值则划定了行为的边界与方式:降低伤害,要求模型在提供能力的同时权衡现实世界的潜在风险;诚实透明,要求模型不误导用户、不故意说假话、不隐藏重要信息;保障人的自主选择权,要求模型不操纵用户、不强行灌输特定观点,辅助用户自己做决定、追寻自身目标;审慎尽责,要求模型在回应时不仅考虑发出请求的用户,也评估任务与输出可能影响到的其他人群,并遵守相关社会规范。
除了价值重构,这次更新还做了几处值得注意的调整。OpenAI 删除了此前文档中大部分详细的写作风格规范,理由是文体与口风应当随用户偏好、语言文化和具体场景动态调整,而不必由一份统一规范事无巨细地规定。同时,规范中对模型的称呼由以往的“助手”改为“GPT”,与产品命名保持一致。此外,新版规范增加了关于上下文理解、人工监督和默认行为规则的指导,强调模型始终接受人类监督。
背景分析:为什么是现在重写规则
《Model Spec》是 OpenAI 公开的一份行为路线图:它不描述某一个模型的参数或性能,而是说明公司希望模型在各种场景下如何表现。随着模型从“回答问题”走向“代办事务”,它面对的不再只是明确的指令,还有模糊的目标、冲突的要求和无法预知的后果。在这种情况下,靠罗列单条规则很难覆盖所有场景,回到价值层面统一优先级,成为更可扩展的做法。
这次更新的另一个背景是,AI 系统的“对齐”工作本身正在从实验室走向日常使用。同一天,OpenAI 还在调整 ChatGPT 的使用额度等产品策略,模型与用户的接触面越来越大,行为边界也就越来越需要被公开讨论。把价值判断写进公开文档,相当于把评判标准交到用户、开发者和研究者手里:外界可以对照这份规范,检验模型在实际表现中是否言行一致。
值得留意的是,OpenAI 在更新中坦承了一个限度:这份规范描述的是公司希望模型实现的行为方式,而当前投入使用的模型尚未完全达到新版规范所要求的标准。团队表示,正在研究新的训练方式,让模型内化这些准则,并将根据研究进展、实际部署反馈和用户意见持续改进。换言之,新版规范首先是一份目标声明,而非一份已经达标的成绩单。
影响与展望:对用户、开发者意味着什么
对普通用户而言,最直接的变化可能体现在互动方式上。模型被要求更主动地理解真实目标,而不是字面执行;同时在风格表达上拥有更大的灵活度,可以随偏好与场景调整。但这也意味着,当用户的请求与安全规则冲突时,拒绝会来得更明确——规范把这种优先级写在了前面,而不是留给个案解释。
对开发者而言,价值重构提供了一个更清晰的调试坐标:当模型行为出现争议时,可以先回到五项价值,判断是哪一层优先级出了问题,而不是在成百上千条细则里逐条比对。删除详细风格规范的做法,也把表达层面的决定权更多交给了产品与用户自身。
对行业而言,这次更新可能成为一个参照点。在模型能力竞赛之外,各家厂商如何公开自己的行为准则、如何处理意图与安全之间的冲突,正在成为新的竞争维度。OpenAI 选择以原则而非细则来组织规范,是否会被同行效仿,还有待观察。但至少有一点是明确的:随着 AI 越来越深入地介入工作与生活,“模型应当如何行事”已经不再是附带的技术细节,而是一项需要公开回答的问题。