OpenAI给ChatGPT加隐形水印,应对欧盟AI法案

10 月 5 日,OpenAI 在一篇官方博客文章中宣布,将在欧盟地区为 ChatGPT 和 Codex 生成的文本内容添加”不可见水印”——这套名为 textGrain 的系统,会在生成过程中微妙地调整词语选择的概率分布,在文本里埋入只有专用检测器才能识别的统计信号。这一变化将在未来几周内向欧盟所有计划的符合条件用户推送。与此同时,OpenAI 还向全球 API 开发者开放了一个可选的水印开关(默认关闭),但明确表示不会在全球范围内默认开启文本水印。

这不是 OpenAI 第一次做出文本水印。早在 2024 年,就有报道称 OpenAI 已经做出了可用的文本水印技术,却选择将其搁置。两年过去,是什么让 OpenAI 改变了主意?答案是一部法律:欧盟《人工智能法案》。

事件详情:为了赶上 12 月 2 日的大限

直接的法律驱动来自欧盟 AI 法案第 50 条的透明度规则。该条款自 2026 年 8 月 2 日起开始适用,要求生成式 AI 系统提供商以机器可读的格式标注合成内容,使其可被检测为 AI 生成或篡改。欧盟委员会明确:在该日期之前已经上市的系统(如 ChatGPT),必须在 12 月 2 日之前完成标注和检测义务的合规——这就是 OpenAI 必须赶上的”大限”。

违规的代价不低:根据法律分析机构的解读,违反相关条款最高可被处以 1500 万欧元或全球年营业额 3% 的罚款(以较高者为准)。欧盟委员会已在今年 7 月 20 日发布了相关合规指南,《AI 生成内容透明度行为准则》到 7 月底已有约 190 家机构签署,包括 Anthropic、谷歌、Meta、微软和 OpenAI——头部大模型厂商选择了共同塑造合规规则,而不是与之对抗。

此次推出的具体安排是:ChatGPT 和 Codex 在欧盟地区的文本输出将在未来几周内陆续加上水印,覆盖所有付费与免费计划;全球 API 开发者从 10 月 5 日起可以选择开启水印(针对部分模型,默认关闭);OpenAI 还表示计划将 textGrain 的技术实现开源。值得注意的是,水印的检测工具在初期并不公开,仅限获批的学术研究人员和专家组织使用。OpenAI 也特别提醒:检测不到水印,并不证明一段文字出自人类之手。

技术解析:textGrain 如何工作,又有哪些短板

textGrain 属于”统计水印”技术。它在模型生成文本时,根据一个密钥轻微地引导词语选择——偏向某些词语而非另一些,从而在文本中形成人眼看不见、但检测器可以识别的统计模式。OpenAI 表示,这种水印在复制粘贴后依然存在,不会识别用户身份,且对模型输出质量”没有实质影响”(有媒体指出,加水印的版本在多项基准测试中得分甚至略有提升)。

但这项技术的短板同样明显。OpenAI 承认,对于较短的文本,检测准确率只有约 80%;根据技术报告,当 10% 的词语被替换为同义词时,检测率会从约 92% 降至 66%;另一项测试显示,在 400 词的英文文本中替换 25% 的词语后,检测率从约 92% 暴跌至 17%。数学公式、大幅改写、翻译成其他语言等场景,都会模糊甚至彻底破坏水印信号。这份技术报告由宾夕法尼亚大学和耶鲁大学的研究人员共同撰写。检测器的受限开放,正是出于对这些局限性的顾虑——避免因误判引发错误指控,也防止有人快速摸索出绕过方法。

背景:2024 年被搁置的水印,为何现在重启

2024 年《华尔街日报》曾报道,OpenAI 已经做出了可行的文本水印方案,但最终选择搁置,部分原因是担心用户会流向不加水印的竞争对手。当年 8 月的一次内部调查更显示,近 30% 的 ChatGPT 用户表示如果加上水印会减少使用。如今,欧盟的法律消除了这种竞争顾虑——至少在欧盟境内,所有厂商都必须遵守同一规则。

Anthropic 已经走在了前面:它在 2026 年 8 月开始在全球范围内为 Claude 生成的文本加水印(基于 Google DeepMind 的 SynthID 技术思路),并因此遭到部分用户的反对——有人认为,想法和决策来自自己,模型只是工具,不该被”打标记”。Google DeepMind 本人早年就推出了自己的水印方案。相比之下,OpenAI 的”欧盟默认开启、其他地区可选”的策略显然意在避免重蹈覆辙:只在监管能开罚单的地方强制推行,在其他地方把选择权留给开发者。

影响与展望:监管起作用了吗

对普通用户来说,这次变化几乎是无感的:回复读起来完全一样,文本外观没有任何区别。真正发生变化的是文本的”身后事”——被粘贴进论文、报告或网站的内容,携带了一个隐藏的指纹,未来可能被持证检测器识别出来。这对学术诚信、内容平台治理等场景有潜在意义,但 OpenAI 的谨慎态度也划清了界限:水印不能作为定罪的证据。

对美国市场,变化止于欧盟边界:美国目前没有联邦层面的等同规则,OpenAI 的新默认设置不会跨出欧盟。全球 API 开发者虽然可以手动开启,但默认关闭意味着大多数人不会去碰它。

更大的意义在于行业层面。OpenAI 计划开源 textGrain,有望推动形成统一的水印技术标准;而签署了透明度行为准则的约 190 家机构,都面临着同样的 12 月 2 日大限,未来两个月可能会看到更多厂商公布各自的合规方案。这起事件也被外界解读为”监管起作用”的典型案例:让大厂真正行动起来的不是自愿承诺,而是一部写明了罚款金额的法律。

发表评论