AI 内容识别
速览要点
- 这类反信号在哪些环节生效
- 主要在答案循环(answer loop)的第三步「采信」和第四步「合成」生效,分别对应垃圾内容过滤与信任过滤
- 生产环境中真的有「AI 检测器」吗
- 没有。没有一家主流 AI 引擎或搜索引擎公开表示自己在生产环境中运行这类分类器;OpenAI 自行开发的分类器也已在 2023 年 7 月因准确率太低而下线
- 真正被惩罚的是什么
- 被惩罚的是大规模使用 AI 生产内容时常见的各种模式,包括批量生成页面、捏造数据、伪造作者署名、过度分块和 Schema 标记越权宣称。无论这些内容由 AI、人工还是人机协作完成,都会受到同样的惩罚
- 使用 AI 与采用这类模式的区别
- 使用 AI 本身不会受到惩罚;真正会被惩罚的是大规模使用 AI 生产内容时常见的模式。只要内容经过人工把关,并包含第一手经验和原创判断,AI 辅助完成的内容同样可以被采信
- 「AI 内容识别」是行业通用术语吗
- 行业普遍承认这种现象存在,但各引擎在说明惩罚对象时,使用的是「规模化内容滥用(scaled content abuse)」或「低质量内容」,而不是「AI 检测」
1. 「AI 内容识别」到底是什么
「AI 内容识别」常被笼统看成同一件事,实际却包含两件完全不同的事。人们担心「我的页面会不会因此受到惩罚」,大多是因为混淆了这两者。
第一种含义:外部分类器。 这类第三方工具包括 GPTZero、Originality.ai、Copyleaks、Pangram Labs、Turnitin、Hive 等。它们通过分析文字特征,判断文本是否由模型生成。这类工具主要由出版社、学校、招聘方和合规团队使用,并不在任何 AI 引擎内部运行。它们给出的分数不会决定页面能否出现在 ChatGPT、Perplexity、Google AI Overviews 或 Bing Copilot 的答案中,也不会影响这些引擎是否引用页面。
第二种含义:搜索与 AI 引擎的质量系统。 这类系统由引擎自行运行,包括垃圾内容过滤和信任过滤,作用于检索、采信(grounding)、合成等环节。它们并不是为了给文字贴上「AI 写作」或「人工写作」的标签,而是惩罚那些经常伴随「低质量内容」和「批量滥用」出现的模式。无论内容由模型生成,还是由内容农场或代运营机构批量制作,只要出现这些模式,处理结果都相同。Google 在 2023 年 2 月关于 AI 生成内容的声明 和 2024 年 3 月的「规模化内容滥用」政策 中反复强调了这一点:该政策适用于「自动化生产、人工生产,或两者结合生产」的内容。
下表可以更清楚地说明两种含义的差别。
| 第一种含义:外部分类器 | 第二种含义:引擎质量系统 | |
|---|---|---|
| 它是什么 | 一类分析文字特征、判断文本是否由模型生成的第三方工具 | 引擎自行运行的垃圾内容过滤与信任过滤,作用于检索、采信、合成等环节 |
| 由谁部署 | GPTZero、Originality.ai、Copyleaks、Pangram Labs、Turnitin 等厂商 | 由 Google、Bing、OpenAI、Perplexity 等引擎部署在各自系统中 |
| 如何影响内容 | 本身不会影响引擎的决策;工具只给出分数,后续如何处理由人决定 | 关注的是内容模式,而不是使用了什么工具;会惩罚规模化滥用、捏造数据、伪造作者署名、Schema 标记越权宣称 |
| 与 GEO 的相关性 | 既不能阻止页面进入 AI 答案,也不能促使页面进入 AI 答案 | 会在采信阶段淘汰不合格页面;这一环节位于可引用性审查与 E-E-A-T 信任过滤之前 |
引擎并不判断一段文字究竟是否由 AI 写成;它们识别的是大规模使用 AI 生产内容时常见的模式,而人工采用同样的模式,也会受到相同惩罚。
2. 这类反信号在答案循环的哪个环节生效
这类反信号并不是引擎新增的独立机制。在四步答案循环(answer loop)中,两个原有的过滤环节会处理这类信号,检索前还会进行一次标记审查。
- 第三步:采信。 系统会在这一步识别过度优化的结构模式(过度分块、堆砌 FAQ、模板化内容)。这类页面虽然会进入候选集,却不会被选中。这对应 可引用性 §6 所说「必要而非充分」的边界。
- 第四步:信任过滤与合成。 低质量批量内容、捏造数据、伪造作者署名会因为「来源不可信」而在这一步被剔除。这对应 E-E-A-T §7 所说「信任无法凭空赢得,靠标记也无济于事」的边界。
- 检索之前:标记审查。 Schema 或元数据中的声明如果与正文不符,会被识别为「越权」,并在检索开始前触发反作弊机制。这项审查与合成阶段的信任过滤同时运行,彼此独立(参见 Schema for AI)。
综合这三个环节,可以得出一致的结论:引擎并未新增一套「AI 检测器」,沿用的仍是原有的垃圾内容与信任过滤系统,只是在 AI 让内容生产规模扩大后,需要处理更多这类问题。同一种反模式在不同环节有不同名称:在结构审查中称为「过度优化」,在信任审查中称为「伪造权威」,在索引审查中称为「Schema 标记越权」。名称虽不同,使用的仍是同一套机制。
3. 为什么基于分类器的「AI 检测」并不靠谱
到目前为止,没有任何一项同行评议研究能够证明,商业 AI 文本分类器面对真实环境中的对抗性输入时,可以达到宣传中的准确率。这一点在实际应用中经常被忽视。厂商宣传力度很大,学术证据却仍然不足。
| 证据 | 说明了什么 |
|---|---|
| OpenAI 下线了自行开发的分类器(2023 年 7 月 20 日) | OpenAI 在更新说明中明确表示:「该 AI 分类器已不再提供,原因是准确率过低。」产品发布时的真阳性率只有 26%,假阳性率为 9%;OpenAI 认为,即使在非对抗场景下,这样的结果也不足以投入实际使用(来源)。 |
| Liang 等人,Patterns 2023 | 论文指出:「在常用检测器上,非英语母语者写的 TOEFL 作文有一半以上被错判为『AI 生成』;相比之下,美国八年级学生的英文作文几乎都能被正确判定为人写。」(arXiv:2304.02819)这项研究主要讨论检测器对非英语母语者的偏差,结果还表明:分类器会把词汇受限、困惑度低等文体特征误认为模型输出的特征。 |
| Sadasivan 等人,arXiv 2023 | 论文指出:「改写攻击足以避开当前一系列检测器,包括带水印的方案和神经网络检测器。」(arXiv:2303.11156)论文还推导出一项理论上界:随着语言模型的文风越来越接近人类,即使采用理论上最优的检测器,其表现也会逐渐接近随机分类器。 |
目前主要厂商包括:GPTZero(2023 年 1 月创立,宣称「99% 准确率」)、Originality.ai(同样宣称「99% 准确率」,并提供抄袭检测与事实核查)、Copyleaks(宣称「99%+ 准确率、0.2% 假阳性率」)、Pangram Labs(宣称「99.98% 准确率」),以及 Turnitin(对于 AI 生成占比 ≥20% 的文档,宣称假阳性率「不到 1%」)。这些数字都来自厂商自建的基准测试。到目前为止,没有任何一家厂商发布过经同行评议的评估,证明其宣传结果能够在上述学术研究所讨论的对抗条件下复现。
结论很明确:用外部分类器的分数评估 GEO 风险并不可靠;真正影响内容是否被采信的是引擎质量系统。
4. AI 引擎真正惩罚的是哪些模式
政策依据。 Google 的一贯立场是:使用 AI 本身并不构成违规;以操纵排名为主要目的,使用任何自动化手段(包括 AI)批量生成内容,才属于违规。 2024 年 3 月的核心更新 扩大了垃圾内容政策的范围,明确列出三类行为:过期域名滥用、规模化内容滥用、站点信誉滥用。Google 官方在 Spam Policies 页面中将规模化内容滥用定义为:「为操纵搜索排名而非帮助用户,而批量生成大量页面……包括使用生成式 AI 工具或类似工具生成大量对用户无价值的页面。」Bing 的 Webmaster Guidelines 与 AI Performance 预览版 采用同一套质量框架。OpenAI、Anthropic、Perplexity 没有公开规定可以或不可以使用某种工具,判断时主要依据来源本身的权威信号。
2026 年 5 月 15 日,这一定义的适用范围扩大了。 Google 修改了垃圾内容政策开头的表述:原先针对操纵搜索系统「使内容排名靠前」,修改后还包括操纵搜索系统「使内容被显著呈现……或者试图操纵 Google 搜索中的生成式 AI 回答」。后文的模式清单没有变化,「判断模式而不是工具」的立场也保持不变。变化在于适用范围:AI Overviews 和 AI Mode 如今与排名作弊适用同一套降权或移除规则。因此,页面若在合成阶段无法通过信任过滤,便会直接违反明文规定,而不再只是根据既有规则推断为违规。主动操纵答案而不只是批量发布内容,如今也已被明确写入政策,不再只存在于研究文献的讨论中(见 GEO 作弊与操纵)。
模式清单。 下表列出引擎实际会检查的各类模式,并附有相关条目的链接。
| 模式 | 看起来是什么样的 | 为什么被惩罚 |
|---|---|---|
| 批量生成的内容 | 围绕互不相关的主题集中生成大量看似完整、实际制作成本很低的页面 | 大规模、低质量的内容可通过统计方法识别;Google 的规模化内容滥用政策明确列出了这种情况。另见 E-E-A-T §7 从信任过滤角度的论证 |
| 捏造的统计数据 | 没有来源的数字、可疑的整数比例、引用实际并不存在的研究 | 没有来源的数字会被信任过滤识别;可引用性 §6 与 E-E-A-T §7 都将其列为反模式 |
| 伪造作者署名与虚构资历 | 作者档案无法通过 sameAs 关联找到相应的线上身份,也没有知识图谱(Knowledge Graph)记录,简介却声称作者具有很高权威性 | 引擎无法完成实体解析;E-E-A-T §7 的信任过滤专门处理这类情况 |
| 过度分块与 FAQ 堆砌 | 大量简短的问句式片段,却不对应任何真实查询 | 形式上符合 可引用性 的要求,但片段缺乏实质内容,也不对应真实问题,因此会在采信阶段被识别为模板内容 |
| 模板化内容 | 同一种结构在多个主题和多个站点上重复套用 | 这是大规模批量内容的典型形态;Google 的规模化内容滥用政策与 Bing 的质量准则都明确列出了这种情况 |
| Schema 或标记越权宣称 | 结构化数据声明了作者、评分、组织 sameAs 等属性,正文却没有相应依据 | 引擎识别出越权声明后会触发反作弊机制,其原理与「伪造权威触发信任过滤」相同(详见 Schema for AI) |
| 过期域名滥用 | 买下原本具有可信度的旧域名,转而发布完全无关的新内容 | 2024 年 3 月扩大的垃圾内容政策 明确列出了这类行为 |
| 无实质的引用堆砌 | 引用数量很多,但引用内容不足以支持相应论断 | 引擎可以识别引用内容与论断不符的情况,并降低这类页面的权重;E-E-A-T §7 也讨论了这一点 |
上表所列问题的关键是批量生产,而不是是否使用 AI。人工生产的内容如果采用同类模式,也会受到完全相同的处理。
5. 实证依据:Aggarwal 等人对「关键词堆砌」的实测
「这些模式会受到惩罚」并非假设,GEO 领域的奠基论文已经提供了明确的实证依据。Aggarwal 等人在 GEO-bench 上测试了九种内容改写手法,结果差异明显:在内容中增加实质信息(注明来源、补充统计数据、加入引文)可以显著提高答案可见度;关键词堆砌这种 SEO 中常见的做法不仅无法带来提升,甚至可能产生反效果。 详见 Aggarwal 等人 KDD ‘24 与本站 论文条目。
比论文标题中强调的数字更值得注意的是适用边界。论文所说的「最高 40%」提升,是单项手法在内部评测环境中以自身指标测得的上限。同一种手法在真实引擎 Perplexity.ai 上的提升降至约 22%;本站论文条目的批评部分认为,这一差距部分来自真实引擎中的信任过滤:捏造统计数据的改写可以在评测环境中暂时改善表面指标,但经过真实引擎的质量系统判断后便会失分。Puerto 等人的 C-SEO Bench(NeurIPS ‘25 数据集与基准)将这一发现扩展到「多方博弈」场景:当多个作者同时采用这类手法时,许多原本有效的改写会失效,甚至产生反效果。
结论很清楚:引擎确实会主动惩罚 SEO 式的垃圾内容模式,而同一套机制也限制了原本有益的实质性改写所能带来的提升。 同一套质量过滤机制既会惩罚这些不良模式,也会限制实质性改写能够取得的最大收益。
6. 水印技术:愿景与现实
水印几乎是每位决策者都会问到的话题。截至 2026 年 5 月,水印仍处于研究前沿,不能直接作为审计依据。
- Scott Aaronson 2022 年提出的方案是第一个可信的密码学水印构想(最初在 Microsoft Research 的一次报告中提出):模型采样 token 时引入一种偏置,只有密钥持有者能够识别这种水印。
- Google DeepMind 的 SynthID-Text 是迄今最具说服力的生产级方案。它在 2024 年底通过 Hugging Face Transformers 开源,并在 Gemini 中投入使用;具体做法是调整 token 的采样概率,使人类阅读时感受不到差异,但经过训练的模型可以识别水印(详见 SynthID)。Dathathri 等人发表在 Nature 的论文介绍了一项覆盖约 2000 万 Gemini 用户的 A/B 实验,结果显示带水印的回答没有明显的质量下降。
- 以下操作会使水印无法再被检出:使用另一个模型改写、进行轻度人工编辑、用另一个不带水印的模型转译,或将带水印与不带水印的文本混合。Nature 论文本身也明确指出,对于较短或经过大幅修改的输出,检测置信度会显著下降。
- 目前缺少跨厂商的统一约束:OpenAI、Anthropic、Meta、Google 各自采用不同方案,有些厂商甚至没有使用水印。各家的方案彼此不兼容,也没有统一规则要求它们相互兼容。一段文字只要经过两个不同模型处理,几乎一定不再携带可用的水印。
对 GEO 实务而言,结论很明确:没有任何一家 AI 引擎在生产环境中把水印用作采信信号;水印既不是引擎可索引的信任信号,也不能作为审计依据或用于提高内容被引用的机会。
7. AI 到底能不能用来写内容?
这是客户最常提出的问题。这里只谈事实,不作道德评价:
使用 AI 本身并不会受到惩罚;真正会被惩罚的是大规模使用 AI 生产内容时常见的模式。 只要稿件经过人工编辑,包含原创思路,并体现出可以核实的专业度,AI 辅助完成的内容就不属于上述失败模式。未经人工把关的批量 AI 内容确实会受到惩罚;识别它们的是 Google 和 Bing 十年来一直运行的同一套质量系统,与文字由人还是机器写成无关。
规模化生产最难伪造的是第一手经验,也就是 E-E-A-T 中的「经验」一项。具体而言,内容应当提供亲历细节和原始数据,写明真实地名和注明日期的事件,并提出可以核实的论断。并不是模型无法写出这些内容,而是若要大规模提供这样的经验细节,就必须真正做过相应的事情。
不必担心的事情:
- GPTZero 或 Originality.ai 是否会把页面判定为 AI 生成(详见 §3,这些工具不会参与引擎决策)。
- 使用 ChatGPT 辅助完成的初稿是否天然会受到惩罚(Google 的政策已经明确表示不会)。
- 译者使用机器翻译是否会触发识别(详见上文 FAQ,真正的失败模式是「无人复核」,而不是机器翻译本身)。
真正需要关注的事情:
- 内容是否包含只有亲身经历才能提供的经验细节。
- 统计数据是否注明来源并且可以核实,而不是看似可信、实际只是取整得出的百分比。
- 署名作者是否真实存在,是否有相互对应的
sameAs与知识图谱记录。 - 内容结构是否以实质信息为基础,而不只是空洞的形式;这正是 可引用性 §6 所说的「必要而非充分」。
引擎真正要判断的不是「这是不是人类写的」,而是「是否有真实的人愿意为这些主张负责」。
8. 这类反信号对 GEO 的意义与后续行动
这类反信号与 E-E-A-T §9 和 可引用性 §8 讨论的都是同一个采信难点,只是观察角度不同。实质信号会提高页面被采信的机会,规模化滥用模式则会降低这种机会;同一套过滤机制会同时判断这两类信号。
| 任务 | 参考条目 |
|---|---|
| 审计内容是否存在过度优化模式 | 可引用性 §6 |
| 检查与信任有关的信号:作者、资历、来源 | E-E-A-T |
| 确认 Schema 没有越权宣称 | Schema for AI |
| 了解这类反信号作用于答案循环的哪个环节 | Answer Loop |
| 整体框架 | 生成式引擎优化 |
| 实证依据 | Aggarwal 等人(KDD ‘24) |
参考资料
官方平台文档(截至 2026-05):
- Google Search Central — Google Search 关于 AI 生成内容的指引(2023-02-08)·使用 AI 生成内容·2024 年 3 月核心更新与新垃圾内容政策(2024-03-05)·Spam Policies for Google Web Search(垃圾内容定义于 2026-05-15 修订,纳入生成式 AI 回答;报道见 Search Engine Land)·站点信誉滥用政策更新(2024-11-19)
- OpenAI — 面向 AI 文本识别的新型分类器(2023-01-31 上线,2023-07-20 下线)
- Google DeepMind — SynthID — 文本水印
- Microsoft Bing — Webmaster Guidelines·Bing Webmaster Tools 引入 AI Performance(公开预览)(2026-02-09)
学术:
- Dathathri, S. 等(2024)。Scalable watermarking for identifying large language model outputs。Nature 634, 818–823。doi:10.1038/s41586-024-08025-4
- Liang, W.、Yuksekgonul, M.、Mao, Y.、Wu, E. & Zou, J.(2023)。GPT detectors are biased against non-native English writers。Patterns 4(7), 100779。arXiv:2304.02819
- Sadasivan, V. S.、Kumar, A.、Balasubramanian, S.、Wang, W. & Feizi, S.(2023)。Can AI-Generated Text be Reliably Detected? arXiv:2303.11156
- Aggarwal, P. 等(2024)。GEO: Generative Engine Optimization。KDD ‘24。arXiv:2311.09735·ACM DL·本站论文条目
- Puerto, H.、Gubri, M.、Green, C.、Oh, S. J. & Yun, S.(2025)。C-SEO Bench: Does Conversational SEO Work? NeurIPS ‘25 数据集与基准。arXiv:2506.11097
厂商页面(仅作盘点;不可靠性的论据见 §3):
常见问题
Google 会识别出我用了 ChatGPT 来写这篇文章吗?
GPTZero、Originality.ai、Copyleaks、Pangram、Turnitin 这些 AI 检测器靠谱吗?
水印技术能解决这个问题吗?
我能用 AI 写文章初稿吗?
那 AI 翻译的内容呢?
延伸阅读
参考来源
一手来源
- Google Search's guidance about AI-generated content · Google Search Central · 2023-02-08
- Using AI-generated content · Google Search Central
- What web creators should know about our March 2024 core update and new spam policies · Google Search Central · 2024-03-05
- Spam Policies for Google Web Search · Google Search Central
- An update to our site reputation abuse policy · Google Search Central · 2024-11-19
- New AI classifier for indicating AI-written text · OpenAI · 2023-01-31
- SynthID — text watermarking · Google DeepMind
- Bing Webmaster Guidelines · Microsoft Bing
- Introducing AI Performance in Bing Webmaster Tools (Public Preview) · Microsoft Bing · 2026-02-09
- GEO: Generative Engine Optimization (Aggarwal et al., KDD '24) · arXiv · 2024-06-28
- GEO: Generative Engine Optimization (KDD '24 Proceedings) · ACM SIGKDD · 2024-08-25
二手来源
- Google updates Search spam policies to clarify it applies to generative AI responses · Search Engine Land
- Scalable watermarking for identifying large language model outputs (Dathathri et al., Nature 2024) · Nature
- GPT detectors are biased against non-native English writers (Liang et al., Patterns 2023) · arXiv / Patterns (Cell Press)
- Can AI-Generated Text be Reliably Detected? (Sadasivan et al. 2023) · arXiv
- C-SEO Bench: Does Conversational SEO Work? (Puerto et al., NeurIPS '25 D&B) · arXiv / NeurIPS '25 D&B