跳到正文

AI 内容识别

速览要点

这类反信号在哪些环节生效
主要在答案循环(answer loop)的第三步「采信」和第四步「合成」生效,分别对应垃圾内容过滤与信任过滤
生产环境中真的有「AI 检测器」吗
没有。没有一家主流 AI 引擎或搜索引擎公开表示自己在生产环境中运行这类分类器;OpenAI 自行开发的分类器也已在 2023 年 7 月因准确率太低而下线
真正被惩罚的是什么
被惩罚的是大规模使用 AI 生产内容时常见的各种模式,包括批量生成页面、捏造数据、伪造作者署名、过度分块和 Schema 标记越权宣称。无论这些内容由 AI、人工还是人机协作完成,都会受到同样的惩罚
使用 AI 与采用这类模式的区别
使用 AI 本身不会受到惩罚;真正会被惩罚的是大规模使用 AI 生产内容时常见的模式。只要内容经过人工把关,并包含第一手经验和原创判断,AI 辅助完成的内容同样可以被采信
「AI 内容识别」是行业通用术语吗
行业普遍承认这种现象存在,但各引擎在说明惩罚对象时,使用的是「规模化内容滥用(scaled content abuse)」或「低质量内容」,而不是「AI 检测」

1. 「AI 内容识别」到底是什么

「AI 内容识别」常被笼统看成同一件事,实际却包含两件完全不同的事。人们担心「我的页面会不会因此受到惩罚」,大多是因为混淆了这两者。

第一种含义:外部分类器。 这类第三方工具包括 GPTZero、Originality.ai、Copyleaks、Pangram Labs、Turnitin、Hive 等。它们通过分析文字特征,判断文本是否由模型生成。这类工具主要由出版社、学校、招聘方和合规团队使用,并不在任何 AI 引擎内部运行。它们给出的分数不会决定页面能否出现在 ChatGPT、Perplexity、Google AI Overviews 或 Bing Copilot 的答案中,也不会影响这些引擎是否引用页面。

第二种含义:搜索与 AI 引擎的质量系统。 这类系统由引擎自行运行,包括垃圾内容过滤和信任过滤,作用于检索、采信(grounding)、合成等环节。它们并不是为了给文字贴上「AI 写作」或「人工写作」的标签,而是惩罚那些经常伴随「低质量内容」和「批量滥用」出现的模式。无论内容由模型生成,还是由内容农场或代运营机构批量制作,只要出现这些模式,处理结果都相同。Google 在 2023 年 2 月关于 AI 生成内容的声明 和 2024 年 3 月的「规模化内容滥用」政策 中反复强调了这一点:该政策适用于「自动化生产、人工生产,或两者结合生产」的内容。

下表可以更清楚地说明两种含义的差别。

第一种含义:外部分类器第二种含义:引擎质量系统
它是什么一类分析文字特征、判断文本是否由模型生成的第三方工具引擎自行运行的垃圾内容过滤与信任过滤,作用于检索、采信、合成等环节
由谁部署GPTZero、Originality.ai、Copyleaks、Pangram Labs、Turnitin 等厂商由 Google、Bing、OpenAI、Perplexity 等引擎部署在各自系统中
如何影响内容本身不会影响引擎的决策;工具只给出分数,后续如何处理由人决定关注的是内容模式,而不是使用了什么工具;会惩罚规模化滥用、捏造数据、伪造作者署名、Schema 标记越权宣称
与 GEO 的相关性既不能阻止页面进入 AI 答案,也不能促使页面进入 AI 答案会在采信阶段淘汰不合格页面;这一环节位于可引用性审查与 E-E-A-T 信任过滤之前

引擎并不判断一段文字究竟是否由 AI 写成;它们识别的是大规模使用 AI 生产内容时常见的模式,而人工采用同样的模式,也会受到相同惩罚。

2. 这类反信号在答案循环的哪个环节生效

这类反信号并不是引擎新增的独立机制。在四步答案循环(answer loop)中,两个原有的过滤环节会处理这类信号,检索前还会进行一次标记审查。

  • 第三步:采信。 系统会在这一步识别过度优化的结构模式(过度分块、堆砌 FAQ、模板化内容)。这类页面虽然会进入候选集,却不会被选中。这对应 可引用性 §6 所说「必要而非充分」的边界。
  • 第四步:信任过滤与合成。 低质量批量内容、捏造数据、伪造作者署名会因为「来源不可信」而在这一步被剔除。这对应 E-E-A-T §7 所说「信任无法凭空赢得,靠标记也无济于事」的边界。
  • 检索之前:标记审查。 Schema 或元数据中的声明如果与正文不符,会被识别为「越权」,并在检索开始前触发反作弊机制。这项审查与合成阶段的信任过滤同时运行,彼此独立(参见 Schema for AI)。

综合这三个环节,可以得出一致的结论:引擎并未新增一套「AI 检测器」,沿用的仍是原有的垃圾内容与信任过滤系统,只是在 AI 让内容生产规模扩大后,需要处理更多这类问题。同一种反模式在不同环节有不同名称:在结构审查中称为「过度优化」,在信任审查中称为「伪造权威」,在索引审查中称为「Schema 标记越权」。名称虽不同,使用的仍是同一套机制。

3. 为什么基于分类器的「AI 检测」并不靠谱

到目前为止,没有任何一项同行评议研究能够证明,商业 AI 文本分类器面对真实环境中的对抗性输入时,可以达到宣传中的准确率。这一点在实际应用中经常被忽视。厂商宣传力度很大,学术证据却仍然不足。

证据说明了什么
OpenAI 下线了自行开发的分类器(2023 年 7 月 20 日)OpenAI 在更新说明中明确表示:「该 AI 分类器已不再提供,原因是准确率过低。」产品发布时的真阳性率只有 26%,假阳性率为 9%;OpenAI 认为,即使在非对抗场景下,这样的结果也不足以投入实际使用(来源)。
Liang 等人,Patterns 2023论文指出:「在常用检测器上,非英语母语者写的 TOEFL 作文有一半以上被错判为『AI 生成』;相比之下,美国八年级学生的英文作文几乎都能被正确判定为人写。」(arXiv:2304.02819)这项研究主要讨论检测器对非英语母语者的偏差,结果还表明:分类器会把词汇受限、困惑度低等文体特征误认为模型输出的特征。
Sadasivan 等人,arXiv 2023论文指出:「改写攻击足以避开当前一系列检测器,包括带水印的方案和神经网络检测器。」(arXiv:2303.11156)论文还推导出一项理论上界:随着语言模型的文风越来越接近人类,即使采用理论上最优的检测器,其表现也会逐渐接近随机分类器。

目前主要厂商包括:GPTZero(2023 年 1 月创立,宣称「99% 准确率」)、Originality.ai(同样宣称「99% 准确率」,并提供抄袭检测与事实核查)、Copyleaks(宣称「99%+ 准确率、0.2% 假阳性率」)、Pangram Labs(宣称「99.98% 准确率」),以及 Turnitin(对于 AI 生成占比 ≥20% 的文档,宣称假阳性率「不到 1%」)。这些数字都来自厂商自建的基准测试。到目前为止,没有任何一家厂商发布过经同行评议的评估,证明其宣传结果能够在上述学术研究所讨论的对抗条件下复现。

结论很明确:用外部分类器的分数评估 GEO 风险并不可靠;真正影响内容是否被采信的是引擎质量系统。

4. AI 引擎真正惩罚的是哪些模式

政策依据。 Google 的一贯立场是:使用 AI 本身并不构成违规;以操纵排名为主要目的,使用任何自动化手段(包括 AI)批量生成内容,才属于违规。 2024 年 3 月的核心更新 扩大了垃圾内容政策的范围,明确列出三类行为:过期域名滥用、规模化内容滥用、站点信誉滥用。Google 官方在 Spam Policies 页面中将规模化内容滥用定义为:「为操纵搜索排名而非帮助用户,而批量生成大量页面……包括使用生成式 AI 工具或类似工具生成大量对用户无价值的页面。」Bing 的 Webmaster Guidelines 与 AI Performance 预览版 采用同一套质量框架。OpenAI、Anthropic、Perplexity 没有公开规定可以或不可以使用某种工具,判断时主要依据来源本身的权威信号。

2026 年 5 月 15 日,这一定义的适用范围扩大了。 Google 修改了垃圾内容政策开头的表述:原先针对操纵搜索系统「使内容排名靠前」,修改后还包括操纵搜索系统「使内容被显著呈现……或者试图操纵 Google 搜索中的生成式 AI 回答」。后文的模式清单没有变化,「判断模式而不是工具」的立场也保持不变。变化在于适用范围:AI Overviews 和 AI Mode 如今与排名作弊适用同一套降权或移除规则。因此,页面若在合成阶段无法通过信任过滤,便会直接违反明文规定,而不再只是根据既有规则推断为违规。主动操纵答案而不只是批量发布内容,如今也已被明确写入政策,不再只存在于研究文献的讨论中(见 GEO 作弊与操纵)。

模式清单。 下表列出引擎实际会检查的各类模式,并附有相关条目的链接。

模式看起来是什么样的为什么被惩罚
批量生成的内容围绕互不相关的主题集中生成大量看似完整、实际制作成本很低的页面大规模、低质量的内容可通过统计方法识别;Google 的规模化内容滥用政策明确列出了这种情况。另见 E-E-A-T §7 从信任过滤角度的论证
捏造的统计数据没有来源的数字、可疑的整数比例、引用实际并不存在的研究没有来源的数字会被信任过滤识别;可引用性 §6 与 E-E-A-T §7 都将其列为反模式
伪造作者署名与虚构资历作者档案无法通过 sameAs 关联找到相应的线上身份,也没有知识图谱(Knowledge Graph)记录,简介却声称作者具有很高权威性引擎无法完成实体解析;E-E-A-T §7 的信任过滤专门处理这类情况
过度分块与 FAQ 堆砌大量简短的问句式片段,却不对应任何真实查询形式上符合 可引用性 的要求,但片段缺乏实质内容,也不对应真实问题,因此会在采信阶段被识别为模板内容
模板化内容同一种结构在多个主题和多个站点上重复套用这是大规模批量内容的典型形态;Google 的规模化内容滥用政策与 Bing 的质量准则都明确列出了这种情况
Schema 或标记越权宣称结构化数据声明了作者、评分、组织 sameAs 等属性,正文却没有相应依据引擎识别出越权声明后会触发反作弊机制,其原理与「伪造权威触发信任过滤」相同(详见 Schema for AI)
过期域名滥用买下原本具有可信度的旧域名,转而发布完全无关的新内容2024 年 3 月扩大的垃圾内容政策 明确列出了这类行为
无实质的引用堆砌引用数量很多,但引用内容不足以支持相应论断引擎可以识别引用内容与论断不符的情况,并降低这类页面的权重;E-E-A-T §7 也讨论了这一点

上表所列问题的关键是批量生产,而不是是否使用 AI。人工生产的内容如果采用同类模式,也会受到完全相同的处理。

5. 实证依据:Aggarwal 等人对「关键词堆砌」的实测

「这些模式会受到惩罚」并非假设,GEO 领域的奠基论文已经提供了明确的实证依据。Aggarwal 等人在 GEO-bench 上测试了九种内容改写手法,结果差异明显:在内容中增加实质信息(注明来源、补充统计数据、加入引文)可以显著提高答案可见度;关键词堆砌这种 SEO 中常见的做法不仅无法带来提升,甚至可能产生反效果。 详见 Aggarwal 等人 KDD ‘24 与本站 论文条目。

比论文标题中强调的数字更值得注意的是适用边界。论文所说的「最高 40%」提升,是单项手法在内部评测环境中以自身指标测得的上限。同一种手法在真实引擎 Perplexity.ai 上的提升降至约 22%;本站论文条目的批评部分认为,这一差距部分来自真实引擎中的信任过滤:捏造统计数据的改写可以在评测环境中暂时改善表面指标,但经过真实引擎的质量系统判断后便会失分。Puerto 等人的 C-SEO Bench(NeurIPS ‘25 数据集与基准)将这一发现扩展到「多方博弈」场景:当多个作者同时采用这类手法时,许多原本有效的改写会失效,甚至产生反效果。

结论很清楚:引擎确实会主动惩罚 SEO 式的垃圾内容模式,而同一套机制也限制了原本有益的实质性改写所能带来的提升。 同一套质量过滤机制既会惩罚这些不良模式,也会限制实质性改写能够取得的最大收益。

6. 水印技术:愿景与现实

水印几乎是每位决策者都会问到的话题。截至 2026 年 5 月,水印仍处于研究前沿,不能直接作为审计依据。

  • Scott Aaronson 2022 年提出的方案是第一个可信的密码学水印构想(最初在 Microsoft Research 的一次报告中提出):模型采样 token 时引入一种偏置,只有密钥持有者能够识别这种水印。
  • Google DeepMind 的 SynthID-Text 是迄今最具说服力的生产级方案。它在 2024 年底通过 Hugging Face Transformers 开源,并在 Gemini 中投入使用;具体做法是调整 token 的采样概率,使人类阅读时感受不到差异,但经过训练的模型可以识别水印(详见 SynthID)。Dathathri 等人发表在 Nature 的论文介绍了一项覆盖约 2000 万 Gemini 用户的 A/B 实验,结果显示带水印的回答没有明显的质量下降。
  • 以下操作会使水印无法再被检出:使用另一个模型改写、进行轻度人工编辑、用另一个不带水印的模型转译,或将带水印与不带水印的文本混合。Nature 论文本身也明确指出,对于较短或经过大幅修改的输出,检测置信度会显著下降。
  • 目前缺少跨厂商的统一约束:OpenAI、Anthropic、Meta、Google 各自采用不同方案,有些厂商甚至没有使用水印。各家的方案彼此不兼容,也没有统一规则要求它们相互兼容。一段文字只要经过两个不同模型处理,几乎一定不再携带可用的水印。

对 GEO 实务而言,结论很明确:没有任何一家 AI 引擎在生产环境中把水印用作采信信号;水印既不是引擎可索引的信任信号,也不能作为审计依据或用于提高内容被引用的机会。

7. AI 到底能不能用来写内容?

这是客户最常提出的问题。这里只谈事实,不作道德评价:

使用 AI 本身并不会受到惩罚;真正会被惩罚的是大规模使用 AI 生产内容时常见的模式。 只要稿件经过人工编辑,包含原创思路,并体现出可以核实的专业度,AI 辅助完成的内容就不属于上述失败模式。未经人工把关的批量 AI 内容确实会受到惩罚;识别它们的是 Google 和 Bing 十年来一直运行的同一套质量系统,与文字由人还是机器写成无关。

规模化生产最难伪造的是第一手经验,也就是 E-E-A-T 中的「经验」一项。具体而言,内容应当提供亲历细节和原始数据,写明真实地名和注明日期的事件,并提出可以核实的论断。并不是模型无法写出这些内容,而是若要大规模提供这样的经验细节,就必须真正做过相应的事情。

不必担心的事情:

  • GPTZero 或 Originality.ai 是否会把页面判定为 AI 生成(详见 §3,这些工具不会参与引擎决策)。
  • 使用 ChatGPT 辅助完成的初稿是否天然会受到惩罚(Google 的政策已经明确表示不会)。
  • 译者使用机器翻译是否会触发识别(详见上文 FAQ,真正的失败模式是「无人复核」,而不是机器翻译本身)。

真正需要关注的事情:

  • 内容是否包含只有亲身经历才能提供的经验细节。
  • 统计数据是否注明来源并且可以核实,而不是看似可信、实际只是取整得出的百分比。
  • 署名作者是否真实存在,是否有相互对应的 sameAs 与知识图谱记录。
  • 内容结构是否以实质信息为基础,而不只是空洞的形式;这正是 可引用性 §6 所说的「必要而非充分」。

引擎真正要判断的不是「这是不是人类写的」,而是「是否有真实的人愿意为这些主张负责」。

8. 这类反信号对 GEO 的意义与后续行动

这类反信号与 E-E-A-T §9 和 可引用性 §8 讨论的都是同一个采信难点,只是观察角度不同。实质信号会提高页面被采信的机会,规模化滥用模式则会降低这种机会;同一套过滤机制会同时判断这两类信号。

任务参考条目
审计内容是否存在过度优化模式可引用性 §6
检查与信任有关的信号:作者、资历、来源E-E-A-T
确认 Schema 没有越权宣称Schema for AI
了解这类反信号作用于答案循环的哪个环节Answer Loop
整体框架生成式引擎优化
实证依据Aggarwal 等人(KDD ‘24)

参考资料

官方平台文档(截至 2026-05):

学术:

  • Dathathri, S. 等(2024)。Scalable watermarking for identifying large language model outputs。Nature 634, 818–823。doi:10.1038/s41586-024-08025-4
  • Liang, W.、Yuksekgonul, M.、Mao, Y.、Wu, E. & Zou, J.(2023)。GPT detectors are biased against non-native English writers。Patterns 4(7), 100779。arXiv:2304.02819
  • Sadasivan, V. S.、Kumar, A.、Balasubramanian, S.、Wang, W. & Feizi, S.(2023)。Can AI-Generated Text be Reliably Detected? arXiv:2303.11156
  • Aggarwal, P. 等(2024)。GEO: Generative Engine Optimization。KDD ‘24。arXiv:2311.09735·ACM DL·本站论文条目
  • Puerto, H.、Gubri, M.、Green, C.、Oh, S. J. & Yun, S.(2025)。C-SEO Bench: Does Conversational SEO Work? NeurIPS ‘25 数据集与基准。arXiv:2506.11097

厂商页面(仅作盘点;不可靠性的论据见 §3):

常见问题

Google 会识别出我用了 ChatGPT 来写这篇文章吗?
Google 并未在生产环境中使用分类器来判断一段文字由人还是 AI 写成。它在 2023 年和 2024 年多次重申同一立场:在合理范围内借助 AI 完全没有问题;但如果为了操纵排名而批量生产内容,无论使用 AI、其他自动化工具还是人机协作,都违反垃圾内容政策。2024 年 3 月的核心更新推出「规模化内容滥用」政策,进一步明确了这一点:该政策适用于「自动化生产、人工生产,或两者结合生产」的内容。Google 判断的是内容模式和发布意图,而不是所用工具。
GPTZero、Originality.ai、Copyleaks、Pangram、Turnitin 这些 AI 检测器靠谱吗?
这些都是商业产品,厂商公布的准确率几乎都在 99% 以上,但独立的同行评议研究从未复现过这么高的准确率。Liang 等人在 Patterns 2023 发表的论文显示:使用常见检测器时,非英语母语者撰写的 TOEFL 作文有一半以上被误判为「AI 生成」;相比之下,美国八年级学生的英文作文几乎都被正确判定为人工写作。Sadasivan 等人 2023 年的论文则证明,简单改写就足以使这些检测器的准确率降至接近随机猜测。OpenAI 自行开发的分类器也已在 2023 年 7 月以「准确率过低」为由下线。任何分类器给出的分数,即使标为 99%,也只能作为置信度较低的参考,不能作为证据。
水印技术能解决这个问题吗?
目前还不能,至少无法由单一厂商解决。Google DeepMind 的 SynthID-Text(Nature 2024)是迄今最可信的生产级方案,已经在 Gemini 的生产环境中运行并开源;但只有模型输出未经改动时,才能从统计上检测到水印。只要文本经过一次改写、轻度人工编辑、由另一个不带水印的模型转译,或与不带水印的文本混合,水印便无法检出。不同厂商之间也缺乏统一约束:OpenAI、Anthropic、Meta、Google 使用不同方案,有些厂商甚至没有采用水印;各家的方案彼此不兼容,也没有统一规则要求它们相互兼容。截至 2026 年 5 月,没有任何一家在生产环境中运行的 AI 引擎把水印用作采信信号。
我能用 AI 写文章初稿吗?
可以,但要做到两点。第一,引擎惩罚的不是使用 AI 这件事本身,而是以下具体模式:批量滥用、捏造数据、伪造作者署名、堆砌 FAQ、Schema 标记越权宣称。只要初稿经过人工编辑,包含原创思路,并体现出可以核实的专业度,就不会落入上述模式。第二,真正构成正向信号的是模型难以批量伪造的第一手经验:实际使用过某款产品、写明真实地名和注明日期的具体事件、提供原始数据。引擎真正要判断的不是「这是不是人写的」,而是「是否有真实的人愿意为这些说法负责」。
那 AI 翻译的内容呢?
机器翻译本身并不是问题。真正会出问题的是以下几种情况:发布未经复核的翻译稿、原文本身内容单薄,或译文声称具备实际并不存在的专业度。引擎使用的判断信号与处理原文时完全相同:作者身份可以核实、论断准确且有出处、内容没有过时。一份内容扎实的稿件经过编辑润色和翻译后,可以被采信;只靠机器翻译批量生成的单薄稿件会被识别为规模化滥用,即使以原文语种发布,结果也相同。

延伸阅读

参考来源

一手来源

  1. Google Search's guidance about AI-generated content · Google Search Central · 2023-02-08
  2. Using AI-generated content · Google Search Central
  3. What web creators should know about our March 2024 core update and new spam policies · Google Search Central · 2024-03-05
  4. Spam Policies for Google Web Search · Google Search Central
  5. An update to our site reputation abuse policy · Google Search Central · 2024-11-19
  6. New AI classifier for indicating AI-written text · OpenAI · 2023-01-31
  7. SynthID — text watermarking · Google DeepMind
  8. Bing Webmaster Guidelines · Microsoft Bing
  9. Introducing AI Performance in Bing Webmaster Tools (Public Preview) · Microsoft Bing · 2026-02-09
  10. GEO: Generative Engine Optimization (Aggarwal et al., KDD '24) · arXiv · 2024-06-28
  11. GEO: Generative Engine Optimization (KDD '24 Proceedings) · ACM SIGKDD · 2024-08-25

二手来源

  1. Google updates Search spam policies to clarify it applies to generative AI responses · Search Engine Land
  2. Scalable watermarking for identifying large language model outputs (Dathathri et al., Nature 2024) · Nature
  3. GPT detectors are biased against non-native English writers (Liang et al., Patterns 2023) · arXiv / Patterns (Cell Press)
  4. Can AI-Generated Text be Reliably Detected? (Sadasivan et al. 2023) · arXiv
  5. C-SEO Bench: Does Conversational SEO Work? (Puerto et al., NeurIPS '25 D&B) · arXiv / NeurIPS '25 D&B
首次发布: 2026-05-21 最近更新: 2026-07-26 作者: Ray Yang 主题: 信号