订阅以接收新文章的通知:

内容独立日:无补偿,无 AI 爬虫!

2025-07-01

4 分钟阅读时间
这篇博文也有 English한국어Español (Latinoamérica)日本語版本。

近 30 年前,斯坦福大学的两名研究生——拉里·佩奇(Larry Page)和谢尔盖·布林(Sergey Brin)——开始进行一个名为 Backrub 的研究项目。当然,正是该项目催生了 Google。但其意义还不止于此:它开创了 Web 的商业模式。

Google 与内容创作者达成的协议很简单:让我们复制你的内容用于搜索,我们会为你带来流量。作为内容创作者,你可以通过以下三种方式之一从这些流量中获得价值:投放广告、销售订阅,或者仅仅因知道有人在消费您的内容而愉悦。

Google 为这一切提供了便利。搜索产生流量。他们收购 DoubleClick 并打造了 AdSense,以帮助内容创作者投放广告。随后,他们收购 Urchin 并推出 Google Analytics,从而能够让您衡量任何给定时刻谁在查看您的内容。

近三十年来,这种关系定义了 Web,并使其得以蓬勃发展。

但这种关系正在发生变化。Google 搜索次数出现其历史上的首次下降。什么正在取而代之?AI。

如果您和我一样,一定会对过去两年推出的新型 AI 系统感到惊叹,并发现自己正转向它们来回答那些过去可能会求助于 Google 的问题。虽然目前为时尚早,但未来 Web 的界面似乎更可能形似 ChatGPT,而非简洁的搜索框加十条蓝色链接。

Google 本身已经改变。十年前,Google 提供一个链接列表,并表示成功就是让用户尽快离开他们的网站,但如今 Google 增加了一个回答框,最近还增加了 AI Overviews,让在用户无需离开 Google.com 即可获得问题的答案。Google 报告称,借助回答框功能, 75% 的查询无需离开 Google 即可得到解答。随着最近 AI Overviews 的推出,其影响力甚至更高。

尽管 Google 的用户可能会喜欢这个功能,但这正在损害内容创作者。Google 仍然复制创作者的内容,但在过去十年中,由于“搜索”用户界面的变化,内容创作者获得相同流量的难度增加了近十倍。这意味着,通过广告、订阅来创造价值或获得知晓有人关注您创作内容的满足感,难度增加了十倍。

而这还是好消息。使用现在的 AI 工具,情况甚至还要更糟糕。使用 OpenAI,获得流量的难度比使用 Google 高出 750 倍。使用 Anthropic 时,难度要增加 3 万倍。原因很简单:我们越来越多地消费衍生内容,而不是原创内容。

问题在于,无论您创建内容是为了销售广告、销售订阅,还是只是为了知道人们重视您所创建的内容,AI 驱动的 Web 回报内容创作者的方式都不同于过去以搜索驱动的 Web。这意味着 Google 通过发送流量来换取内容的交易不再有意义。

这不再是公平的交易,Web 正在被 AI 爬虫掠夺,内容创作者几乎无法获得任何流量,因此也几乎无法实现任何价值。

从今天(7 月 1 日)起,这一局面将彻底改变 —— 我们将其称为 “内容独立日”。Cloudflare 与全球大多数头部内容发布者和 AI 企业一起将默认规则改变为:除非 AI 爬虫向创作者支付内容费用,否则将被阻止。内容是驱动 AI 引擎的燃料,因此内容创作者直接获得报酬才公平合理。

BLOG-2860 2

但这仅仅是开始。接下来,我们将努力打造一个市场平台,让各类内容创作者与大小 AI 企业可汇聚一堂。流量向来并非价值的理想替代指标。我们认为,我们可以做得更好。让我来解释一下。

把 AI 引擎想象成一块瑞士奶酪。填充 AI 引擎这块瑞士奶酪其中一个孔洞的全新、原创内容,比当下充斥 Web 的大量重复性低价值内容更具价值。

BLOG-2860 3

我们认为,如果我们能开始对内容进行评分和定价,不是根据它产生的流量多少,而是根据它在多大程度上促进了知识——衡量标准是它在多大程度上填补了 AI 引擎“瑞士奶酪”中的现有孔洞——我们不仅将帮助 AI 引擎更快地变得更好,还可能促成一个高价值内容创作的全新黄金时代。

我们尚未知晓所有答案,但正与一些顶尖经济学家和计算机科学家合作探索解决方案。

BLOG-2860 4

Web 正在发生变化。其商业模式将会改变。在此过程中,我们有机会从过去 30 年 Web 的卓越之处中汲取经验,并为未来的 Web 打造更优体验。

Cloudflare 的使命是帮助构建更好的互联网。我为我们在 Web 发展过程中所发挥的这一作用感到自豪。我感到自豪的是,我们正在帮助内容创作者坚持立场,并为他们辛苦创作的内容争取应有的价值。

内容独立日快乐!

BLOG-2860 5

我们保护整个企业网络,帮助客户高效构建互联网规模的应用程序,加速任何网站或互联网应用程序抵御 DDoS 攻击,防止黑客入侵,并能协助您实现 Zero Trust 的过程

从任何设备访问 1.1.1.1,以开始使用我们的免费应用程序,帮助您更快、更安全地访问互联网。要进一步了解我们帮助构建更美好互联网的使命,请从这里开始。如果您正在寻找新的职业方向,请查看我们的空缺职位
Pay per crawlAI BotsAI

在 X 上关注

Matthew Prince|@eastdakota
Cloudflare|@cloudflare

相关帖子