線上探索內容和開展業務的方式正快速演變。過去,流量主要來自傳統搜尋引擎,SEO 決定了誰能排在前面。如今,越來越多的流量來自 AI 爬蟲與智慧體,它們需要的是結構化資料,而這些資料往往隱藏在原本為人類設計的非結構化網頁中。
作為一家企業,要持續保持領先,現在不僅要考慮人類訪客,或是傳統的 SEO 最佳化思維,更要開始將智慧體視為一類公民來對待。
將原始 HTML 提供給 AI,就像按字付費去讀包裝,而不是讀裡面的信件。頁面上一個簡單的 ## About Us Markdown 語法,大約花費 3 個詞元 (token);而其 HTML 等效語法 – <h2 class="section-title" id="about">About Us</h2> – 則消耗 12 到 15 個詞元,這還不計入每個真實網頁中那些沒有語意價值的 <div> 包裝、導覽列和 script 標籤。
您正在閱讀的這篇部落格文章,在 HTML 格式下佔用了 16,180 個詞元,轉成 Markdown 後僅需 3150 個詞元,減少了整整 80%。
Markdown 已迅速成為智慧體乃至整個 AI 系統的通用語言。該格式明確的結構使其非常適合 AI 處理,最終能在最小化詞元浪費的同時,獲得更好的結果。
問題在於,網路是由 HTML 構成的,而不是 Markdown,而且多年來網頁的「重量」持續增加,使得頁面難以解析。對於智慧體而言,它們的目標是濾除所有非必要元素,掃描相關內容。
將 HTML 轉換為 Markdown 現在已成為任何 AI 流程中常見的一步。儘管如此,這個過程遠非理想:它浪費了運算資源,增加了成本和處理複雜性,而且最重要的是,這可能並非內容創作者最初預期其內容被使用的方式。
如果 AI 智慧體可以直接從來源取得結構化的 Markdown,而不必經歷繁瑣的語意分析與文件轉換,會怎麼樣呢?
Cloudflare 網路現已支援在來源端即時轉換內容,適用於已啟用內容協商標頭的區域。現在,當 AI 系統從任何使用 Cloudflare 並啟用了 Markdown for Agents 功能的網站請求頁面時,它們可以在請求中指定使用 text/markdown 格式。我們的網路會在條件允許的情況下,自動且有效率地將 HTML 即時轉換為 Markdown。
其運作方式如下。若要從啟用 Markdown for Agents 的區域中取得某頁面的 Markdown 版本,用戶端需在請求中加入 Accept 協商標頭,並將 text/markdown 列為選項之一。Cloudflare 會偵測此標頭,向源站取得 HTML 版本,然後在回應前自動將其轉為 Markdown 提供給用戶端。
以下是一個使用 curl 的範例,帶有 Accept 協商標頭,向開發人員文件發出請求:
curl https://developers.cloudflare.com/fundamentals/reference/markdown-for-agents/ \
-H "Accept: text/markdown"
或者,如果您使用 Workers 建置 AI 智慧體,則可以使用 TypeScript:
const r = await fetch(
`https://developers.cloudflare.com/fundamentals/reference/markdown-for-agents/`,
{
headers: {
Accept: "text/markdown, text/html",
},
},
);
const tokenCount = r.headers.get("x-markdown-tokens");
const markdown = await r.text();
我們已觀察到,目前一些最受歡迎的編碼代理,如 Claude Code 和 OpenCode,在請求內容時都會帶上這些 Accept 標頭。而現在,這些請求的回應就會以 Markdown 格式提供。就是這麼簡單。
HTTP/2 200
date: Wed, 11 Feb 2026 11:44:48 GMT
content-type: text/markdown; charset=utf-8
content-length: 2899
vary: accept
x-markdown-tokens: 725
content-signal: ai-train=yes, search=yes, ai-input=yes
---
title: Markdown for Agents · Cloudflare Agents docs
---
## What is Markdown for Agents
The ability to parse and convert HTML to Markdown has become foundational for AI.
...
請注意,我們在轉換後的回應中加入了一個 x-markdown-tokens 標頭,用來表示該 Markdown 文件的估計詞元數量。您可以在流程中使用這個值,例如計算上下文視窗的大小,或決定您的分段策略。
其運作原理圖如下:
在去年的生日週期間,Cloudflare 宣佈推出「內容訊號」——這是一個框架,允許任何人表達他們對於其內容在被存取後該如何被使用的偏好。
當您回傳 Markdown 時,您需要確保您的內容能被智慧體或 AI 爬蟲所使用。這就是為什麼 Markdown for Agents 轉換後的回應中,包含了 Content-Signal: ai-train=yes, search=yes, ai-input=yes 標頭,這表示該內容可用於 AI 訓練、搜尋結果與 AI 輸入(包含代理程式使用)。Markdown for Agents 未來將提供選項,讓您定義自訂的內容訊號政策。
請查閱我們專門的內容訊號頁面,以瞭解更多關於此框架的資訊。
在 Cloudflare 部落格與開發人員文件中試用
我們已在開發人員文件和部落格中啟用此功能,邀請所有 AI 爬蟲和智慧體使用 Markdown 格式(而非 HTML)來取用我們的內容。
現在就試試看,使用 Accept: text/markdown 請求此部落格。
curl https://blog.cloudflare.com/markdown-for-agents/ \
-H "Accept: text/markdown"
得到的結果是:
---
description: The way content is discovered online is shifting, from traditional search engines to AI agents that need structured data from a Web built for humans. It’s time to consider not just human visitors, but start to treat agents as first-class citizens. Markdown for Agents automatically converts any HTML page requested from our network to markdown.
title: Introducing Markdown for Agents
image: https://blog.cloudflare.com/images/markdown-for-agents.png
---
# Introducing Markdown for Agents
The way content and businesses are discovered online is changing rapidly. In the past, traffic originated from traditional search engines and SEO determined who got found first. Now the traffic is increasingly coming from AI crawlers and agents that demand structured data within the often-unstructured Web that was built for humans.
...
如果您正在建置的 AI 系統需要轉換來自 Cloudflare 外部的任意文件,或者內容來源未提供 Markdown for Agents 功能,我們提供了其他將文件轉換為 Markdown 以用於應用程式的方法:
為了因應 AI 系統瀏覽網路方式的轉變,Cloudflare Radar 現在包含了針對 AI 機器人與爬蟲流量的內容類型解析,這些資訊可以在全球層級的 AI 深入解析頁面,以及個別機器人資訊頁面上找到。
新增的 content_type 維度與篩選器,會顯示回傳給 AI 智慧體和爬蟲的內容類型分佈情況,並依照 MIME 類型類別進行分組。
您也可以查看特定智慧體或爬蟲針對 Markdown 的請求。以下是向 OAI-Searchbot(OpenAI 用於驅動 ChatGPT 搜尋的爬蟲)傳回 Markdown 的請求:
這些新資料將使我們能夠追蹤 AI 機器人、爬蟲和智慧體隨時間推移取用 Web 內容的方式的演變。與以往一樣,Radar 上的所有內容都可透過公用 API 和 Data Explorer 免費存取。
若要為您的網域啟用 Markdown for Agents,請登入 Cloudflare 儀表板,選取您的帳戶,再選取該區域,在「快速動作 (Quick Actions)」中找到並開啟「Markdown for Agents」的切換按鈕。此功能現已推出測試版,免費提供給 Pro、Business 和 Enterprise 方案的客戶以及 SSL for SaaS 客戶。
您可以在我們的開發人員文件中找到更多關於 Markdown for Agents 的資訊。在我們持續改進和增強此功能的過程中,歡迎提供您的回饋意見。我們很好奇,隨著網路的演進,AI 爬蟲和智慧體將如何導覽並適應其非結構化的本質。