訂閱以接收新文章的通知:

透過 Attribution Business Insights 揭開爬取行為的面紗

2026-07-01

閱讀時間:6 分鐘
本貼文還提供以下語言版本:EnglishFrançaisDeutsch日本語한국어PortuguêsEspañol (Latinoamérica)简体中文

原創內容是對話與好奇心的命脈。試想一個沒有原創內容的世界:我們或許能找到一千種方式去複製既有的素材,卻再也見不到新穎的觀點與論述誕生。

網站擁有者是推動創意、新聞及各類趣聞生態系統發展的核心力量,但他們正面臨日益複雜的挑戰:既要管理網站流量,又要為自己的內容取得應有的報酬。雖然某些機器人流量顯然帶有惡意,但要判斷某個特定的 AI 爬蟲究竟是在助力還是損害您的業務,往往並非易事。為此,網站擁有者需要細緻且可靠的數據,來區分哪些流量真正帶來價值,哪些流量只是在消耗資源,同時侵蝕其商業模式的基石——也就是實際閱讀內容的真人使用者。

在 Cloudflare,我們堅信一個核心原則:網站擁有者有權控制對其內容的存取。我們希望協助網站擁有者維護其高品質內容,並規範 AI 流量。

為了提供迫切需要的透明度,並幫助網站擁有者重掌主控權,我們很高興宣布推出全新的 Attribution Business Insights 儀表板,該儀表板專為商務決策者與內容發布者量身打造。

網際網路的新經濟學

數十年來,網際網路的商業模式依賴一種簡單而默契的共識:網站擁有者允許搜尋引擎爬取其內容,作為回報,搜尋引擎將讀者導回他們的頁面。這種共生關係中,傳統搜尋引擎維持著平衡的「爬取推薦」(crawl-to-referral) 比率,進而產生足以支撐廣告、聯盟收益與訂閱的頁面瀏覽量。搜尋索引爬蟲每帶來一次推薦流量,大約只會爬取內容數次;因此,向爬蟲開放網站意味著擁有了一條明確的創收途徑。我們可以將這段時期稱為 SEO(搜尋引擎最佳化)時代。

如今,AI 爬蟲和智慧體的爆炸性成長打破了這份契約,讓數位發佈產業陷入了前所未有的危機。網際網路正面臨轉變為「零點擊」生態系統的風險,在這樣的系統中,AI 聊天機器人會抓取原創內容來合成即時答案,而完全繞過了原始來源。我們已經目睹了從單純 SEO 世界向 AEO(答案引擎最佳化)世界的顯著轉變,而關於 GEO(生成式引擎最佳化)的討論也正日益成為焦點。

現今網際網路上呈現的「爬取推薦比率」,清楚地揭示了這種新現實中的失衡狀況。傳統搜尋引擎的爬取與合法推薦訪客比例相對平衡,但主流 AI 爬蟲卻以截然不同的掠奪性規模運作。根據觀察,各大 AI 公司的機器人呈現出極端的爬取對推薦比例:在 2025 年「內容獨立日」前後,我們記錄到的比例介於 118:1 到逼近 50000:1 之間。換言之,某個 AI 爬蟲可能爬取您的優質內容數萬次,卻只帶回一名訪客。這樣的比例根本上就是不公平。

對發布者而言,這是一記雙重打擊:首先,他們失去了至關重要的推薦流量、廣告曝光與直接的受眾關係——而這些正是支撐內容創作與新聞報道的經濟基礎。其次,他們被迫承擔節節攀升的基礎架構成本,用於託管內容並向那些無法提供任何商業回報的自動化機器人提供服務。那個為了被發現而放任所有爬蟲的時代,已經結束了。

推出 Attribution Business Insights

我們希望網站擁有者能掌握事實——也就是確切的數據,來瞭解哪些機器人在助力業務,哪些則在造成損害。同時,我們致力於簡化此分析流程,因此設計了 Attribution Business Insights 功能,旨在剔除幹擾訊息,專注於客戶認為最關鍵的細節。

即日起,所有 Cloudflare Bot Management 客戶皆可使用 Attribution Business Insights 儀表板。這款全新儀表板專為呈現流向您網站的機器人流量而設計;不同於需要耗時進行手動篩選的傳統分析工具,此儀表板能讓您立即掌握關鍵洞察。

我們旨在解答當今網站擁有者最關心的問題:應如何看待網站上的 AI 流量?不同受眾群體(包括人類使用者、非 AI 機器人及 AI 機器人)各自具備什麼價值?最重要的是,您的資料正被用於何處?

全新 Attribution Business Insights 儀表板檢視畫面,涵蓋整體機器人流量洞察、全站爬取推薦比率,以及 AI 機器人流量與自然流量的分布情形。

為了回答這些問題,儀表板顯示了一系列強大的數據和見解:

  • 內容頁面上的機器人流量:檢視整體的機器人與真人流量佔比,以及成功存取內容的所有機器人總量。

  • 爬取推薦比率:查看過去 24 小時、7 天或 30 天內的全站爬取推薦比率。您也可以查看每個機器人營運商(即擁有一個或多個機器人的公司)的爬取推薦比率。

  • 主要機器人細目:依流量排序的主要機器人清單,包含其來源國家/地區、佔用您網站的頻寬,以及您目前的封鎖或放行狀態。

  • 依據爬取行為更新的分類:我們不僅止於「AI 爬蟲」這類籠統標籤,而是透過更新的分類法進行歸類,涵蓋「訓練」(例如訓練新版 LLM 聊天機器人)、「搜尋」(例如更新檢索增強生成的資料庫),或「智慧體」(例如在智慧體互動中用於回覆終端使用者)。

從數據到商業策略

您無需成為安全專家,即可瞭解 AI 爬蟲如何影響您的業務。網站擁有者只需花幾分鐘查看概要洞察,就能清楚評估其內容安全策略的有效性。

對於希望進一步探究 AI 公司如何利用其內容,或是蒐集資訊以引導未來與 AI 公司合作關係的使用者,我們提供了依「機器人營運商」整理的更細緻檢視。

網站上的機器人活動細目,包含各機器人的重要細節,如類型、爬取推薦比率及當前處置動作。

透過統合檢視試圖存取您網站內容的各家公司,您可以建立更完善的爬蟲活動基準線。我們希望這些數據能讓客戶在進行任何商務談判時,都能以事實為後盾。您可以告訴 A 公司,其爬取量是 D 公司的二十倍,而 D 公司已開始為內容向您支付費用;也可以根據 B 公司近期的活動,重新審視其內容授權模式。這個新儀表板能推動商業對話向前發展。

那麼,這個新的可視性層級,如何與您現有用來保護網站免受濫用的工具相結合呢?與 Bot Management 的其他功能一致,動作執行步驟仍然在安全性規則中進行。為了避免在控制層面增加雜訊,Attribution Business Insights 的定位是一個經過深思熟慮、經過篩選的分析中心,而非另一個下達指令的場所。這個儀表板作為資訊的中央來源,讓您能在調查之後,再到管理其他濫用緩解措施的相同規則引擎中採取動作。我們也想明確地邀請企業決策者使用這個儀表板,因為我們深知,圍繞 AI 流量的對話,其利害關係人遠不止於資安專業人員。

下一步驟

Attribution Business Insights 儀表板是關鍵的下一步,它賦予網站擁有者所需的透明度與控制權,以應對不斷演變的 AI 機器人威脅,更廣義地說,也是為了重塑網際網路的新動態。我們已與密切合作的發布夥伴著手研究下一階段的功能,致力於建立一個可見性視圖,從擁有寶貴原創內容的網站擁有者視角出發,全面呈現安全態勢。

下方的搶先預覽包含了全新的檢視模式,可拆解單一文章的爬蟲活動,揭示 AI 公司對不同內容、不同活動等的偏好程度。

依流量排序的熱門文章細目。顯示關鍵指標,如 AI 機器人流量、其他機器人流量與真人流量(含直接流量與推薦流量)的對比。

可見性只是第一步,未來還會有更多功能,賦予網站擁有者在新時代掌控其內容的能力。我們鼓勵所有 Cloudflare Bot Management 客戶(尤其是那些推動商業對話的人)立即存取該儀表板,以全新的視角來看待分析數據。

我們保護整個企業網路,協助客戶有效地建置網際網路規模的應用程式,加速任何網站或網際網路應用程式抵禦 DDoS 攻擊,阻止駭客入侵,並且可以協助您實現 Zero Trust

從任何裝置造訪 1.1.1.1,即可開始使用我們的免費應用程式,讓您的網際網路更快速、更安全。

若要進一步瞭解我們協助打造更好的網際網路的使命,請從這裡開始。如果您正在尋找新的職業方向,請查看我們的職缺
內容獨立日AI機器人機器人管理安全性

在 X 上進行關注

Cloudflare|@cloudflare

相關貼文

2026年7月13日

Introducing Precursor: detecting agentic behavior with continuous client-side signals

Precursor, our new continuous behavioral validation engine for bot management, offers visibility into how humans and bots actually interact across the full user journey. By turning session-level behavior into bot detection signals, it identifies advanced automation with higher precision — while reducing friction for legitimate users....

2026年7月07日

Cloudflare proudly joins the UK government's Cyber Resilience Pledge

The pledge is a voluntary framework inviting organizations to commit to foundational cyber security governance, board-level accountability, and supply chain rigor. For over a decade, Cloudflare has pioneered the core pillars of this framework: democratizing security, leadership accountability, and radical transparency....