今天，我們很高興地宣布 Ensemble AI 團隊的核心成員正式加入 Cloudflare，協助加速我們在 AI 基礎架構上的研發，並讓開發人員能以更高效、更具規模的方式執行強大的 AI 模型。
Ensemble AI 於 2023 年在舊金山成立，過去幾年專注於解決 AI 領域中最關鍵的挑戰之一：在不犧牲品質的前提下，讓大型模型更快、更小、更具成本效益。該團隊開發了一系列全新的模型壓縮與高效推斷方法，旨在降低大型語言模型與多模態架構所需的記憶體、運算資源與部署負擔。
隨著 AI 成為開發人員打造應用程式的核心部分，推斷的經濟效益變得比以往更加重要。模型規模持續擴大，工作負載日益動態化，而客戶也越來越期望 AI 能在全球各地可用：分布在全球、速度快、可靠且價格合理。將 Ensemble AI 團隊納入 Cloudflare，將強化我們實現這一目標的能力。
Ensemble AI 團隊致力於在降低執行成本的同時，保留現代 AI 模型的內部結構。他們並不將模型效率視為單純的量化或硬體問題，而是探索新的模型建置區塊，從架構層面讓神經網路更精簡、更高效。
其中核心技術之一是 NdLinear，這是一種可直接取代 Transformer 模型中標準線性層的方案，能直接對多維度活化值進行運算，而不是將結構扁平化。這讓模型能保留有意義的軸向，例如注意力頭 (heads)、通道 (channels)、空間維度或其他結構化表示，同時減少參數量與運算需求。Ensemble 也開發了 NdLinear-LoRA，這是一種高效的微調適應方法，可降低大型模型在微調時所需的訓練參數數量。
這些方法可與其他效率提升技術（包括量化與向量量化）相輔相成，共同指向一個未來：開發人員能以大幅降低的記憶體、運算與成本需求來執行功能強大的 AI 模型。
Cloudflare Workers AI 讓開發人員能在我們的全球網路上直接使用無伺服器 GPU 推斷。隨著開發人員打造更多 AI 原生應用程式，高效提供模型的能力已成為平台的關鍵要素。
推斷成本是擴展 AI 應用程式的最大障礙之一。每一次在模型大小、記憶體佔用、輸送量與 GPU 使用率上的改善，都能讓 AI 對開發人員而言更易於使用，對客戶來說也更經濟實惠。這一點尤其重要，因為 AI 工作負載正從簡單的文字產生，擴展到智慧體、多模態模型、個人化、微調、擷取與強化學習等領域。
我們正持續深化對核心機器學習能力的投入，讓 Workers AI 更快、更靈活、更具成本效益。這建立在現有的模型效率最佳化工作上，包括我們的自研推斷引擎 Infire、張量壓縮技術 Unweight，以及支援超大語言模型的執行平台。該團隊將專注於改善大型語言模型及其他先進 AI 架構的推斷經濟性，重點放在模型效率、GPU 使用率與可擴展部署上。
AI 基礎架構正進入一個新階段。開發人員不再只需要能存取模型，更需要能夠可靠、低成本且在靠近使用者的位置執行模型的基礎架構。他們需要能自由嘗試不同模型大小、微調方法與部署模式，而不被成本或營運複雜度所阻礙。
Cloudflare 具備獨特優勢來解決這些挑戰。我們的全球網路、開發人員平台與無伺服器架構，為我們將 AI 帶到應用程式已經執行的地方提供了基礎。Workers AI 機器學習工程團隊將協助我們最佳化支撐此體驗的效率層。
透過結合 Cloudflare 的全球基礎架構與 Ensemble 在模型壓縮及高效架構方面的成果，我們能持續打造一個平台，讓開發人員能以更低的成本、更佳的效能與更少的營運開銷來部署 AI 應用程式。
我們將攜手持續打造所需基礎架構，讓 AI 更高效、更易取得，並對全球開發人員而言更具實用價值。我們的目標很簡單：協助開發人員以全球規模執行強大的 AI 工作負載，同時改善 Cloudflare 平台上推斷的經濟效益。如果您有意加入我們的行列，歡迎查看我們的徵才頁面。