Clef 是 Cloudflare 推出的「決策模型」(decision model),搭配輕量版本 Clef-flash 一起開源,採用 Apache 2.0 授權在 Hugging Face 上公開。不同於一般生成式大型語言模型,決策模型只負責從固定選項中做分類判斷,例如把客服訊息標記成「緊急」或「一般」,Cloudflare 內部就用它來即時判斷網域的威脅等級。
技術上,Clef 以 Qwen 模型為基礎進行後訓練微調,採用非自迴歸的決策步驟,直接從模型內部表示中挑出對應的 schema 選項,並透過兩階段注意力機制處理輸入內容與跨欄位關聯。訓練時結合標籤平滑交叉熵與 Brier 損失,並搭配 Cloudflare 自行開發、能提供部分學分的 RLCD 演算法,來提升分類的精準度與泛化能力。
文章公開的效能數字顯示,Clef 的中位延遲為 209.3 毫秒、輕量版 Clef-flash 只要 38.8 毫秒,兩者都比對照的通用模型 Jev(524.1 毫秒)快上許多,在需要即時判斷的代理系統中具有明顯優勢。Cloudflare 同時推出新的強化學習微調服務,讓企業可以用自己的資料,在 AI Gateway、Workers AI 與 Containers 等既有基礎設施上微調並重新部署 Clef。
這則新聞偏向雲端與 AI 基礎設施的產業面,牽涉到模型訓練與大型系統架構,對剛開始學程式的孩子來說門檻較高。不過它說明了一個有用的概念:AI 系統不是只有「聊天機器人」一種形式,像分類、判斷這類需要快速又固定答案的任務,業界會特別設計更小、更快的專用模型來處理,這對未來想往 AI 領域發展的學生是值得認識的方向。
AI開源雲端機器學習