程式忍者PGNinja

GitHub Blog

Copilot Fusion 支援選用本機模型,雲端與裝置混合運算

· GitHub Copilot Fusion 新增本機模型支援,能在使用者自己的電腦與雲端模型之間自動切換,目前為實驗性預覽功能。

GitHub 為 Copilot Fusion 推出本機模型(local model)支援,讓系統可以在使用者自己電腦上跑的模型與雲端模型之間自動路由,挑選適合的一方來處理當下的請求。這個功能是接續微軟命令列團隊在 10 月 7 日公告的本機模型探索延伸而來,目前標示為「實驗性預覽」階段。

在 Windows 上,GitHub 提供了託管下載方案:Copilot CLI 可開啟實驗模式搭配 `/model` 指令使用,Copilot app 能在「設定 > 模型提供商」裡設定 Windows ML 並開啟本機模型自動路由,VS Code 則要打開 `chat.copilot.localModel.enabled` 這個設定。支援的託管模型是 MAI Code 1.1 Flash。另外也提供「自帶模型」(bring your own model)方案,可透過相容 OpenAI 介面的伺服器,在 Windows、macOS、Linux 上接上像 Qwen 3.8 Flash Next 這樣的模型。

文章特別強調一個容易被誤解的地方:「本機推論不代表這次對話是離線的」,因為 Copilot Fusion 仍然需要連到雲端才能做路由判斷,決定這次要用本機模型還是雲端模型處理。目前智慧路由在 Copilot app 裡只支援 Windows ML 模型,自帶模型方案也不會自動讓使用者取得 Copilot Fusion 的使用資格,本機模型的安全防護機制也可能和雲端模型不完全一樣。

對正在學程式的孩子來說,這篇比較偏產業面的技術細節,但背後的概念值得知道:AI 模型不一定都要連網路跑在很遠的伺服器上,也可以直接裝在自己的電腦裡執行,這和手機、筆電運算能力愈來愈強有關,是理解「邊緣運算」(edge computing)這類概念的一個真實例子。

AI開發工具GitHub Copilot

其他新聞