程式忍者PGNinja

Hacker News

開發者釋出 Kev,可本地訓練的小型決策模型

· 開發者 Jared Palmer 開源 Kev,一套可在本機訓練與執行的小型決策模型,基於 Qwen3.5 打造。

Kev 是開發者 Jared Palmer 釋出的開源決策模型系列,目的是讓開發者能在自己的電腦上訓練與執行類似 Jev 的小型決策模型,不必仰賴外部 API 服務。專案提供 0.8B、4B、9B 三種參數規模,方便依照硬體條件挑選使用。

Kev 以 Qwen3.5 作為基礎模型,加上秩為 16 的 LoRA 適配器與指針頭架構,用來處理是非題、多選題與評分題三種決策格式。核心技巧是「注意力遮罩隔離機制」:模型在同一次推論中可以同時處理多個問題,每個問題都能讀取共用狀態與自身指令,但彼此之間互不可見,藉此確保每個判斷都是獨立且準確的。

專案訓練資料只用了一萬筆公開範例,Kev-9B 在新領域測試的準確度達到 0.852,信心誤差經校正後從 0.106 降到 0.042,並支援在 CUDA 與 Apple Silicon 上運行。這種「小而準」的路線提供了另一種思路,因此在 Hacker News 上獲得三百多點讚與熱烈討論。

這則新聞對正在學程式的孩子很有參考價值:它示範了不是所有 AI 應用都需要巨大的模型與昂貴的雲端 API,用一台個人電腦,加上公開的基礎模型與少量資料,就能訓練出解決特定問題的小工具。這也呼應程式忍者一貫的想法,先把問題想清楚,再挑合適大小的工具來解決,而不是一味追求「越大越好」。

AI開源機器學習開發工具

其他新聞