Jev 是最近在 AI 圈爆紅的一個詞，指的是用小型語言模型做「分類、路由、評分」這類簡單判斷，而不是產生一大段文字，訴求比一般大型語言模型快上許多倍、也便宜許多倍。NobodyWho 這篇文章的作者認為這個概念被過度炒作，於是動手寫了一個最精簡的版本，證明核心做法其實很單純。
作者用開源函式庫 llama-cpp-python，在本機載入量化過的 Qwen3-0.6B GGUF 模型，只跑一次前向運算，不取樣也不產生文字，抓出候選答案 token 的 logits，再用 softmax 轉換成機率分布，整段程式碼只有 25 行。
這篇文章之所以引起討論，是因為它示範了被包裝成「新典範」的 Jev，其實幾行程式碼就能在自己電腦上重現，不用呼叫付費 API，資料也不會外流。貼文在 Hacker News 上獲得超過 500 分，許多留言認為這做法業界早就在用，只是被重新包裝成新名詞。
對正在學程式的孩子來說，這是一個很好的例子：很多聽起來很厲害、很新潮的技術名詞，拆開來看常常是幾個已知觀念的組合，例如載入模型、讀取機率、做比較判斷。與其被名詞嚇到，不如學會把問題拆解成一步一步的小步驟，25 行程式碼能做到的事，往往比想像中多。
AI開源Python