PS5LM 是開發者 cobanov 在 GitHub 上公開的專案,讓已經越獄的 PlayStation 5 搭配 llama.cpp 執行引擎,變成可以放在家裡的私人語言模型伺服器,讓筆電、手機或編碼工具等多台裝置都能透過網路呼叫主機的 GPU 來跑 AI 模型,不需要額外電腦、雲端服務或帳號。
實作上,PS5LM 透過 llama.cpp 的 Vulkan 後端,在 PS5 的 RDNA 2 GPU 上運算,利用約 11.4GB 共享記憶體載入模型,需先安裝 kstuff-lite 等越獄工具才能執行,並支援任何 GGUF 格式模型,提供與 OpenAI、Anthropic API 相容的介面。
這個專案的有趣之處在於把一台家用遊樂器主機變成能跑語言模型的伺服器,實測在 Qwen 3.5 9B 上能跑到每秒 55 個 token,在 Qwen 3.8 27B 上約每秒 20 個 token,對一台遊戲機來說算是相當不錯的速度,吸引許多玩硬體改裝的玩家與開發者在 GitHub 上討論與貢獻,目前已有 485 顆星、29 個分支。
這類專案對學程式的孩子來說是很好的例子,說明「硬體破解+開源軟體」能玩出官方沒設計過的新用途,也展示了動手改裝、閱讀別人程式碼、在 GitHub 上參與開源專案的真實樣貌,不過要提醒,越獄遊樂器可能違反使用條款或保固規定,比較適合當作了解技術原理的參考,而非鼓勵真的動手破解自己的主機。
開源硬體改裝語言模型