程式忍者PGNinja

GitHub 熱門專案

NVIDIA 推出 OpenShell,限制 AI 代理人存取權限

· NVIDIA 開源 OpenShell,讓 AI 代理人在沙箱中執行任務,避免任意存取檔案與密鑰。

OpenShell 是 NVIDIA 開源的專案,目標是打造安全、私密的執行環境,讓自主 AI 代理人能真正執行讀取檔案、安裝套件、呼叫 API、管理密鑰等任務。過去代理人要嘛完全沒有權限,要嘛權限整個開放,OpenShell 想解決的正是這種兩難。

技術上,OpenShell 靠兩層機制把關。第一層是核心層級的沙箱隔離,限制代理人能存取的檔案、系統呼叫與網路連線,密鑰只在核准的請求中才注入,代理人本身看不到。第二層是政策審查,變更若讓代理人碰到新主機或新權限,系統會自動標記,交由人工複核。專案主要以 Rust 開發。

這個專案這幾天登上 GitHub 熱門榜,主要是因為它抓住了 AI 代理人爆紅之後的一個真實痛點:大家都想讓代理人自動做事,但又怕它亂改檔案、亂打 API、甚至外洩密鑰。OpenShell 由 NVIDIA 主導開發,並強調自己是用「代理人驅動」的工作流程打造出來的,也讓社群格外關注它是否真的好用。

對正在學程式的孩子或家長來說,OpenShell 本身偏向企業與資安領域,不是入門專案,但它點出一個很實用的觀念:任何程式只要能自動執行動作,就必須想清楚「它可以做什麼、不可以做什麼」,這也是資訊安全最基本的精神。換句話說,這一則比較偏產業面,重點在於未來用程式或 AI 工具時,並替它設下清楚界線。

RustAI 代理人資安開源

其他新聞