程式忍者PGNinja

Hacker News

研究團隊提出潛在空間推理的混合式 AI 代理架構

· 新論文提出 HybridAgent 框架,讓 AI 代理在潛在空間中思考、以文字與外部工具互動,兼顧效率與透明度。

這篇論文由研究團隊發表於 arXiv,提出名為 HybridAgent 的混合推理代理框架。論文指出,現在的大型語言模型代理幾乎完全靠文字進行推理與行動,雖然過程透明、方便呼叫工具,但效率偏低,而純粹在潛在空間裡推理雖然快,卻難以呼叫外部工具,也難以讓人看懂推理過程,這篇論文想同時解決這兩個問題。

作者設計了 HybridLink 輕量元件,讓模型在「潛在空間思考」與「用文字行動」間切換,並搭配混合上下文工作記憶,在多輪對話中保留完整資訊。訓練上先用 HybridSFT 讓模型學會混合兩種模式,再用 HybridRL 強化學習,教模型判斷何時該在潛在空間思考、何時該用文字行動。

論文在數學、科學、醫學、搜尋、代理推理等 11 個基準測試,顯示 HybridAgent 比現有最強方法表現提升 10.4%,token 減少 35.5% 到 54.7%,速度快 1.8 到 2.6 倍,成本省下 2.7 到 3.7 倍。作者把程式碼與資料公開在 GitHub,方便研究者重現實驗結果。

這篇偏向學術研究論文,牽涉強化學習與語言模型內部表示法等進階概念,對剛接觸程式的孩子來說確實不容易直接理解。不過它背後的想法,讓 AI 該用簡短的方式思考就簡短、該講清楚解釋的時候才講清楚,其實跟我們平常教孩子寫程式要「先想清楚再動手、該寫註解的地方才寫註解」的道理有點像,可以當成聊天的切入點。

AI開源人工智慧代理機器學習

其他新聞