
它的意思
一般的聊天只回答一次:您問,它答。代理式系統則是以迴圈運作。它先看目標,選擇一個動作,使用工具(例如讀取檔案、執行指令或呼叫 API),查看結果,再決定下一步。它會一直重複,直到任務完成或卡住為止。
Claude Code 與 Codex 等程式開發工具就是這樣運作。電腦科學界數十年來以「智慧型代理」之名研究軟體代理。改變的是,語言模型現在可以根據以白話寫成的目標,自行選擇下一步。模型仍可能信心十足地出錯,正如我們的 Transformer 模型頁面所說明,因此這個迴圈需要設限。
為什麼這對企業很重要
- 限縮存取範圍:代理只能破壞它碰得到的東西。只給它完成工作所需的最小存取權限。
- 核准步驟:任何難以復原的步驟都應由人核准,並在上線前檢視結果。
- 紀錄:您無法復原自己不知道的動作,所以請記錄代理執行的每個指令與更動的每個檔案。
- 成本:迴圈每跑一次都會計費,而漫無目的的任務會跑很多次。
這在我們的工作中如何體現
我們的工程師在軟體開發中使用程式開發代理,而代理寫出的任何內容,都必須經過人工審查才會上線。在 AI 與自動化專案中,我們會與客戶約定自動化工具可以讀取或更動哪些系統,並保存其執行紀錄。討論的一部分,是哪些公司資料可以送到 AI 服務。代理以金鑰登入,這點我們在 AI API 金鑰中說明。
相關服務
瞭解更多
- 維基百科上的智慧型代理電腦領域中代理的長期定義,適合想了解背景的讀者。
- Claude Code 文件以一款代理工具及其權限模型,作為此概念的實際範例。