代理程式執行框架
圍繞模型建構程式碼,打造出一個可以放心交付真實工具的代理程式:涵蓋迴圈、工具、上下文、權限、沙箱、子代理與測試,並以一個小型 Python 函式庫的維護代理程式為例。
適合對象 寫給已經呼叫過模型 API、並做出示範用代理(agent)的工程師。現在,你必須做出一個能在真實工具上運作、而且不需要有人盯著每一步的代理。讀者會寫 Python,並熟悉 JSON 與 HTTP。不需要具備模型內部原理或 MCP 的背景知識。
在 Kindle 或任何電子閱讀器上閱讀
此 EPUB 亦可於 Apple Books、Kobo 及多數電子閱讀器上閱讀。
傳送至 Kindle
將本版次的 EPUB 寄送至 繁體中文.
-
核准我們的地址
Amazon 只會從您已核准的地址將內容寄送到 Kindle,且每個寄送服務都須個別核准。請將我們的地址加入您的「已核准的個人文件電子郵件清單」。
books@rollingedition.com開啟 Amazon 的個人文件設定. 在 Amazon 上,路徑為「管理您的內容和裝置」、「偏好設定」、「個人文件設定」。
已傳送。幾分鐘內將會出現在你的 Kindle 書庫中。
如果未能送達,幾乎都是第 1 步的核准設定出了問題:請確認 books@rollingedition.com 已列入你的「已核准的個人文件電子郵件清單」。
您已儲存之書籍的每個新版次,也會送達您的 Kindle。
這不是 Kindle 地址。地址應以 @kindle.com 結尾,可在 Amazon 的個人文件設定中找到。
你今天已寄送 {count} 本書,這是單一帳戶一天的寄送上限。請明天再試。
今日的書籍寄送已達上限。請明日再試。
本書未能寄出。請於數分鐘後再試。
本版次檔案過大,無法以電子郵件寄送。
傳送至 Kindle 功能隨 Labs 提供。
這不是 Kindle 地址。地址應以 @kindle.com 結尾,可在 Amazon 的個人文件設定中找到。
本書未能寄出。請於數分鐘後再試。
或下載 EPUB 檔,並將其拖曳至 Amazon 的 Send to Kindle 頁面。
Kindle is a trademark of Amazon.com, Inc.
目錄
12 章,閱讀時間約 7 小時 46 分鐘,附有64 個範例。
-
1為模型配備工具與迴圈
讀完本章後,你可以讓模型在迴圈中執行,並為它配備三項工具:一項讀取檔案,一項執行測試,一項以修改後的檔案作為結束。
-
2在完成或卡住時停止迴圈
讀完本章後,你能從 harness 為每次執行記錄的一個詞,說明該次執行為何停止,也能加入兩條規則,讓不再有進展的執行結束。
-
3給模型不會誤用的工具
讀完本章後,你可以為模型提供一組工具,由框架(harness)在任何工具執行之前先檢查其引數,並寫出模型能據以行動的拒絕訊息。
-
4為腳本式、重播式、本機與託管模型提供單一介面
讀完本章,你可以用同一個迴圈,分別執行腳本式模型、重播的執行紀錄、本機模型,以及相容 OpenAI 的端點,而不必更動迴圈。
-
5讓上下文在任務變長時仍然有用
讀完本章,你將能算出一次執行的提示詞還有多少空間,在測試框架無法精確計數時估算提示詞的大小,並在壓縮一次執行的較早步驟時,不把工具呼叫與其結果拆開。
-
6為會改動內容的工具設下關卡
讀完本章後,你可以讓代理程式的修改一直留在它自己的副本中,直到有人點頭同意;也可以檢查這個同意是否涵蓋那個人所讀過的確切修改,並把拒絕的決定交還給代理程式,作為它的執行被中止的原因。
-
7在沙箱中執行代理程式的程式碼,並讓機密不被它看見
讀完本章後,你可以為代理程式執行指令,並設定時間限制、每個行程的記憶體、CPU 與檔案大小上限、由允許清單建立的環境變數,以及作為工作資料夾的暫存副本。
-
8把子任務交給子迴圈,再把停止交回去
讀完本章,你就能把一個子任務交給擁有自己步數預算的子迴圈,並取回一份摘要和一個停止原因,而不是子迴圈的整份對話紀錄。
-
9將 Harness 連接到 MCP 伺服器
讀完本章後,你可以將 harness 連接到其他人營運的 MCP 伺服器,讓每個伺服器的工具以不會與 harness 自有工具衝突的名稱呈現,並讓每一次對這些工具的呼叫都經過核准閘門。
-
10測試代理程式,再用任務集衡量它
讀完本章後,你能用預先寫好的回覆來測試 harness,用一條「完成」的判定規則在任務集上為代理程式評分,並連同誤差範圍一起說明所得的數量。
-
11追蹤每次執行並計算其成本
讀完本章後,你能讓每次執行為每個步驟寫出一筆記錄,存入日後的讀者可以解析的檔案;為每筆記錄加上 ID,將它與所屬的執行和呼叫連結起來;並說明該次執行耗用了多少 token。
-
12當代理不是正確的設計時
讀完本章後,你能將案例中的任何任務歸類為固定管線、單次模型呼叫,或附有關卡的代理,並說明已記錄的執行結果對該任務顯示了什麼。