智能体运行框架
围绕模型构建代码,打造一个可以放心让其使用真实工具的智能体:循环、工具、上下文、权限、沙箱、子智能体和测试,并以一个面向小型 Python 库的维护智能体为例。
适合谁 本书写给这样的工程师:你已调用过模型的 API,也做过演示用的智能体,现在必须做出一个能在真实工具上运行、无需有人逐步盯守的智能体。你会用 Python 编写代码,了解 JSON 和 HTTP。无需具备模型内部原理或 MCP 方面的背景知识。
在 Kindle 或任意电子阅读器上阅读
EPUB 格式也适用于 Apple Books、Kobo 及大多数电子阅读器。
发送到 Kindle
将本版次的 EPUB 发送至 简体中文.
-
批准我们的地址
亚马逊仅向您已批准的地址所发送的内容投递至 Kindle,且每项邮件服务须单独批准。请将我们的地址添加到您的已批准个人文档电子邮件列表中。
books@rollingedition.com打开亚马逊的个人文档设置. 在亚马逊上,该选项位于“管理您的内容和设备”、“偏好设置”、“个人文档设置”下。
已发送。几分钟后将出现在您的 Kindle 书库中。
如果未能送达,几乎总是第 1 步的批准设置有问题:请检查 books@rollingedition.com 是否已列入您的已批准个人文档电子邮件列表。
您已保存图书的每个新版次也将发送到您的 Kindle。
这不是 Kindle 地址。地址应以 @kindle.com 结尾,可在亚马逊的“个人文档设置”中找到。
你今天已发送{count}本图书,这是单个账户一天可发送的最大数量。请明天再试。
今日可发送的书籍已达上限。请明天再试。
图书未能发送,请几分钟后重试。
本版次体积过大,无法通过电子邮件发送。
发送到 Kindle 功能随 Labs 提供。
这不是 Kindle 地址。地址应以 @kindle.com 结尾,可在亚马逊的“个人文档设置”中找到。
图书未能发送,请几分钟后重试。
或者下载 EPUB 文件,并将其拖放到亚马逊的“发送至 Kindle”页面。
Kindle is a trademark of Amazon.com, Inc.
目录
12章,阅读约需 7小时 53分钟,包含 64个示例。
-
1为模型配上工具和循环
读完本章,你可以让模型在一个循环中运行,并为它提供三个工具:一个读取文件,一个运行测试,一个以修改后的文件结束任务。
-
2在任务完成或陷入停滞时停止循环
读完本章,你应当能够根据测试框架为每次运行记录的那一个词,说明这次运行为何停止,并能添加两条规则,用来结束已经不再取得进展的运行。
-
3给模型一套无法误用的工具
读完本章,你将能够为模型提供一套工具:在任何工具运行之前,由运行框架(harness)先检查其参数;你还将能够写出模型可以据以行动的拒绝信息。
-
4脚本化、回放、本地与托管模型的统一接口
读完本章,你将能在脚本化模型、回放的运行记录、本地模型和兼容 OpenAI 的端点上运行同一个循环,而无需改动循环本身。
-
5在任务增长时保持上下文有用
读完本章,你将能够计算一次运行的提示词还剩多少空间,在运行框架无法精确计数时估算提示词的大小,并在压缩一次运行较早的步骤时,不把工具调用与其结果拆开。
-
6为会修改内容的工具设置关卡
学完本章,你将能够把智能体的改动保留在它自己的副本中,直到有人表示同意;能够检查这个同意是否覆盖了对方所读到的那一处确切改动;还能把一次拒绝作为运行终止的原因交还给智能体。
-
7在沙箱中运行智能体的代码,并让机密不进入它的视野
学完本章,你可以为智能体运行一条命令,并为它设置时间限制、按进程计的内存上限、CPU 上限和文件大小上限,使用由允许列表构建的环境,并以一份临时副本作为它的工作目录。
-
8把子任务交给子循环,再交回一次停止
读完本章,你可以把一个子任务交给拥有独立步数预算的子循环,并得到一份摘要和一个停止原因,而不是子循环的完整记录。
-
9将运行框架连接到 MCP 服务器
读完本章,你将能够把测试框架连接到由他人运行的 MCP 服务器,以不会与框架自带工具名称冲突的名称查看每个服务器的工具,并让对其中任何一个工具的每次调用都经过审批关卡。
-
10测试智能体,再用任务集衡量它
学完本章,你可以用预先写好的回复脚本测试智能体的运行框架,用统一的“完成”标准在任务集上给智能体打分,并给出带有范围的计数。
-
11追踪每次运行并统计其开销
读完本章,你应当能够让每次运行为每一步写下一条记录,并保存到后续读者可以解析的文件中;为每条记录赋予 ID,把它与所属的运行和具体的调用关联起来;并能以词元数说明一次运行的开销。
-
12当智能体是错误的设计时
读完本章,你可以将本案例中的任意一项任务归入固定流水线、单次模型调用或带关卡的智能体三类之一,并说明记录下来的运行结果对该任务显示了什么。