08 AI 工程、安全与伦理进阶本域第 5 篇

智能体与工具调用

让模型不再只是回答问题，而是能查资料、调接口、跑代码——并在每一步的结果之后再决定下一步

定义

智能体是由大模型驱动的系统，它能自主地把一个目标拆解为多步行动，通过调用外部工具（函数、API、代码解释器、浏览器）与外部世界交互，并根据每一步的反馈决定下一步。工具调用是其核心机制：模型输出结构化的调用请求，宿主程序执行后再把结果返回给模型。

直观理解

没有工具的模型像一位只能凭记忆作答的顾问；智能体则是给这位顾问配了电话、计算器、档案柜和能跑腿的助手。顾问负责判断“该做什么、先做什么”，工具负责“真的去做”。风险也随之而来：一个能打电话、能改文件的顾问，一旦判断失误，破坏力远大于一个只会说错话的顾问。

图 1

智能体的核心循环：观察、推理、选择并执行工具、再评估结果，直到任务完成或触发上限

图 2

智能体常见失败原因的分布（示意量级）：工具使用与循环控制合计占一半以上，说明可靠的工具接口与终止条件比“更聪明”更关键

01
工具定义与结构化输出
每个工具都有一份描述：名称、用途、参数结构与类型。模型不再生成自由文本，而是输出一段符合约定的结构化调用（常为 JSON）。描述写得含糊，模型就会误用或漏用工具——工具的“说明书”本身就是提示工程的一部分。
02
观察-思考-行动循环
以 ReAct 为代表的范式让模型反复经历：观察当前状态、推理下一步、选择一个行动、读取执行结果，再回到观察。循环终止于模型判断任务完成，或触发步数、时间与预算的上限。
03
记忆与状态管理
长任务会产生远超上下文窗口的历史。工作记忆保存当前步骤的中间结果，长期记忆把关键结论写入外部存储待后续检索。何时压缩、何时丢弃、何时写回，直接决定智能体能否稳定跑完一个长流程。
04
错误恢复与安全边界
工具会失败、参数会错、模型会绕圈。健壮的智能体需要重试、回退、换工具与自我纠错，并对不可逆操作（转账、删除、发信）设置人工确认与权限校验——自主性的每一分提升，都应在护栏上补回相应的分寸。