
它的含义
普通的对话只回答一次:您提问,它回复。智能体式系统则在循环中运行。它查看目标,选择一个动作,使用工具(如读取文件、运行命令或调用 API),查看结果,再决定下一步做什么。它会不断重复,直到任务完成或陷入困境。
Claude Code 和 Codex 这样的编程工具就是这样工作的。计算机科学几十年来一直以“智能体”(intelligent agent)之名研究软件代理。如今的变化在于,语言模型可以根据用通俗语言写成的目标选择下一步。模型仍可能言之凿凿地出错,正如我们关于 Transformer 模型的页面所解释的,因此这个循环需要设定限制。
为什么它对企业重要
- 最小访问范围:智能体只能破坏它能触及的东西。只授予它完成工作所需的最小访问权限。
- 审批环节:任何难以撤销的步骤都应由人批准,并在上线前查看结果。
- 日志:您无法撤销自己不知道的操作,所以要记录智能体运行的每条命令和修改的每个文件。
- 成本:循环的每一轮都按模型使用量计费,而漫无目的的任务会跑很多轮。
这在我们的工作中如何体现
我们的工程师在软件工作中使用编程智能体,智能体写出的任何内容,在经人审阅之前都不会上线。在 AI 与自动化项目中,我们会与客户约定自动化工具可以读取或更改哪些系统,并保留它所做操作的记录。沟通内容还包括哪些公司数据可以发送给 AI 服务。智能体通过密钥登录,我们在 AI API 密钥中对此有说明。
相关服务
了解更多
- 维基百科上的智能体计算领域中长期沿用的智能体定义,供想了解背景的读者参考。
- Claude Code 文档一款智能体工具及其权限模型,作为这一理念的实际范例。