Agent系统学习日志-1

1. 相对于工作流Workflow，智能体Agent的核心特征：工作路径不是提前定好，而是由LLM根据情况实时决定的

2. 只有问题足够复杂、规则难以维护、依赖非结构性交互的时候，才需要构造智能体

3. 智能体的三个核心部分：模型Model、工具Tools、提示词Instructions

   • 简单的任务可以用更小的模型；推荐一开始所有任务都用强模型，先确定基准，再逐渐逐个模块替换为弱模型，从而优化成本

   • 智能体需要三种类型的工具：

     1. 数据Data，例如数据库、网络搜索、文档读取
     2. 行动Action，例如发送电子邮件、转交工单
     3. 编排Orchestration，智能体本身也可作为工具，例如写作智能体、调研智能体

   • 提示词可以借助其他高级模型来生成，几个tips：使用现有文档、分解成小任务减少歧义、明确操作步骤、注意边界情况

4. 智能体的编排，可以分为单智能体系统和多智能体系统

   • 单智能体以循环调用的方式能够解决大部分问题，当以下情况出现时可以考虑搭建多智能体系统：

     1. 逻辑复杂，提示词中包含很多分支语句，模板难以扩展
     2. 工具过载，工具数量太多，或者它们之间功能有重叠

   • 广泛使用两种设计模式来搭建多智能体系统：

     1. Manager，由一个中央管理器智能体来调用其他智能体，也就是把其他智能体作为可调用的工具
     2. Decentrallzed，智能体之间是对等的关系，根据各自的专长交接任务

5. 几种类型的围栏：相关性分类器（标记话题无关内容）、安全分类器（检测越狱输入）、个人敏感信息过滤、有害信息检测（暴力、仇恨言论等）、工具安全（工具权限、风险管理）、长度限制、价值观等等