从第一性原理看大模型Agent技术

第一性原理 (First Principles )是指从最基本的原理出发进行思考和解决问题的方法

一、从 Prompt 工程到 Agent 的技术演进历程

1. Prompt 工程：利用 Prompt 提示的方式调用 LLM 完成简单任务
2. Prompt 外挂：为弥补 LLM 的局限性，提供外部插件和工具
3. 分解与组合：将复杂任务拆分为多个子任务，提高任务完成能力
4. 反馈：引入反馈机制，让LLM的输出反馈为下一次输入
5. Agent：实现闭环感知、决策、执行的智能体
6. Multi-Agent：多个Agent协同工作，提高任务规模和复杂度

二、通用智能基本原理

1. 认知架构的双系统假说：系统1快速反应，系统2逻辑思考
2. 面向目标架构：消除当前状态和目标状态差异的过程

三、面向目标架构的应用现状和局限性

1. GPS：基于目标状态搜索可达解空间
2. PDL：过程描述语言，通过目标状态反向搜索执行过程
3. 软件工程中的应用：声明式编程面向目标，过程式编程面向过程

四、Agent技术发展方向

1. Central Executive：明确内部决策过程
2. Memory：区分工作记忆和长期记忆
3. Sensory：支持多模态输入
4. Motor：优化输出方式，提高带宽
5. Learning：判断自身可靠性，控制输出权威性
6. World Models：整合信息，构建无矛盾知识体系

原文：https://mp.weixin.qq.com/s/PL-QjlvVugUfmRD4g0P-qQ