Building the Document Context Layer for AI Agents - Jerry Liu, LlamaIndex

关键观点

1. 01

   RAG已从固定管线升级为智能体系统

   早期RAG把文档切块、生成嵌入、写入向量数据库，再取Top-K结果交给LLM生成答案，每一步都是预设的。现代智能体把检索复杂性纳入自身推理循环，可以选择关键词、改写查询并多次调用工具。RAG因此不再等同于向量检索，而应理解为智能体架构与上下文层的组合。

   为什么重要: 设计重点应从优化单次Top-K检索，转向让智能体能够规划、验证和迭代使用上下文。

   支撑证据

   يتكون RAG بشكل أساسي من بنية الوكيل بالإضافة إلى طبقة السياق.

   早期RAG把文档切块、生成嵌入、写入向量数据库，再取Top-K结果交给LLM生成答案，每一步都是预设的。现代智能体把检索复杂性纳入自身推理循环，可以选择关键词、改写查询并多次调用工具。RAG因…展开观点

   早期RAG把文档切块、生成嵌入、写入向量数据库，再取Top-K结果交给LLM生成答案，每一步都是预设的。现代智能体把检索复杂性纳入自身推理循环，可以选择关键词、改写查询并多次调用工具。RAG因…展开观点收起观点

   早期RAG把文档切块、生成嵌入、写入向量数据库，再取Top-K结果交给LLM生成答案，每一步都是预设的。现代智能体把检索复杂性纳入自身推理循环，可以选择关键词、改写查询并多次调用工具。RAG因此不再等同于向量检索，而应理解为智能体架构与上下文层的组合。

   为什么重要: 设计重点应从优化单次Top-K检索，转向让智能体能够规划、验证和迭代使用上下文。

   支撑证据

   يتكون RAG بشكل أساسي من بنية الوكيل بالإضافة إلى طبقة السياق.

2. 02

   上下文正在取代模型能力成为主要价值瓶颈

   更强的模型并不会自动产生业务价值，它仍需获得正确任务、明确目标和组织内部知识。上下文既包括网页搜索，也包括工具、技能、MCP服务器、数据仓库和文档库。演讲者据此提出“上下文就是一切”，强调连接和提取组织知识的重要性。

   为什么重要: 企业构建智能体时，数据接入、权限和证据质量可能比继续更换模型更值得投入。

   支撑证据

   في الواقع، نعتقد أن السياق هو كل شيء.

   更强的模型并不会自动产生业务价值，它仍需获得正确任务、明确目标和组织内部知识。上下文既包括网页搜索，也包括工具、技能、MCP服务器、数据仓库和文档库。演讲者据此提出“上下文就是一切”，强调连接…展开观点

   更强的模型并不会自动产生业务价值，它仍需获得正确任务、明确目标和组织内部知识。上下文既包括网页搜索，也包括工具、技能、MCP服务器、数据仓库和文档库。演讲者据此提出“上下文就是一切”，强调连接…展开观点收起观点

   更强的模型并不会自动产生业务价值，它仍需获得正确任务、明确目标和组织内部知识。上下文既包括网页搜索，也包括工具、技能、MCP服务器、数据仓库和文档库。演讲者据此提出“上下文就是一切”，强调连接和提取组织知识的重要性。

   为什么重要: 企业构建智能体时，数据接入、权限和证据质量可能比继续更换模型更值得投入。

   支撑证据

   في الواقع، نعتقد أن السياق هو كل شيء.

3. 03