大模型应用开发 -上下文工程与运行空间实践指南
📖 内容导航
| 章节 | 关键内容 | 状态 |
|---|---|---|
| 上下文组成 | 解释上下文的七个核心组成部分,以及为什么它们决定了大模型应用的效果 | 🚧 |
| <strong>第一部分:上下文工程基础技术</strong> | ||
| 第一章 数据持久化 | 介绍传统数据库(MySQL、MongoDB、Redis 等)在大模型应用中的作用:状态存储、用户数据、日志记录 | 🚧 |
| 第二章 向量存储和嵌入模型 | 语义检索的底层原理、嵌入模型的选择与评测、主流向量数据库的特性 | 🚧 |
| 第三章 知识图谱 | 知识的结构化表达、实体关系抽取、知识图谱与向量检索的互补 | 🚧 |
| 第四章 RAG技术 | 从检索增强生成(RAG)的流程拆解到优化方法,涵盖索引构建、检索策略、融合方式 | ✅ |
| <strong>第二部分:上下文组成工程实践</strong> | ||
| 第五章 系统提示词模块 | 系统提示词的设计方法:输出规范、边界约束、多角色指令,如何平衡稳定性与灵活性 | 🚧 |
| 第六章 工具管理模块 | 工具(API、函数、MCP)的注册与调度,调用结果的解析与注入,常见框架中的实现方式 | ✅ |
| 第七章 用户记忆模块 | 长期/短期记忆管理,用户画像构建,记忆存储与检索策略,隐私与安全考量 | 🚧 |
| 第八章 会话存储模块 | 会话历史的截断、压缩与检索;如何在有限上下文窗口内保留对话连贯性 | ✅ |
| 第九章 结构化输出模块 | JSON/XML/CSV 等结构化输出的约束与解析,如何让 LLM 严格遵循格式要求 | ✅ |
| 第十章 相关上下文模块 | 如何动态选择与任务最相关的上下文(检索、排序、过滤、融合) | 🚧 |
| 第十一章 LLM模块 | 上下文工程中LLM的设计架构 | ✅ |
| <strong>第三部分:上下文管理</strong> | ||
| 第十二章 上下文管理 | 上下文裁剪、压缩、去重、隔离(quarantine)等策略,性能指标与评估方法 | ✅ |
| 第十三章 Token压缩策略 | 各类压缩方法对比:摘要、向量聚合、句子窗口检索,结合真实应用案例 | ✅ |
| <strong>第四部分:Agent架构设计</strong> | ||
| <strong>第五部分:Agent评估</strong> | ||
| <strong>第六部分:上下文工程实践项目</strong> |