6、平台、部署与模型服务术语
| 术语 | 一句话解释 | 解决的问题 / 易混点 | 建议先看 |
|---|---|---|---|
| Coze | 偏零代码、模板化、快速搭建的 AI 平台 | 更适合快速验证、平台化操作体验 | 3、5 |
| Dify | 偏开发者和团队协作的 AI 应用平台 | 更适合工作流、知识库、API 调用和私有化部署 | 3、4、6 |
| Workflow | 固定或半固定的流程编排 | 在 Coze、Dify、LangGraph 中都会出现，但不等于 Agent | 3、4 |
| API Key | 接口调用身份凭证 | 不要和模型名、Base URL 混成一类 | 4、10 |
| Base URL | 接口地址根路径 | 决定请求发往哪里 | 10、11 |
| Ollama | 本地运行大模型的轻量工具 | 适合本地开发、个人学习、小规模本地部署 | 12 |
| Xinference | 统一托管多类模型的模型服务平台 | 更适合把 LLM、Embedding、Rerank 统一暴露出来 | 7 |
| 推理引擎 | 让模型高效运行的底层执行层 | 比如 vLLM、SGLang、Ollama、TEI，重点是跑模型 | 7 |
| 模型托管平台 | 统一管理和暴露模型的服务层 | 重点是统一入口、统一治理 | 7 |
| OpenAI 兼容 API | 模仿 OpenAI 风格的接口形态 | 目的是降低接入成本，不代表底层一定是 OpenAI 模型 | 7、11 |
| Docker | 容器化运行环境 | 重点不是虚拟机，而是可复制地打包和运行服务 | 8 |
| 镜像 / Image | 容器运行模板 | 更像应用快照 | 8 |
| 容器 / Container | 镜像启动后的运行实例 | 一个镜像可以启动多个容器 | 8 |
| 数据卷 / Volume | 容器外部持久化存储 | 删容器不一定删数据，关键看卷是否保留 | 8 |
| Docker Compose | 多容器服务编排工具 | 常用于一次性启动数据库、后端、前端等多服务 | 8 |