Appearance
AI 应用开发
AI 应用不是给模型套一个聊天界面。一个完整应用需要把用户输入、业务数据、模型、检索、工具、权限、状态和评估组织成可追踪的链路。
从模型到应用
| 层次 | 职责 | 典型组件 |
|---|---|---|
| 交互层 | 接收输入、展示结果、处理确认 | Web、App、语音、API |
| 编排层 | 组织上下文和执行步骤 | 工作流、Agent、状态机 |
| 能力层 | 理解、生成、识别、预测 | 大模型、视觉、语音、传统模型 |
| 知识层 | 提供可更新事实 | 搜索、RAG、数据库 |
| 工具层 | 查询状态或执行动作 | 业务 API、MCP、函数调用 |
| 治理层 | 控制质量与风险 | 鉴权、审计、评估、监控、限流 |
最小调用链路
最简单的大模型应用包含请求、模型和响应,但仍应处理:
- 模型、版本和参数配置。
- 超时、重试和限流。
- 输入长度和输出长度。
- 结构化输出校验。
- 请求日志、Token 和延迟。
- 敏感信息和错误降级。
外部知识与外部动作
模型有两类常见缺口:
- 不知道当前或企业内部事实,需要检索外部知识。
- 不能直接读取和改变业务系统,需要调用受控工具。
RAG 处理第一类问题,工具调用处理第二类问题。两者组合后,系统才可能基于资料查询实时状态并完成动作。
工作流与 Agent
固定流程优先使用代码或状态机,例如“检索 -> 生成 -> 引用校验”。只有步骤无法预先完全确定、需要根据中间结果动态选择工具时,才需要 Agent。
可靠系统通常是确定性工作流包围局部 Agent,而不是把全部控制权交给模型。
阅读顺序
完成这一层后,应能画出一次请求经过的全部组件,并为每个组件定义输入、输出、失败方式和验证标准。
