Skip to content

AI 应用开发

AI 应用不是给模型套一个聊天界面。一个完整应用需要把用户输入、业务数据、模型、检索、工具、权限、状态和评估组织成可追踪的链路。

AI 应用架构

从模型到应用

层次职责典型组件
交互层接收输入、展示结果、处理确认Web、App、语音、API
编排层组织上下文和执行步骤工作流、Agent、状态机
能力层理解、生成、识别、预测大模型、视觉、语音、传统模型
知识层提供可更新事实搜索、RAG、数据库
工具层查询状态或执行动作业务 API、MCP、函数调用
治理层控制质量与风险鉴权、审计、评估、监控、限流

最小调用链路

最简单的大模型应用包含请求、模型和响应,但仍应处理:

  • 模型、版本和参数配置。
  • 超时、重试和限流。
  • 输入长度和输出长度。
  • 结构化输出校验。
  • 请求日志、Token 和延迟。
  • 敏感信息和错误降级。

详见模型 API 与结构化输出

外部知识与外部动作

模型有两类常见缺口:

  1. 不知道当前或企业内部事实,需要检索外部知识。
  2. 不能直接读取和改变业务系统,需要调用受控工具。

RAG 处理第一类问题,工具调用处理第二类问题。两者组合后,系统才可能基于资料查询实时状态并完成动作。

工作流与 Agent

固定流程优先使用代码或状态机,例如“检索 -> 生成 -> 引用校验”。只有步骤无法预先完全确定、需要根据中间结果动态选择工具时,才需要 Agent。

可靠系统通常是确定性工作流包围局部 Agent,而不是把全部控制权交给模型。

阅读顺序

  1. 模型 API 与结构化输出
  2. AI 应用架构
  3. 第一个 AI 应用:知识库问答
  4. RAG 与工具调用
  5. MCP
  6. AI 智能体

完成这一层后,应能画出一次请求经过的全部组件,并为每个组件定义输入、输出、失败方式和验证标准。

别急,先让缓存热一下。