深度学习

深度学习使用多层神经网络从数据中自动学习表示。它最重要的变化，是把过去依赖人工设计的特征提取过程也纳入训练，使图像、语音、文本等高维数据能够直接进入端到端模型。

深度学习解决了什么

传统机器学习处理表格数据时，人通常先设计“近 30 天购买次数”“平均客单价”等特征。处理图片时，人工设计边缘、纹理和形状特征很难覆盖真实变化。

深度网络可以逐层学习：

像素 -> 边缘 -> 纹理 -> 局部部件 -> 完整物体 -> 类别

语言模型则可以学习：

Token -> 局部搭配 -> 句法关系 -> 语义关系 -> 上下文任务

神经网络的基本组成

一个神经网络通常包含：

• 输入张量：图片、文本向量、音频频谱或结构化特征。
• 参数层：线性层、卷积层、Attention 层等。
• 激活函数：为网络引入非线性表达能力。
• 损失函数：把预测与目标的差异转换成训练信号。
• 优化器：根据梯度更新参数。
• 正则化：控制过拟合并提高泛化。

详细过程见神经网络与反向传播。

主要网络架构

架构	核心机制	典型场景
MLP	全连接层组合	表格数据、简单分类、其他网络头部
CNN	局部感受野和参数共享	图像、视频、频谱
RNN / LSTM	递归状态传递	传统序列建模、时序数据
Transformer	Attention 和并行序列建模	语言、视觉、语音、多模态
GNN	在图结构上传播信息	社交网络、分子、关系数据
Diffusion	逐步加噪并学习反向去噪	图像、音频和视频生成

详细比较见主要网络架构。

训练、迁移与推理

从零训练大型网络通常需要大量数据和算力。实际项目常采用迁移学习：

1. 选择在大数据上预训练的模型。
2. 替换或增加任务输出层。
3. 冻结部分参数，先训练新层。
4. 用较小学习率微调部分或全部网络。
5. 在独立数据上评估并部署。

推理阶段不再更新参数，但仍要处理预处理、批处理、显存、量化、延迟和输出后处理。

深度学习项目的主要成本

• 数据标注和质量控制。
• GPU 或专用加速器资源。
• 训练实验和参数搜索。
• 模型部署、压缩和监控。
• 数据漂移后的持续迭代。

规模更大的模型并不自动更好。模型选型要同时看精度、延迟、吞吐、显存、部署环境和维护能力。

阅读顺序

1. 神经网络与反向传播
2. 主要网络架构
3. 深度学习工程实践
4. AI 主要应用方向

掌握这一层后，应能解释模型如何从输入得到输出、训练时参数如何更新，以及不同数据结构为什么需要不同网络架构。