深度学习概述
什么是深度学习
深度学习是当前 AI 革命的引擎。从 GPT 到 Stable Diffusion,从 AlphaFold 到自动驾驶——这些突破都建立在深度学习之上。深度学习本质上是机器学习的一个分支,用多层神经网络来学习数据的层次化表示。
为什么要学深度学习
AI 的核心武器。 理解深度学习,你才能真正理解大模型、多模态 AI、生成式 AI 的底层原理。
面试必考。 CNN、RNN、Transformer、注意力机制——这些是 AI 面试的高频考点。
研究前沿的基础。 想做 AI 研究,深度学习是必须掌握的基础。
核心知识模块
神经网络基础
- 感知机与多层感知机(MLP)
- 反向传播算法
- 激活函数:ReLU、Sigmoid、Tanh、GELU
- 优化算法:SGD、Momentum、Adam、AdamW
- 正则化:Dropout、Batch Normalization
卷积神经网络(CNN)
- 卷积操作、池化
- 经典架构:LeNet、AlexNet、VGG、ResNet
循环神经网络(RNN)
- RNN、LSTM、GRU
Transformer 架构
- 自注意力机制(Self-Attention)
- 多头注意力(Multi-Head Attention)
- BERT、GPT、ViT
生成模型
- VAE、GAN、扩散模型
怎么学
先学吴恩达,再读 d2l。 吴恩达的课程帮你建立整体框架,d2l 帮你用 PyTorch 实现每个算法。
用 PyTorch 从零实现每个模型。 不要只调高级 API。
做 CS231n 实验。 从零实现 CNN。
本模块资源
| 资源 | 类型 | 说明 |
|---|---|---|
| 吴恩达 DL Specialization | 课程 | Andrew Ng 深度学习课程 |
| Stanford CS231n | 课程 | 计算机视觉 + 深度学习 |
| 动手学深度学习 | 教程 | d2l.ai,PyTorch 实现 |
| 深度学习(花书) | 教材 | Goodfellow 深度学习圣经 |