吴恩达深度学习第1课 3.1：神经网络概览

视频封面

视频元信息

课程来源：吴恩达深度学习专项课程（Deep Learning Specialization）
章节归属：第三周 / 3.1 神经网络概览（Neural Network Overview）
视频类型：概念概览课（Overview / 导论）
核心主题：从逻辑回归过渡到神经网络，理解神经网络的前向计算与反向计算结构

内容摘要（TL;DR）

本节是本周课程的概览视频，不涉及复杂推导。核心思想是：神经网络本质上就是把逻辑回归单元"堆叠"起来重复多次。逻辑回归是"一次 z 计算 + 一次 a 计算 + 一次反向传播"；神经网络则是"多次 z 和 a 计算（前向）+ 多次反向计算（反向传播）"。视频重点介绍了方括号上标表示层、圆括号上标表示训练样本这一关键符号约定。

一、课程定位与学习建议 [00:00]

本节是本周的"概览课"，目的是让大家先建立整体印象，细节会在后续视频中逐步展开。

本周的目标是实现一个神经网络（implement a neural network）。
本视频在深入技术细节之前，先给出一个快速概览（quick overview），说明本周会看到什么内容。
重点提醒：如果本视频中的细节没有完全跟上，不必担心。后续几个视频会深入技术细节，本节只要求建立直觉。

易错点/学习建议：本节出现大量新符号（如上标方括号），初次接触容易混淆。不要试图在这一节就完全掌握所有符号，先记住"神经网络 = 逻辑回归重复多次"这一核心直觉即可。

二、回顾逻辑回归的计算图 [00:23]

上一周学习的是逻辑回归（logistic regression），它对应一个特定的计算图（computation graph）。
逻辑回归的计算流程：
1. 输入特征 x和参数 w、b；
2. 计算 z（线性组合：z = wᵀx + b）；
3. 由 z 计算 a（激活值，a = σ(z)）；
4. 其中 a 与输出 ŷ 是等价的（可互换使用）；
5. 最后计算损失函数 L（loss function）。

理解：逻辑回归的"计算图"是理解神经网络的基础。它把一个完整的预测过程拆解为"线性部分（z）→ 非线性激活（a）→ 损失（L）"三个环节。

逻辑回归计算流程总结（黑色·客观记录）：

步骤	计算内容	说明
输入	x, w, b	特征与参数
第 1 步	z = wᵀx + b	线性计算
第 2 步	a = σ(z)	激活计算，a ≡ ŷ
第 3 步	L(a, y)	计算损失

三、神经网络的结构：堆叠的 Sigmoid 单元 [00:49]

神经网络可以通过堆叠大量小的 sigmoid 单元（little sigma units）来构成。
在逻辑回归中，一个节点（node）对应两步计算：
1. 计算 z 值；
2. 计算 a 值。
在神经网络中：
- 第一组节点（层）：对应一组 z 计算和一组 a 计算；
- 后续节点（层）：对应另一组 z 计算和另一组 a 计算。

理解：这就是"神经网络 = 逻辑回归的多次重复"这一核心直觉的图形化表达。每一个神经元都是一个微型的逻辑回归单元。

关键直觉：神经网络就是把逻辑回归单元一层层堆叠起来，每一层都做"线性 + 激活"的计算。

四、关键符号约定：方括号上标 vs 圆括号上标 [01:26]

这是本视频最重要的知识点，也是后续所有课程的基础符号体系。

4.1 方括号上标 `[ ]` 表示"层"

使用 上标方括号 1（superscript square bracket 1），即 [1]，表示与第一层（layer 1）相关的量。
使用 上标方括号 2，即 [2]，表示与第二层（layer 2）相关的量。
这些方括号上标指的是神经网络中不同的层（layer 1、layer 2）。

4.2 圆括号上标 `( )` 表示"训练样本"

上标圆括号（superscript round brackets）用来表示单个训练样本。
例如：x⁽ⁱ⁾ 表示第 i 个训练样本。

4.3 两者对比（核心易混点）

符号形式	含义	示例
`[1]`、`[2]` 方括号	神经网络的不同层	z^[1], a^[1], z^[2], a^[2]
`(i)` 圆括号	第 i 个训练样本	x^(i), y^(i)

考点/易错点：方括号上标 [ ] 和圆括号上标 ( ) 绝对不能混淆！

方括号 → 层（layer）

圆括号 → 样本（example）

这是吴恩达课程中反复强调的符号约定，后续所有公式都依赖它。

五、神经网络的前向计算流程 [01:30]

以两层神经网络为例，前向计算（forward computation）流程如下：

输入特征 x 以及参数 w、b；
计算 z^[1]（第一层的线性计算）；
计算 a^[1]，即 a^[1] = σ(z^[1])（与逻辑回归类似，使用 sigmoid 激活）；
使用另一个线性方程计算 z^[2]；
计算 a^[2]；
a^[2] 是神经网络的最终输出，与 ŷ 可互换使用。

前向传播公式链（黑色·客观记录）：

z^[1] = W^[1]x + b^[1]
a^[1] = σ(z^[1])
z^[2] = W^[2]a^[1] + b^[2]
a^[2] = σ(z^[2]) ≡ ŷ

理解：注意第二层的输入是第一层的输出 a^[1]，而不是原始特征 x。这种"层层传递"正是"深度"网络的本质。

六、核心直觉：神经网络 = 逻辑回归重复多次 [02:59]

逻辑回归：z 计算 → a 计算（一次）；
神经网络：z 计算 → a 计算 → z 计算 → a 计算（多次）；
最后计算损失（loss）。

关键直觉（本视频反复强调）：神经网络就是把逻辑回归的计算过程重复多次。

思考：可以这样类比——逻辑回归是"单层"的神经元，神经网络则是把这些神经元串联/堆叠起来，让前一层学到的特征成为后一层的输入，从而逐层提取更抽象的特征表示。

七、反向传播（Backward Calculation）概览 [03:21]

回顾逻辑回归：为了计算导数，有一个反向计算过程，计算 dA、dZ 等。
神经网络同样会进行一个反向计算（backward calculation）：
- 计算 dA^[2]、dZ^[2]；
- 计算损失；
- 计算 dW^[2]、db^[2] 等。
这是一个从右到左的反向计算，图中用箭头（real arrows）标注方向。