视频封面

视频元信息

  • 视频标题:3.2 神经网络的表现形式(Neural Network Representation)
  • 所属课程:吴恩达深度学习专项课程 - 神经网络与深度学习(第一门课)
  • 章节:第三周 浅层神经网络(Shallow Neural Networks)
  • 课程语言:中英双语(官方字幕)
  • 视频主题:讲解含单个隐藏层的两层神经网络的结构、各层命名、符号表示约定以及参数维度

内容摘要(TL;DR)

本视频以「单隐藏层神经网络」为例,逐一命名神经网络的各个组成部分:输入层、隐藏层、输出层。重点讲解神经网络的两大符号约定——方括号上标表示层号、隐藏层不计入层数(因此叫"2层神经网络") ,并给出各层参数矩阵 W 和向量 b 的维度,为后续前向传播计算打基础。


一、神经网络结构图与各部分命名 [00:00]

本节从一张神经网络示意图出发,为图中每个部分命名。

1. 输入层(Input Layer)

图中最左侧是输入特征,记为 x₁、x₂、x₃,这一列节点构成输入层。

  • 输入层负责接收原始特征数据。
  • 理解:输入层本身不做计算,它只是把特征 x 传递给下一层。

2. 隐藏层(Hidden Layer)

中间一列圆圈构成隐藏层。

"隐藏层"这个名字的由来是本节的关键考点:在训练集中,我们只能观察到输入 x 和输出 y 的真实值,但中间这些节点的真实值(应该等于多少)是无法在训练集中被观测到的。正因为"看不见",所以称为"隐藏层"。

  • 训练集包含:输入 x 的值、输出 y 的值。
  • 但隐藏层节点的"正确值"在训练集中并未给出,因此得名 hidden layer。
  • 易错点:不要误以为"隐藏"是指网络结构不可见,它指的是训练数据中观测不到中间层真值。

3. 输出层(Output Layer)

最右侧单个节点构成输出层,负责生成预测值 ŷ(y hat) 。

  • 输出层只有一个节点(在二分类/逻辑回归场景下)。
  • 该节点负责输出最终预测结果。

二、神经网络中的符号表示约定 [01:34]

本节介绍如何用符号表示各层的值,这是后续所有公式的基础。

1. 用 a 表示各层传递的值

视频引入另一种记法:用 a 表示神经网络各层之间传递的值(激活值)。

  • 输入层传递的值就是 x,因此可记为 a⁰ = x。
  • 理解:a 来源于 "activation"(激活),表示经过该层计算后输出的值。

2. 方括号上标表示"层号"

核心符号约定:神经网络中用方括号上标 [l] 明确表示该值/参数来自第几层。

  • 例如 a^[1] 表示第 1 层的输出,a^[2] 表示第 2 层的输出。
  • 易错点(重点区分):
    • 方括号上标 [ ] → 表示层号(layer)
    • 圆括号上标 ( ) → 表示第几个训练样本(如 x^(i) 是第 i 个样本)
    • 二者不要混淆。

3. 各层输出示例

  • 输入层:a^[0] = x(3 维输入向量)
  • 隐藏层:a^[1] 是一个 4 维向量(因为该层有 4 个隐藏单元)
    • 也可写成 4×1 矩阵,或 4 列向量
    • 之所以是 4 维,是因为该隐藏层有 4 个节点(4 个隐藏单元)
  • 输出层:a^[2] 是一个实数,即 ŷ = a^[2]

推导:层内节点数决定了该层输出向量的维度。隐藏层 4 个节点 → a^[1] 是 4 维;输出层 1 个节点 → a^[2] 是标量。

4. 与逻辑回归的对比

  • 在逻辑回归中,只有输出层,所以直接写 ŷ = a,不需要方括号上标。
  • 在神经网络中,因为有多层,必须用方括号上标明确"来自哪一层"。

三、层数的计数约定:为什么叫"2层神经网络" [03:11]

本节讲解神经网络层数计数的一个"反直觉"约定。

考点:神经网络的层数不计算输入层。

  • 隐藏层 = 第 1 层
  • 输出层 = 第 2 层
  • 输入层记为第 0 层(layer 0),但不算作正式层。
  • 严格来说,这个网络有 3 层结构:输入层 + 隐藏层 + 输出层。
  • 但在惯例、所有研究论文以及本课程中,都把这种网络称为 2 层神经网络。
  • 原因:输入层不被视为一个"正式层"。

易错点:面试或考试中,"这个网络是几层?"的答案是 2 层(含 1 个隐藏层),不是 3 层。判断依据是不计输入层。


四、各层参数及其维度 [03:52]

本节介绍每层关联的参数 W 和 b,并给出维度。

1. 隐藏层(第 1 层)的参数

  • 参数记为 W^[1] 和 b^[1](方括号上标 1 表示属于第 1 层)。
  • W^[1] 是 4×3 矩阵:
    • 第一个坐标 4 = 该层有 4 个隐藏单元(4 个节点)
    • 第二个坐标 3 = 有 3 个输入特征
  • b^[1] 是 4×1 向量(4 个隐藏单元对应 4 个偏置)。

推导:W^[l] 的维度规律为(本层节点数 × 上一层节点数)。隐藏层 4 节点、上一层(输入层)3 节点 → 4×3。

2. 输出层(第 2 层)的参数

  • 参数记为 W^[2] 和 b^[2]。
  • W^[2] 是 1×4 矩阵:
    • 输出层 1 个单元 × 隐藏层 4 个隐藏单元 → 1×4
  • b^[2] 是 1×1(即一个标量,1 个输出单元对应 1 个偏置)。

3. 维度规律小结

层 参数 维度 含义
隐藏层(第1层) W^[1] 4×3 4个隐藏单元 × 3个输入特征
隐藏层(第1层) b^[1] 4×1 4个隐藏单元的偏置
输出层(第2层) W^[2] 1×4 1个输出单元 × 4个隐藏单元
输出层(第2层) b^[2] 1×1 1个输出单元的偏置

记忆口诀:W^[l] 的维度 = (第 l 层单元数,第 l-1 层单元数)。这是后续推导矩阵维度是否匹配的通用方法。

思考:视频提到参数维度将在后续视频详细展开,此处只需先建立"维度由相邻两层节点数决定"的直觉即可。


五、本节小结与下节预告 [04:56]

  • 本节完整展示了一个含 1 个隐藏层的 2 层神经网络长什么样。
  • 明确了输入层、隐藏层、输出层的命名与作用。
  • 建立了符号约定:a^[l]、W^[l]、b^[l] 中的方括号上标表示层号。
  • 下节预告:将深入讲解这个神经网络具体在计算什么——即如何从输入 x 一步步计算到输出 ŷ(前向传播)。

关键标签 / 关键词

神经网络表示 单隐藏层 输入层 隐藏层 输出层 2层神经网络 层数计数约定 方括号上标 激活值a 参数W和b 矩阵维度 4×3矩阵 1×4矩阵 前向传播 吴恩达深度学习 浅层神经网络


生成时间:2026-10-10 21:41:44 生成平台:VideoNote www.xygy.top