视频封面

视频元信息

  • 所属课程：吴恩达深度学习专项课程 - 神经网络和深度学习（第一门课）
  • 章节：2.7 计算图（Computation Graph）
  • 视频时长：约 3 分 31 秒（211 秒）
  • 课程类型：官方中英双语字幕

内容摘要（TL;DR）

本节介绍计算图（Computation Graph） 的概念。神经网络的训练由前向传播（计算输出）和反向传播（计算梯度）两个步骤组成。吴恩达通过一个简单例子 J = 3(a + bc) 演示如何将计算过程拆解为若干中间变量，并用有向图表示。前向传播（蓝色箭头，从左到右）用于计算代价函数 J 的值，而反向传播（红色箭头，从右到左）用于计算导数，这是后续讲解梯度下降的基础。

一、神经网络计算的组织方式 [00:00]

本节开篇指出神经网络的计算组织方式。

  • 神经网络的计算通常分为两个阶段：
    1. 前向传播步骤（Forward Propagation / Forward Pass）：计算神经网络的输出。
    2. 反向传播步骤（Backward Propagation / Backward Pass）：用于计算梯度（Gradients）或导数（Derivatives）。

考点：前向传播负责"算输出"，反向传播负责"算梯度"。这两个步骤是理解整个深度学习训练流程的核心框架，后续所有内容（逻辑回归、神经网络）都围绕这两步展开。

理解：可以把前向传播看作"从输入推结果"，反向传播看作"从结果倒推每个参数对结果的影响程度（导数）"。

二、用具体例子引出计算图 [00:21]

视频通过一个简单函数来演示计算图。

  • 假设要计算的函数为：J = 3 × (a + b × c)
  • 为了用计算图表示，先引入中间变量，将复杂计算拆解为多个小步骤：
    1. 设 u = b × c
    2. 设 v = a + u
    3. 最后 J = 3 × v

理解：把一个大计算拆成若干"原子"小步骤，每一步只做一次简单运算，这正是计算图的核心思想——分而治之。

易错点：视频转录中 "u = b × c" 和 "J = v × v" 存在语音识别错误，实际应为 u = b × c、J = 3 × v（即 J = 3(a + bc)）。学习时请以数学逻辑为准，不要被转录错误误导。

三、计算图的绘制 [01:15]

将上述三步计算用有向图表示。

  • 计算图的节点与边：
    • 输入变量：a、b、c 位于图的左侧。
    • 第一步：b 和 c 通过乘法得到 u = b × c。
    • 第二步：a 和 u 通过加法得到 v = a + u。
    • 第三步：v 与常数 3 相乘得到最终输出 J = 3 × v。
  • 图中用蓝色箭头表示数据从左向右流动，即前向传播方向。

思考：计算图本质上是一个有向无环图（DAG），每个节点代表一次运算，边代表数据的流动方向。这种结构让"链式法则"求导变得非常自然。

四、代入数值验证 [02:03]

用具体数字走一遍前向计算。

  • 设 a = 5，b = 3，c = 2：

    • u = b × c = 3 × 2 = 6
    • v = a + u = 5 + 6 = 11
    • J = 3 × v = 3 × 11 = 33

  • 验证：J = 3 × (5 + 3 × 2) = 3 × (5 + 6) = 3 × 11 = 33，结果一致。

考点：前向传播（从左到右，蓝色箭头）的作用就是计算代价函数 J 的值。这个数值计算过程在后续逻辑回归中对应"由输入 x 和参数 w、b 计算损失"。

五、计算图的用途与后续展望 [02:34]

说明计算图为什么有用，以及下一步要讲什么。

  • 计算图的价值：当存在一个需要优化的特殊输出变量（如本例中的 J）时，计算图非常有用。
  • 在逻辑回归中，J 就是我们要最小化的代价函数（Cost Function）。
  • 两个方向的计算：
    • 从左到右（蓝色箭头）：计算 J 的值 → 前向传播。
    • 从右到左（红色箭头，下一节内容）：计算导数 → 反向传播。

理解：计算图把"求值"和"求导"统一在同一个结构上。前向传播得到代价，反向传播利用链式法则从输出往输入方向逐节点求导，这正是现代深度学习框架（如 PyTorch、TensorFlow）自动微分（Autograd）的底层原理。

提醒：本节只讲了前向传播（计算 J 的值），反向传播（计算导数）留到下一节视频讲解。学习时不要把两者的职责混淆。

六、本节总结 [03:17]

吴恩达对本节内容做简要回顾。

  • 计算图用蓝色箭头（从左到右）组织计算，即前向传播，用于计算输出值。
  • 反向传播（红色箭头，从右到左）用于计算导数，将在下一节视频中详细讲解。

思考：掌握计算图后，就能理解为什么反向传播"最自然"的方向是从右到左——因为链式法则要求从最终输出 J 出发，逐层向前求偏导，这与前向传播方向正好相反。

【拓展】背景知识与延伸理解

  • 【拓展】链式法则（Chain Rule）：反向传播的数学基础。若 J = 3v 且 v = a + u，则 ∂J/∂a = (∂J/∂v) × (∂v/∂a)。计算图让每一步局部导数清晰可追踪。
  • 【拓展】自动微分（Automatic Differentiation）：现代框架（PyTorch/TensorFlow）正是基于计算图实现自动求导。前向传播构建计算图，反向传播沿图求梯度。
  • 【拓展】有向无环图（DAG）：计算图不允许循环，保证计算顺序唯一、可拓扑排序，从而前向和反向都能高效执行。
  • 【拓展】与逻辑回归的联系：逻辑回归中，前向传播计算 z = wᵀx + b、预测值 â = σ(z)、损失 L(â, y)，构成一个计算图；反向传播则计算 ∂L/∂w 和 ∂L/∂b，用于梯度下降更新参数。

关键标签 / 关键词

计算图 Computation Graph 前向传播 Forward Propagation 反向传播 Backward Propagation 梯度 Gradients 导数 Derivatives 代价函数 Cost Function 逻辑回归 Logistic Regression 链式法则 自动微分 吴恩达深度学习 神经网络和深度学习

生成时间：2026-10-10 21:31:02 生成平台：VideoNote www.xygy.top