吴恩达深度学习第1课 1.1：什么是神经网络

视频封面

视频元信息

视频标题：02 - 1.1什么是神经网络（What is a Neural Network）
所属课程：吴恩达深度学习专项课程 · 第一门课《神经网络和深度学习》第一周
视频时长：约 7 分钟
本视频主题：用房价预测案例建立神经网络的基本直觉

内容摘要（TL;DR）

本视频用「房价预测」这一直观案例引入神经网络的概念：从单神经元（输入房屋面积、输出价格，使用 ReLU 激活函数）讲起，再通过堆叠多个神经元构建更大的网络，用面积、卧室数、邮编、社区富裕程度四个特征预测房价。核心要点是：神经网络只需给定输入 X 和输出 Y，中间的隐藏层特征会由网络自行学习，且每个神经元与所有输入全连接（稠密连接）。神经网络在监督学习场景中最为强大。

一、引言：什么是神经网络 [00:00]

深度学习指的是训练神经网络，有时是训练非常大的神经网络。那么神经网络到底是什么？本视频通过直觉性的例子来建立基本认知。

吴恩达指出：深度学习（Deep Learning）本质上就是训练神经网络（Neural Network），而「深」指的是网络的层数多、规模大。

思考：这一节是全课程的起点，目的是先建立「神经网络 = 输入到输出的映射函数」这一最朴素的直觉，暂时不涉及反向传播、梯度下降等数学细节。

二、房价预测案例：从线性回归到单神经元 [00:11]

2.1 数据集的设定

假设有一个包含 6 套房屋 的数据集：

已知信息：房屋面积（平方英尺或平方米）
已知信息：房屋价格
目标：拟合一个函数，用面积预测价格

2.2 线性回归的初步尝试

如果熟悉线性回归，最直接的做法是拟合一条直线。但这样做存在一个问题：

易错点：房价不能为负数。 如果直接拟合直线，当房屋面积很小时，预测价格会变成负值，这在现实中是不合理的。

2.3 修正方案：取最大值

解决办法是让函数在小面积时输出 0，而不是负数：

函数形状：在面积较小时保持为 0，之后以直线形式上升
这就是图中那条「粗蓝色线」

2.4 把它看作最简单的神经网络

这个拟合出的函数，其实就可以看作一个最简单的神经网络：

输入 X：房屋面积（size）
输出 Y：房屋价格（price）
中间的小圆圈：一个单独的神经元（single neuron）

这个神经元做的事情就是：

输入面积
计算线性函数
取最大值 max(0, ...)
输出估计价格

三、ReLU 函数：神经网络中最常用的激活函数之一 [01:53]

视频中提到的这个「先为 0、后直线上升」的函数，在神经网络文献中非常常见，它叫做 ReLU 函数。

全称：Rectified Linear Unit（修正线性单元）
RE 的含义：Rectified（修正），指的就是「取最大值 max(0, ...)」这一操作
函数形状：小于 0 的部分被截断为 0，大于 0 的部分保持线性增长

考点：ReLU 的定义与名称来源。 ReLU = Rectified Linear Unit，"rectified" 意为「修正」，即将负值修正为 0，这正是函数图像在负半轴被压平的原因。

理解：ReLU 之所以重要，是因为它既保留了线性函数的简单性（正半轴是线性的，便于求导和计算），又引入了非线性（负半轴为 0），使神经网络能够拟合复杂的非线性关系。

拓展：ReLU 相比 Sigmoid、Tanh 等激活函数，最大的优势在于缓解梯度消失问题，且计算速度极快（只需一次 max 操作），这也是现代深度网络默认使用 ReLU 的原因。

视频提示：现在不需要深入理解 ReLU，后续课程中会反复出现。

四、从单个神经元到更大的神经网络 [02:29]

4.1 乐高积木的比喻

吴恩达用了一个生动的比喻：

单个神经元就像一块乐高积木，把许多这样的积木堆叠起来，就能构建一个更大的神经网络。

4.2 引入更多特征

不再只用面积预测房价，而是引入更多特征：

特征	含义
面积（size）	平方英尺 / 平方米
卧室数量（number of bedrooms）	房屋有几个卧室
邮编（zip code / postal code）	所在区域
社区富裕程度（wealth）	该区域的富裕水平

4.3 中间层的「中间概念」

关键洞察：人们真正关心的，往往不是这些原始特征，而是一些中间概念：

家庭规模（family size）：这套房子能住下三口、四口还是五口之家？—— 由「面积」和「卧室数量」决定
步行便利性（walkability）：社区是否适合步行？能否步行去杂货店？—— 由「邮编」反映
学校质量（school quality）：附近学校好不好？—— 由「邮编」和「社区富裕程度」共同决定

4.4 堆叠神经元形成网络

每个小圆圈（神经元）可以是一个 ReLU 单元或其他略微非线性的函数
基于面积和卧室数 → 估计家庭规模
基于邮编 → 估计步行便利性
基于邮编和富裕程度 → 估计学校质量
最终，家庭规模、步行便利性、学校质量 → 预测房价

本例中：X 是这四个输入，Y 是要预测的价格。

五、神经网络的「魔法」：自动学习中间特征 [05:06]

这是本视频最核心、最重要的概念。

5.1 只需提供 X 和 Y

考点：神经网络的核心优势。 实现神经网络时，你只需要给网络提供训练集中的输入 X 和输出 Y，中间的所有东西（隐藏层特征）会由网络自己计算出来。

也就是说，你不需要手动告诉网络「第一个神经元代表家庭规模」——网络会自己决定每个神经元该学什么。

5.2 隐藏单元（Hidden Units）

中间层的每个圆圈称为隐藏单元（hidden units）
每个隐藏单元都接收全部四个输入特征
而不是人为规定「第一个神经元只用 X1 和 X2」

视频原话大意：与其说「这个神经元代表家庭规模，只依赖特征 X1 和 X2」，不如说「神经网络，你自己决定要学什么，我们把全部四个特征都给你」。

5.3 稠密连接（Densely Connected）

输入层 和 中间层 之间的连接方式称为稠密连接
含义：每一个输入特征都连接到中间层的每一个圆圈
即：全连接（fully connected）

理解：稠密连接是「全连接层（Fully Connected Layer / Dense Layer）」这一名称的由来。每个神经元都能看到所有输入，这让网络有能力自动发现特征之间的任意组合关系。

5.4 神经网络擅长拟合 X → Y 的映射

只要给定足够多关于 X 和 Y 的数据（即足够多的训练样本），神经网络就能非常出色地找出从 X 到 Y 的映射函数。

六、总结与展望：神经网络最适用于监督学习 [06:48]

6.1 本视频小结

神经网络的基本单元是神经元
单个神经元实现一个简单的函数（如 ReLU）
多个神经元堆叠 → 更大的神经网络
网络通过稠密连接接收全部输入
中间层特征由网络自动学习，无需人工设计

6.2 监督学习的定位

考点：神经网络最强大的应用场景是监督学习（Supervised Learning）。 所谓监督学习，就是给定输入 X，将其映射到某个输出 Y——正如房价预测案例中所展示的那样。

6.3 下节预告

下一个视频将介绍更多监督学习的例子，以及神经网络在哪些应用场景中能发挥巨大作用。

七、关键概念速查表

概念	英文	简要解释
神经网络	Neural Network	由多个神经元堆叠而成的函数拟合器
神经元	Neuron	网络的基本单元，接收输入并输出结果
ReLU	Rectified Linear Unit	修正线性单元，max(0, x)，常用激活函数
隐藏单元	Hidden Unit	中间层神经元，其值不直接可见
稠密连接	Densely Connected	每个输入都连接到每个中间神经元
监督学习	Supervised Learning	用带标签的 (X, Y) 数据训练模型
线性回归	Linear Regression	用直线拟合数据的经典方法

八、易错点与注意事项

易错点 1： 直接用线性回归预测房价会产生负价格，必须通过 ReLU（取 max(0, ...)）截断。

易错点 2： 不要以为中间层神经元需要人为指定含义。神经网络会自动学习隐藏层该表示什么，这是它相比传统特征工程的核心优势。

易错点 3： ReLU 的「rectified」指的是把负值修正为 0，而不是别的操作，注意区分名称与实际含义。

思考：本视频刻意回避了数学细节（如权重 w、偏置 b、损失函数），只建立几何直觉。学习时不要急于纠结公式，先理解「输入 → 神经元 → 输出」这一数据流，后续课程会逐步补全数学基础。