Basic Concept

image.png

Basic Concept(基本概念)

使用偏移（bias）和 变化幅度（variance ）作为估量model好坏的参数。

image.png

偏移（bias）

偏移表示训练数据的目标值

变化幅度（variance ）

变化幅度表示训练数据坐落的区间

image.png

image.png

衡量一个模型中偏移（bias）和变化幅度（variance ）过大的办法

• 模型无法适合训练数据集的数据，表示偏移（bias）过大（欠拟合）
• 模型适合训练数据集的数据，但是对于测试集数据误差较大，表示变化幅度（variance ）过大（过拟合）

image.png

解决过大的偏移的办法（what to do with the large bias）

• 增加特征（feature）的输入来增大模型的复杂度
• 使用一个更加复杂的模型

解决过大的变化幅度的办法（what to do with the large variance）

• 增加数据集（more data）
• 添加规则化调整（regularization）

image.png

模型的选择

模型选择的理念：

• 寻找偏移点和变化幅度之间的平衡
• 模型的偏移点和变化幅度的误差都为最小

模型选择勿犯的错误：

模型选择过程中，不要使用训练数据集训练模型后，使用测试数据集验证错误的大小后就确定模型的误差大小，因为这样做只能是在本次使用的测试数据集中有效，如果放到公共的使用数据集中可能会误差值大于自己估测的误差值。

image.png

image.png

解决办法

• 将训练数据集分为两部分，一部分用于训练，一部分用于验证测试
• 训练完成后使用训练验证的数据选择出最好的model，再次使用全部的数据进行验证
• 使用测试数据集获取这个model的误差值（一般就和公共使用时候的误差一致）

image.png

将训练集分成两部分的方法

• 将训练集评分为三部分，分别代号1,2,3
• 分三次使用分别使用作为测试数据，代入模型中
• 获取三次数据的模型的平均值作为model的误差值
• 使用全部的训练集数据验证model