【学习day5】正则化+权重衰退

本文主要是介绍【学习day5】正则化+权重衰退，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

主要来源：
李沐老师的pytorch 动手学习深度学习（鞠躬感谢）
记录每日所学，欢迎讨论~

（大四上终于尘埃落定，假期全面投入学习！）

1. 什么是正则化？

Regularization，翻译过来可以称为正则化，或者是规范化。什么是规则？闭卷考试中不能查书，这就是规则，一个限制。同理，在这里，规则化就是说给损失函数加上一些限制，通过这种规则去规范他们再接下来的循环迭代中，不要自我膨胀。
具体细节请参见一篇文章完全搞懂正则化（Regularization）

2. 为什么要正则化？

一种简单的方法是通过线性函数$f(\mathbf{x})={\mathbf{w}}^{\top }\mathbf{x}$中的权重向量的某个范数来度量其复杂性，例如$\Vert \mathbf{w}{\Vert }^2$。要保证权重向量比较小，最常用方法是将其范数作为惩罚项加到最小化损失的问题中。将原来的训练目标最小化训练标签上的预测损失，调整为最小化预测损失和惩罚项之和。
现在，如果我们的权重向量增长的太大，我们的学习算法可能会更集中于最小化权重范数$\Vert \mathbf{w}{\Vert }^2$。这正是我们想要的。我们的损失由下式给出：

$$L(\mathbf{w},b)=\frac{1}{n}\sum _{i=1}^n\frac{1}{2}{\left({\mathbf{w}}^{\top }{\mathbf{x}}^{(i)}+b-y^{(i)}\right)}^2.$$

回想一下，${\mathbf{x}}^{(i)}$是样本$i$的特征，$y^{(i)}$是样本$i$的标签。$(\mathbf{w},b)$是权重和偏置参数。为了惩罚权重向量的大小，我们必须以某种方式在损失函数中添加$\Vert \mathbf{w}{\Vert }^2$，但是模型应该如何平衡这个新的额外惩罚的损失？实际上，我们通过正则化常数 $\lambda$ 来描述这种权衡，这是一个非负超参数，我们使用验证数据拟合：

$$L(\mathbf{w},b)+\frac{\lambda }{2}\Vert \mathbf{w}{\Vert }^2,$$

对于$\lambda =0$，我们恢复了原来的损失函数。对于$\lambda >0$，我们限制$\Vert \mathbf{w}\Vert$的大小。我们仍然除以$2$：当我们取一个二次函数的导数时，$2$和$1/2$会抵消，以确保更新表达式看起来既漂亮又简单。聪明的读者可能会想知道为什么我们使用平方范数而不是标准范数（即欧几里得距离）。我们这样做是为了便于计算。通过平方$L_2$范数，我们去掉平方根，留下权重向量每个分量的平方和。这使得惩罚的导数很容易计算：导数的和等于和的导数。

3. 代码实现

1）生成人工数据集

%matplotlib inline
import torch
from torch import nn
from d2l import torch as d2l

生成公式如下：

$$y=0.05+\sum _{i=1}^{d}0.01x_i+ϵ\text{ where }ϵ\sim \mathcal{N}(0,0.01^2).$$

我们选择标签是关于输入的线性函数。标签同时被均值为0，标准差为0.01高斯噪声破坏。为了使过拟合的效果更加明显，我们可以将问题的维数增加到$d=200$，并使用一个只包含20个样本的小训练集。

n_train, n_test, num_inputs, batch_size = 20, 100, 200, 5
true_w, true_b = torch.ones((num_inputs, 1)) * 0.01, 0.05
train_data = d2l.synthetic_data(true_w, true_b, n_train)
train_iter = d2l.load_array(train_data, batch_size)
test_data = d2l.synthetic_data(true_w, true_b, n_test)
test_iter = d2l.load_array(test_data, batch_size, is_train=False)

• 训练数据设置为20，（模型很复杂的时候），更容易过拟合

2）初始化模型参数

def init_params():w = torch.normal(0, 1, size=(num_inputs, 1), requires_grad=True)b = torch.zeros(1, requires_grad=True)return [w, b]

w是向量，b是标量

def l2_penalty(w):return torch.sum(w.pow(2)) / 2

实现这一惩罚最方便的方法是对所有项求平方后并将它们求和。

3） 实现

def train(lambd):w, b = init_params()net, loss = lambda X: d2l.linreg(X, w, b), d2l.squared_lossnum_epochs, lr = 100, 0.003animator = d2l.Animator(xlabel='epochs', ylabel='loss', yscale='log',xlim=[5, num_epochs], legend=['train', 'test'])for epoch in range(num_epochs):for X, y in train_iter:with torch.enable_grad():# 增加了L2范数惩罚项，广播机制使l2_penalty(w)成为一个长度为`batch_size`的向量。l = loss(net(X), y) + lambd * l2_penalty(w)l.sum().backward()d2l.sgd([w, b], lr, batch_size)if (epoch + 1) % 5 == 0:animator.add(epoch + 1, (d2l.evaluate_loss(net, train_iter, loss),d2l.evaluate_loss(net, test_iter, loss)))print('w的L2范数是：', torch.norm(w).item())

• 第一层loop是数据迭代，第二层loop是每次从迭代器里拿出一个x和y
• 当然多了一个 lambd * l2_penalty(w)，其余跟之前一样

4）结果

$\lambda =0$：非常明显的过拟合了，测试根本就莫得变化

$\lambda =3$：权重明显变小了

5）使用框架

def train_concise(wd):net = nn.Sequential(nn.Linear(num_inputs, 1))for param in net.parameters():param.data.normal_()loss = nn.MSELoss()num_epochs, lr = 100, 0.003# 偏置参数没有衰减。trainer = torch.optim.SGD([{"params":net[0].weight,'weight_decay': wd},{"params":net[0].bias}], lr=lr)animator = d2l.Animator(xlabel='epochs', ylabel='loss', yscale='log',xlim=[5, num_epochs], legend=['train', 'test'])for epoch in range(num_epochs):for X, y in train_iter:with torch.enable_grad():trainer.zero_grad()l = loss(net(X), y)l.backward()trainer.step()if (epoch + 1) % 5 == 0:animator.add(epoch + 1, (d2l.evaluate_loss(net, train_iter, loss),d2l.evaluate_loss(net, test_iter, loss)))print('w的L2范数：', net[0].weight.norm().item())

• weight_decay 就是我们所说的lamda,在实例化优化器时直接通过weight_decay指定weight decay超参数。默认情况下，PyTorch同时衰减权重和偏移。这里我们只为权重设置了weight_decay，所以bias参数$b$不会衰减。

小结：

• 正则化是处理过拟合的常用方法。在训练集的损失函数中加入惩罚项，以降低学习到的模型的复杂度。
• 保持模型简单的一个特别的选择是使用$L_2$惩罚的权重衰减。这会导致学习算法更新步骤中的权重衰减。
• 权重衰减功能在深度学习框架的优化器中提供。
• 在同一训练代码实现中，不同的参数集可以有不同的更新行为。

这篇关于【学习day5】正则化+权重衰退的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---