前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >手把手教你用PyTorch创建首个神经网络

手把手教你用PyTorch创建首个神经网络

作者头像
人工智能小咖
修改2020-05-09 10:18:52
1.9K0
修改2020-05-09 10:18:52
举报

随着深度学习领域日益渐火以及网络上的前沿文章铺天盖地地出现,人们很容易将深度学习视为是只对数学博士开放的高级领域——但本文要证明这种观点是错的。

由于资源数量增长且资源库也越来越完善,深度学习领域(至少是实操部分)变得从未如此容易上手。

本文旨在面向那些已经了解人工神经网络的基础理论但不知如何编写的人群。相信笔者,会比预期的简单很多。

本文结构如下:

1. 导入语句和数据集

2. 拆分训练集和测试集

3. 定义神经网络模型

4. 模型训练

5. 模型评估

6. 总结

看起来内容似乎很多,但笔者保证——最多10分钟就能读完全文。如果要跟着代码一步步操作的话,只要已经安装了必要的库,那么也只需15分钟。

读完全文后你将会对如何在PyTorch 库中执行人工神经网络运算以预测原先未见的数据有一个基本的了解。

本文并无深奥高级的内容,因为后续文章将会介绍。长话短说,现在就开始吧。

导入语句和数据集

在这个简单的范例中将用到几个库:

  • Pandas:用于数据加载和处理
  • Scikit-learn: 用于拆分训练集和测试集
  • Matplotlib: 用于数据可视化处理
  • PyTorch: 用于模型训练

如果仅仅是想复制粘贴的话,以下几条导入语句可供参考:

import torch
import torch.nn as nn
import torch.nn.functional as F
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split

至于数据集,Iris数据集可以在这个URL上找到。下面演示如何把它直接导入Pandas:

iris = pd.read_csv('https://raw.githubusercontent.com/pandas-dev/pandas/master/pandas/tests/data/iris.csv')
 iris.head()

前几行如下图所示:

现在需要将 Name列中鸢尾花的品种名称更改或者重映射为分类值。——也就是0、1、2。以下是步骤说明:

mappings = {
  'Iris-setosa': 0,
  'Iris-versicolor': 1,
  'Iris-virginica': 2
 }iris['Name'] = iris['Name'].apply(lambda x: mappings[x])

执行上述代码得到的DataFrame如下:

这意味着已经成功地迈出了第一步!

拆分训练集和测试集

在此环节,将使用 Scikit-Learn库拆分训练集和测试集。随后, 将拆分过的数据由 Numpy arrays 转换为PyTorch tensors。

以下是说明:

首先,需要将Iris 数据集划分为“特征”和“ 标签集” ——或者是x 和y。Name列是因变量而其余的则是“特征”(或者说是自变量)。

接下来笔者也将使用随机种子,所以可以直接复制下面的结果。代码如下:

X = iris.drop('Name', axis=1).values
 y = iris['Name'].valuesX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)X_train = torch.FloatTensor(X_train)
 X_test = torch.FloatTensor(X_test)
 y_train = torch.LongTensor(y_train)
 y_test = torch.LongTensor(y_test)

如果从 X_train 开始检查前三行,会得到如下结果:

从 y_train开始则得到如下结果:

万事俱备,只欠东风——下一环节将正式开始搭建神经网络。

定义神经网络模型

模型的架构很简单。重头戏在于神经网络的架构:

1. 输入层 (4个输入特征(即X所含特征的数量),16个输出特征(随机))

2. 全连接层 (16个输入特征(即输入层中输出特征的数量),12个输出特征(随机))

3. 输出层(12个输入特征(即全连接层中输出特征的数量),3个输出特征(即不同品种的数量)

大致就是这样。除此之外还将使用ReLU 作为激活函数。下面展示如何在代码里执行这个激活函数。

class ANN(nn.Module):
  def __init__(self):
  super().__init__()
  self.fc1 = nn.Linear(in_features=4, out_features=16)
  self.fc2 = nn.Linear(in_features=16, out_features=12)
  self.output = nn.Linear(in_features=12, out_features=3)
  
  def forward(self, x):
  x = F.relu(self.fc1(x))
  x = F.relu(self.fc2(x))
  x = self.output(x)
  return x

PyTorch使用的面向对象声明模型的方式非常直观。在构造函数中,需定义所有层及其架构,若使用forward(),则需定义正向传播。

简洁如斯。

接着创建一个模型实例,并验证其架构是否与上文所指的架构相匹配:

model = ANN()
model

干得漂亮。在训练模型之前,需注明以下几点:

  • 评价标准: 主要使用 CrossEntropyLoss来计算损失
  • 优化器:使用学习率为 0.01的Adam 优化算法

下面展示如何在代码中执行CrossEntropyLoss和Adam :

criterion = nn.CrossEntropyLoss()
 optimizer = torch.optim.Adam(model.parameters(), lr=0.01)

令人期盼已久的环节终于来啦——模型训练!

模型训练

这部分同样相当简单。模型训练将进行100轮, 持续追踪时间和损失。每10轮就向控制台输出一次当前状态——以指出目前所处的轮次和当前的损失。

代码如下:

%%timeepochs = 100
 loss_arr = []for i in range(epochs):
  y_hat = model.forward(X_train)
  loss = criterion(y_hat, y_train)
  loss_arr.append(loss)
  
  if i % 10 == 0:
  print(f'Epoch: {i} Loss: {loss}')
  
  optimizer.zero_grad()
  loss.backward()
  optimizer.step()

好奇最后三行是干嘛用的吗?答案很简单——反向传播—— 权重和偏置的更新使模型能真正地“学习”。

以下是上述代码的运行结果:

进度很快——但不要掉以轻心。

如果对纯数字真的不感冒,下图是损失曲线的可视化图(x轴为轮次编号,y轴为损失):

模型已经训练完毕,现在该干嘛呢?当然是模型评估——需要以某种方式在原先未见的数据上对这个模型进行评估。请在此暂停一分钟,然后你将明白该如何操作。

模型评估

在评估过程中,欲以某种方式持续追踪模型做出的预测。需要迭代 X_test并进行预测,然后将预测结果与实际值进行比较。

这里将使用 torch.no_grad() ,因为只是评估而已——无需更新权重和偏置。

总而言之,代码如下:

preds = []with torch.no_grad():
  for val in X_test:
  y_hat = model.forward(val)
  preds.append(y_hat.argmax().item())

现在预测结果被存储在 preds阵列。可以用下列三个值构建一个Pandas DataFrame。

  • Y:实际值
  • YHat: 预测值
  • Correct:对角线,对角线的值为1表示Y和YHat相匹配,值为0则表示不匹配

代码如下:

df = pd.DataFrame({'Y': y_test, 'YHat': preds})df['Correct'] = [1 if corr == pred else 0 for corr, pred in zip(df['Y'], df['YHat'])]

df 的前五行如下图所示:

一切进展顺利,但实际该如何计算精确度呢?

很简单——只需计算 Correct列的和再除以 df的长度:

df['Correct'].sum() / len(df)>>> 1.0

此模型对原先未见数据的准确率为100%。但需注意这完全是因为Iris数据集非常易于归类,并不意味着对于Iris数据集来说,神经网络就是最好的算法。不得不说NN对于这类问题来讲有点大材小用,不过这都是以后讨论的话题了。

总结

现在你已经掌握了这个神经网络——这将是你写过的最简单的——有着完美简洁的数据集、没有缺失值、层次最少、还有神经元——承认吧,这实在简单到爆。

本文系外文翻译,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文系外文翻译前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 导入语句和数据集
  • 拆分训练集和测试集
  • 定义神经网络模型
  • 模型训练
  • 模型评估
  • 总结
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档