登录注册

目录

评价

推荐

PyTorch Handbook

224课时
3.1K学过
8分

1. PyTorch 简介

PyTorch的由来

Torch是什么？

重新介绍 PyTorch

对比PyTorch和Tensorflow

再次总结

2. PyTorch 环境搭建

Pytorch环境搭建

安装Pytorch

配置 Jupyter Notebook

测试

问题1：启动python提示编码错误

问题2 默认目录设置不起效

3. PyTorch 深度学习:60分钟快速入门 （官方）

PyTorch 深度学习:60分钟快速入门 （官方）

目录

说明

PyTorch是什么?

开始

NumPy 转换

CUDA 张量

Autograd: 自动求导机制

张量（Tensor）

梯度

Neural Networks

定义网络

损失函数

反向传播

更新权重

训练一个分类器

关于数据？

训练一个图像分类器

读取和归一化 CIFAR10

定义一个卷积神经网络

定义损失函数和优化器

训练网路

在测试集上测试网络

在GPU上训练

多GPU训练

下一步？

数据并行（选读）

导入和参数

虚拟数据集

简单模型

创建一个模型和数据并行

运行模型

结果

总结

4. PyTorch 基础

PyTorch 基础 : 张量

张量(Tensor)

基本类型

Numpy转换

设备间转换

初始化

常用方法

使用PyTorch计算梯度数值

Autograd

简单的自动求导

复杂的自动求导

Autograd 过程解析

扩展Autograd

PyTorch 基础 : 神经网络包nn和优化器optm

定义一个网络

损失函数

优化器

PyTorch 基础 :数据的加载和预处理

Dataset

Dataloader

torchvision 包

torchvision.datasets

torchvision.models

torchvision.transforms

5. 深度学习基础及数学原理

深度学习基础及数学原理

监督学习和无监督学习

线性回归 （Linear Regreesion）

损失函数(Loss Function)

梯度下降

梯度

梯度下降法直观解释

Mini-batch的梯度下降法

torch.optim.SGD

torch.optim.RMSprop

torch.optim.Adam

方差/偏差

正则化

L1正则化

L2正则化

6. 神经网络简介

神经网络简介

概述

神经网络的表示

激活函数

为什么激活函数都是非线性的

sigmod 函数

tanh 函数

ReLU 函数

Leaky Relu 函数

深入理解前向传播和反向传播

正向传播

反向传播

7. 卷积神经网络

卷积神经网络简介

为什么要用卷积神经网络

结构组成

卷积计算

卷积核大小 f

边界填充 (p)adding

步长 (s)tride

计算公式

卷积层

激活函数

池化层（pooling）

dropout层

全连接层

LeNet-5

AlexNet

VGG

GoogLeNet (Inception)

ResNet

退化问题

残差网络的解决办法

8. 循环神经网络

RNN简介

RNN的起因

为什么需要RNN

RNN都能做什么

机器翻译

语音识别

生成图像描述

RNN

LSTM

GRU

循环网络的向后传播（BPTT）

词嵌入（word embedding）

Beam search

注意力模型

9. logistic回归二元分类

logistic回归实战

logistic回归介绍

UCI German Credit 数据集

代码实战

10. CNN:MNIST数据集手写数字识别

数据集介绍

手写数字识别

11. RNN实例：通过Sin预测Cos

通过Sin预测Cos

12. Fine-tuning

Fine tuning 模型微调

什么是微调

为什么要微调

迁移学习 Transfer Learning

二者关系

如何微调

注意事项

微调实例

固定层的向量导出

13. 可视化

使用Visdom在 PyTorch 中进行可视化

安装

坑

Environments

Panes

VIEW

可视化接口

绘制简单的图形

visdom-更新损失函数

Tensorboard 简介

Tensorboard 安装

页面

SCALAR

IMAGES

GRAPHS

HISTOGRAMS

PROJECTOR

使用

图像展示

tensorboardx-更新损失函数

使用PROJECTOR对高维向量可视化

绘制网络结构

可视化理解卷积神经网络

背景

基于Deconvolution的方法

基于Backpropagation的方法

Guided-Backpropagation

CAM（Class Activation Map）

Grad-CAM

14. Fast.ai

fastai库

fast.ai课程

Github

MNIST

fastai文档翻译

15. 多GPU并行训练

多GPU并行训练

torch.nn.DataParalle1

torch.nn.DataParalle2

torch.distributed

torch.utils.checkpoint

16. Kaggle介绍

平台简介

比赛介绍

Data

Rules

Team

Kernels

Discussion

Leaderboard

Kaggle竞赛的排名机制

Kaggle薅羊毛指南

其他的一些数据竞赛平台

17. 结构化数据

Pytorch处理结构化数据

数据预处理1

数据预处理2

定义数据集

定义模型

训练1

训练2

18. 计算机视觉

Fashion MNIST 介绍

数据集介绍-分类

数据集介绍-格式

数据集介绍-数据提交

数据加载

创建网络

损失函数

优化器

开始训练

可视化损失函数

保存模型

模型评估

进一步优化

再次进行评估

总结

19. 树莓派编译安装 pytorch 1.4

为什么要在树莓派上安装pytorch

系统环境安装

编译pytorch 1.4

安装 torchvision

下载

参考

第三方作者

版权说明：本课程已获课程制作者授权，如有侵权，请联系 DevLab@tencent.com 删除。

课程评价 (0)

请对课程作出评价：
0/300
发表评价

学员评价

暂无精选评价

相关云产品

相关课程推荐

深度学习入门基础——算法工程师带你读AI圣经《Deep Learning》
  • 8 课时
  • 34.3K 学过
  • 7 分
硅谷技术大牛Siraj带你入门深度学习
  • 11 课时
  • 13.8K 学过
  • 8 分
麻省理工学院公开课 6.S094：深度学习与自动驾驶
  • 17 课时
  • 6.4K 学过
  • 8 分
英特尔 OpenVINO 工具包新特性介绍
  • 3 课时
  • 202 学过
  • 8 分
在线学习中心课程PyTorch Handbook
2分钟

Autograd: 自动求导机制

PyTorch 中所有神经网络的核心是 autograd 包。 我们先简单介绍一下这个包，然后训练第一个简单的神经网络。

autograd包为张量上的所有操作提供了自动求导。 它是一个在运行时定义的框架，这意味着反向传播是根据你的代码来确定如何运行，并且每次迭代可以是不同的。

示例

上一节: CUDA 张量下一节: 张量（Tensor）

Copyright © 2013-2025 Tencent Cloud.All Rights Reserved. 腾讯云 版权所有