首页
学习
活动
专区
工具
TVP
发布

程序生活

专栏成员
447
文章
511657
阅读量
58
订阅数
Pytorch自动混合精度训练模板
GitHub 仓库地址:https://github.com/yanqiangmiffy/amp-pytorch
致Great
2023-08-25
2770
MMsegmentation教程 5: 训练技巧
在语义分割里,一些方法会让解码头组件的学习率大于主干网络的学习率,这样可以获得更好的表现或更快的收敛。
致Great
2022-03-04
1.2K0
Pytorch学习-GRU使用
import torch.nn as nn import torch # gru = nn.GRU(input_size=50, hidden_size=50, batch_first=True) # embed = nn.Embedding(3, 50) # x = torch.LongTensor([[0, 1, 2]]) # x_embed = embed(x) # out, hidden = gru(x_embed) gru = nn.GRU(input_size=5, hidden_size
致Great
2021-12-24
6750
一个易用且高效的基于 PyTorch 的 MoE 模型训练系统.
FastMoE 是一个易用且高效的基于 PyTorch 的 MoE 模型训练系统.
致Great
2021-11-24
1.5K0
图神经网络06-基于Graph的传统机器学习方法
能使得一个特征方程有非零解存在。然而,考虑到特征向量中的所有项均为非负值,根据佩伦-弗罗贝尼乌斯定理,只有特征值最大时才能测量出想要的中心性。然后通过计算网络中的节点
致Great
2021-04-02
7370
Datawhale 零基础入门CV赛事-Task3 字符识别模型
本章将会讲解卷积神经网络(Convolutional Neural Network, CNN)的常见层,并从头搭建一个字符识别模型。
致Great
2020-05-29
4000
Datawhale 零基础入门CV赛事-Task2 数据读取与数据扩增
由于赛题数据是图像数据,赛题的任务是识别图像中的字符。因此我们首先需要完成对数据的读取操作,在Python中有很多库可以完成数据读取的操作,比较常见的有Pillow和OpenCV。
致Great
2020-05-26
5350
动手学深度学习(八) 优化算法进阶
在 Section 11.4 中,我们提到,目标函数有关自变量的梯度代表了目标函数在自变量当前位置下降最快的方向。因此,梯度下降也叫作最陡下降(steepest descent)。在每次迭代中,梯度下降根据自变量当前位置,沿着当前位置的梯度更新自变量。然而,如果自变量的迭代方向仅仅取决于自变量当前位置,这可能会带来一些问题。对于noisy gradient,我们需要谨慎的选取学习率和batch size, 来控制梯度方差和收敛的结果。
致Great
2020-02-25
1.4K0
动手学深度学习(三) 多层感知机
深度学习主要关注多层模型。在这里,我们将以多层感知机(multilayer perceptron,MLP)为例,介绍多层神经网络的概念。
致Great
2020-02-24
1.1K0
动手学深度学习(一) 线性回归
为了简单起见,这里我们假设价格只取决于房屋状况的两个因素,即面积(平方米)和房龄(年)。接下来我们希望探索价格与这两个因素的具体关系。线性回归假设输出与各个输入之间是线性关系:
致Great
2020-02-24
5590
Facebook AI的工业级NLP开源框架—— Pytext简介
PyText是基于NLP深度学习技术、通过Pytorch构建的建模框架。PyText解决了既要实现快速实验又要部署大规模服务模型的经常相互冲突。它主要通过以下两点来实现上面的需求:
致Great
2018-12-27
5900
斯坦福tensorflow教程(四) 贪婪执行Eager Execution
参考:【【原创】千呼万唤始出来——TensorFlow Eager Execution 开启动态图模型时代】 TensorFlow饱受诟病的痛点就是只支持静态图模型。也就是说,在处理数据前必须预先定
致Great
2018-06-20
3430
没有更多了
社区活动
【纪录片】中国数据库前世今生
穿越半个世纪,探寻中国数据库50年的发展历程
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档