干货|PyTorch实用代码段集锦

Facebook公司开源的深度学习框架PyTorch越来越火,PyTorch易于上手。本文节选github中PyTorch的常用实用代码片段,供大家学习参考。

Github链接地址

https://github.com/ptrblck/pytorch_misc

代码总览

  • accumulate_gradients - Comparison of accumulated gradients/losses to vanilla batch update. 链接:https://github.com/ptrblck/pytorch_misc/blob/master/accumulate_gradients.py
  • adaptive_batchnorm- Adaptive BN implementation using two additional parameters: out = a * x + b * bn(x). 链接: https://github.com/ptrblck/pytorch_misc/blob/master/adaptive_batchnorm.py
  • adaptive_pooling_torchvision - Example of using adaptive pooling layers in pretrained models to use different spatial input shapes. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/adaptive_pooling_torchvision.py
  • batch_norm_manual - Comparison of PyTorch BatchNorm layers and a manual calculation. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/batch_norm_manual.py
  • change_crop_in_dataset - Change the image crop size on the fly using a Dataset. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/change_crop_in_dataset.py
  • conv_rnn - Combines a 3DCNN with an RNN; uses windowed frames as inputs. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/conv_rnn.py
  • csv_chunk_read - Provide data chunks from continuous .csv file. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/csv_chunk_read.py
  • densenet_forwardhook - Use forward hooks to get intermediate activations from densenet121. Uses separate modules to process these activations further. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/densenet_forwardhook.py
  • edge_weighting_segmentation - Apply weighting to edges for a segmentation task. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/edge_weighting_segmentation.py
  • image_rotation_with_matrix - Rotate an image given an angle using 1.) a nested loop and 2.) a rotation matrix and mesh grid. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/image_rotation_with_matrix.py
  • LocallyConnected2d - Implementation of a locally connected 2d layer. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/LocallyConnected2d.py
  • mnist_autoencoder - Simple autoencoder for MNIST data. Includes visualizations of output images, intermediate activations and conv kernels. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/mnist_autoencoder.py
  • mnist_permuted - MNIST training using permuted pixel locations. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/mnist_permuted.py
  • model_sharding_data_parallel - Model sharding with DataParallel using 2 pairs of 2 GPUs. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/model_sharding_data_parallel.py
  • momentum_update_nograd - Script to see how parameters are updated when an optimizer is used with momentum/running estimates, even if gradients are zero. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/momentum_update_nograd.py
  • shared_array - Script to demonstrate the usage of shared arrays using multiple workers. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/shared_array.py
  • unet_demo - Simple UNet demo. 链接: https://github.com/ptrblck/pytorch_misc/blob/master/unet_demo.py
  • weighted_sampling - Usage of WeightedRandomSampler using an imbalanced dataset with class imbalance 99 to 1 链接: https://github.com/ptrblck/pytorch_misc/blob/master/weighted_sampling.py

原文发布于微信公众号 - 深度学习与数据挖掘实战(www_datageekers_com)

原文发表时间:2018-11-19

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏算法+

双边滤波算法的简易实现bilateralFilter

没怎么看过双边滤波的具体思路,动手写一写,看看能不能突破一下。 最后,感觉算法还是要分开 水平 与 垂直 方向进行分别处理,才能把速度提上去。 没耐性写下去了,...

60460
来自专栏崔庆才的专栏

跟繁琐的模型说拜拜!深度学习脚手架 ModelZoo 来袭!

好多天没有更新原创文章了,国庆前的一段时间确实比较忙,整个九月在参加各种面试,另外还有公司的项目,还有自己的毕设,另外还需要准备参加一些活动和讲座,时间排的很紧...

31120
来自专栏CSDN技术头条

使用hadoop进行大规模数据的全局排序

1. Hellow hadoop~~! Hadoop(某人儿子的一只虚拟大象的名字)是一个复杂到极致,又简单到极致的东西。 说它复杂,是因为一个hadoop...

36850
来自专栏数说工作室

换个姿势学量化!|【量化小讲堂】使用python计算各类移动平均线

作者:邢不行 原文链接: http://bbs.pinggu.org/thread-3631776-1-1.html (本文已获作者授权转载,如需转载请与原作者...

487110
来自专栏编程微刊

【前端图表】echarts散点图鼠标划过散点显示信息

21230
来自专栏编程

PyTorch实现自由的数据读取

北京 上海巡回站 | NVIDIA DLI深度学习培训 2018年1月26/1月12日 NVIDIA 深度学习学院 带你快速进入火热的DL领域 正文共3850个...

372100
来自专栏PPV课数据科学社区

【学习】使用hadoop进行大规模数据的全局排序

1. Hellow hadoop~~! Hadoop(某人儿子的一只虚拟大象的名字)是一个复杂到极致,又简单到极致的东西。 说它复杂,是因为一个hadoop...

31030
来自专栏PPV课数据科学社区

【教程】一小时向非程序员介绍 R 编程语言

(1)下载R和RStudio 我对RStudio的印象不错,对于初学者来说,它既方便又很有帮助,对专业人士也很有用。尤其对于初学者:鼠标指向-点击式(point...

30680
来自专栏儿童编程

一款儿童编程入门的理想工具——PythonTurtle

今天偶然发现了一款Python入门的理想工具PythonTurtle。非常容易上手,强烈推荐一下。PythonTurtle的灵感来源于早期编程语言Logo,也是...

2.7K30
来自专栏Spark学习技巧

第3篇:更新异常与规范化设计

第三篇:更新异常与规范化设计 前言 在前两篇中,主要讲了ER建模和关系建模。在具体分析如何用数据库管理软件RDBMS(Relational Database M...

46570

扫码关注云+社区

领取腾讯云代金券