腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

GiantPandaCV

专栏作者

698

文章

857028

阅读量

93

订阅数

ICCV2023论文精读：用于三维分析的基于聚类的点云表示学习

数据结构论文数据算法网络

点云分析(如三维分割和检测)是一个具有挑战性的任务，不仅因为点云是数百万点的无序的点组成的不规则几何形状，而且深度、视角、遮挡等会使点云产生的巨大变化。当前的研究非常关注神经网络对复杂点云几何形状的补全，但对一个基本问题视而不见：如何学习一个适当的点嵌入空间，该空间既注意区分语义又考虑具有挑战性的变化？为此，作者提出了一种基于聚类的点云分析表示学习方案。

2023-08-22

7070

HugeCTR源码简单走读

c++深度学习数据结构 mapreduce

这段时间除了开发算子之外，还在做一些推荐系统相关的工作，这期间主要看的是HugeCTR的代码，其性能优异，系统不复杂，代码结构较扁平，整体还是比较清晰。在这段时间看源码的过程中也算是对HugeCTR有一点了解，这篇博客主要梳理下HugeCTR代码的结构，以及他在MLPERF中做的一些优化。

2022-05-27

1.5K0

MLIR：摩尔定律终结的编译器基础结构论文解读

面向对象编程 ide 打包数据结构

【GiantPandaCV导语】本文是对MLIR的论文解读以及实践，这里的实践指的是把MLIR的要点在OneFlow Dialect中进行了对应，并解释了每个要点的实现方法以及这些要点的相关性，算是对MLIR学习过程的一个阶段总结。本文分为2大部分，第一部分为1-6节，主要是阅读MLIR论文，第7节是根据OneFlow Dialect解释论文中提到的MLIR基础架构中的要点如Type，Attribute，Operation，Trait，Interfaces，Region，Block等等。本文只是想起到抛砖引玉的效果让更多小伙伴了解MLIR这个编译架构

2022-04-06

1.8K0

用沐神的方法阅读PyTorch FX论文

python pytorch 数据结构深度学习

【GiantPandaCV导语】torch.fx对于PyTorch来说确实是一个比较好的工作，因为它消除了一些动态图和静态图的Gap。比如在图改写方面，torch.fx让PyTorch想做一些其它静态图框架的算子融合优化非常容易。并且torch.fx让后训练量化和感知训练量化以及AMP等的实现难度大大降低，这得益于我们可以直接在Python层操作这个IR，所以我认为这是一个不错的工作。尤其是对使用PyTorch开发的算法工程师来说，现在可以基于这个特性大开脑洞了。我之前围绕FX也做了一个QAT的工作，感兴趣可以阅读：基于OneFlow实现量化感知训练。torch.fx的卖点就是，它使用纯Python语言实现了一个可以捕获PyTorch程序的计算图并转化为一个IR的库，并且非常方便的在这个IR上做Pass，同时提供将变换后的IR Codegen合法的Python代码功能。我觉得算是达到了在Eager下写Pass就像做链表插入删除题目一样顺滑。

2021-12-27

8000

知识蒸馏综述: 知识的类型

linux 数据结构迁移

总结一篇综述《Knowledge Distillation A Survey》中的内容，提取关键部分以及感兴趣部分进行汇总。这篇是知识蒸馏综述的第一篇，主要内容为知识蒸馏中知识的分类，包括基于响应的知识、基于特征的知识和基于关系的知识。

2021-12-02

7820

计算机视觉三大经典应用，你学废了吗？

编程算法图像识别深度学习数据结构机器学习

计算机视觉研究的最终目标是使计算机能通过视觉观察和理解世界,具有自主适应环境的能力，在深度学习发展起来后，卷积神经网络被广泛应用到图像定位、目标检测、目标分割、目标跟踪、行为识别等应用方面。

2021-11-12

7050

深度学习框架量化感知训练的思考及OneFlow的一种解决方案

pytorch 数据结构 https 网络安全深度学习

【GiantPandaCV导语】这篇文章分享的是笔者最近在OneFlow做的一个项目，将Pytorch FX移植到OneFlow之后实现了自动量化感知训练动态图模型(在Pytorch和OneFlow中都称为nn.Module)。现在用户可以在自己构建的nn.Module基础上，修改很少的代码即可完成从nn.Module量化感知训练到用TensorRT将量化感知训练后的模型部署到GPU上运行的完整链路。在TensorRT上推理是利用了ONNX作为中间表示，即Oneflow动态图模型(nn.Module)->OneFlow量化感知训练模型(nn.Module)->OneFlow静态图(nn.Graph)->ONNX->TensorRT。量化感知训练是基于支持在Eager下写Pass的FX模块（FX被Pytorch率先提出，笔者将其基础设施移植到了OneFlow）来完成的。读者如果想体验这个功能可以按照本文的方法进行操作，有任何使用上的问题可以联系笔者。

2021-10-20

9290

【从零开始学深度学习编译器】九，TVM的CodeGen流程

数据结构 node.js 打包 ide c++

【GiantPandaCV导语】这里主要是走读了一下TVM的Codegen流程，从Relay的前端一直梳理到了Graph节点的内存分配，Relay IR到TIR节点的转换，TIR图节点的Schedule优化以及Lower function发生在哪里。这篇文章只是关注了调用链，一些具体的操作比如Schedule的优化，IR到TIR节点的转化以及Lower Function没有具体解释，后面会结合更多实例去尝试理解。

2021-07-23

1.6K0

【从零开始学深度学习编译器】五，TVM Relay以及Pass简介

编程算法 tcp/ip css 数据结构 https

【GiantPandaCV导语】这篇文章主要介绍了一下TVM的Relay并介绍了如何基于Relay构建一个Conv+BN+ReLU的小网络，然后介绍了一下TVM中的Pass的工作机制，并较为详细的介绍了RemoveUnusedFunctions，ToBasicBlockNormalForm，EliminateCommonSubexpr三种Pass。其中Relay部分的详细介绍大部分引用自官方文档：https://tvm.apache.org/docs/tutorials/get_started/introduction.html。

2021-07-01

1.4K0

PyTorch 源码解读之 torch.utils.data：解析数据处理全流程

java 批量计算 windows pytorch 数据结构

来源丨https://zhuanlan.zhihu.com/p/337850513

2021-07-01

1.2K0

【从零开始学深度学习编译器】八，TVM的算符融合以及如何使用TVM Pass Infra自定义Pass

数据分析 css 编程算法数据结构 https

上篇文章系统的介绍了TVM Pass Infra，并解析了Relay树结构以及Constant Folding Pass的具体做法。这一节，我想先补充一下TVM Pass Infra的用法，接着介绍一下TVM算符融合需要用到的支配树这个数据结构，最后再深入分析TVM中的一个非常重要的Pass即算符融合。

2021-07-01

1.9K0

【从零开始学TVM】三，基于ONNX模型结构了解TVM的前端

pytorch 网站数据结构打包

【GiantPandaCV导语】本文基于Pytorch导出的ONNX模型对TVM前端进行了详细的解析，具体解答了TVM是如何将ONNX模型转换为Relay IR的，最后还给出了一个新增自定义OP的示例。其实在TVM中支持编译多种目前主流的深度学习框架如TensorFlow，Pytorch，MxNet等，其实它们的前端交互过程和本文介绍的ONNX也大同小异，希望对TVM感兴趣的读者在阅读这篇文章之后对新增OP，或者说在TVM中支持一种新的DL框架有一个整体把握。本文实验相关的代码在https://github.com/BBuf/tvm_learn。

2021-04-30

1.7K0

【从零开始学深度学习编译器】一，深度学习编译器及TVM 介绍

ide 打包数据结构深度学习 pytorch

大家好呀，在过去的半年到一年时间里，我分享了一些算法解读，算法优化，模型转换相关的一些文章。这篇文章是自己开启学习深度学习编译器的第一篇文章，后续也会努力更新这个系列。这篇文章是开篇，所以我不会太深入讲解TVM的知识，更多的是介绍一下深度学习编译器和TVM是什么？以及为什么我要选择学习TVM，最后我也会给出一个让读者快速体验TVM效果的一个开发环境搭建的简要教程以及一个简单例子。

2021-03-25

2K0

LeetCode 221场周赛题解

【GiantPandaCV导语】这是LeetCode的第221场周赛的题解，本期考察的知识点有模拟，贪心，优先队列，01Trie树等。

2021-01-08

2920

【MMDetection 超全专栏】二，配置类和注册器&数据处理&训练pipline

python 编程算法数据结构 pytorch 批量计算

配置方式支持python/json/yaml,从mmcv的Config解析,其功能同maskrcnn-benchmark的yacs类似,将字典的取值方式属性化.这里贴部分代码，以供学习。

2020-06-04

2.2K0

【MMDetection 超全专栏】一，结构设计和官方文档2.0伪译

python 数据结构面向对象编程

19年７月，Kai Chen等人写了一篇文章MMDetection(https://arxiv.org/pdf/1906.07155.pdf),介绍了他们在mmdetection(https://github.com/open-mmlab/mmdetection)上的一些工作。包括mmdetection的设计逻辑，已实现的算法等。猜：KaiChen在不知道经历了一些什么之后，觉得对各种实现迥异的检测算法抽象一些公共的组件出来也许是一件不错的事。这里尝试对代码做一些简单的解析，见下。

2020-05-26

3.5K0

【AlexeyAB DarkNet框架解析】二，数据结构解析

编程算法数据结构 node.js

为了解析网络配置参数，DarkNet 中定义了三个关键的数据结构类型。list类型变量保存所有的网络参数, section类型变量保存的是网络中每一层的网络类型和参数, 其中的参数又是使用list类型来表示。kvp键值对类型用来保存解析后的参数变量和参数值。

2020-02-21

1.3K0

没有更多了

社区活动

腾讯技术创作狂欢月

“码”上创作 21 天，分 10000 元奖品池！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态