首页
学习
活动
专区
工具
TVP
发布

JNing的专栏

专栏作者
694
文章
965948
阅读量
50
订阅数
【人体骨骼点】算法综述
2013 DeepPose(2013.12,google) 第一个将深度学习应用于humanPose,fc层后面直接暴力回归xy坐标。 2014 Joint-cnn-mrf(2014.06,纽约大学的LeCun组) 第一个采用heatmap的方式来回归出关键点。 SpatialDropout(2014,纽约大学的LeCun组) 第一个采用多尺度fm。 MPII 数据集(2014) 此前的大部分paper都是基于FLIC以及LSP来做评估的,但是在深度学习时代,数据量还是相对偏少(K级别)。 MPII把数据量
JNingWei
2022-10-31
7060
基础网络 (Basemodel) 综述
以下是我在2018年7月份找工作时,根据个人所学总结出的基础网络 (Basemodel) 综述。 其中,仅仅挑出我认为比较重要的一系列基础网络,按照时间顺序进行简要概述。
JNingWei
2019-01-28
8310
深度学习: 论网络深度的利弊
[1] 深层学习为何要“Deep”(上) [2] 深层学习为何要“Deep”(下)
JNingWei
2018-09-27
6440
深度学习: gradient diffusion (梯度弥散)
梯度下降法(以及相关的L-BFGS算法等)在使用随机初始化权重的深度网络上效果不好的技术原因是:梯度会变得非常小。具体而言,当使用反向传播方法计算导数的时候,随着网络的深度的增加,反向传播的梯度(从输出层到网络的最初几层)的幅度值会急剧地减小。结果就造成了整体的损失函数相对于最初几层的权重的导数非常小。这样,当使用梯度下降法的时候,最初几层的权重变化非常缓慢,以至于它们不能够从样本中进行有效的学习。这种问题通常被称为“梯度的弥散”.
JNingWei
2018-09-27
1.8K0
思考: 现有 图像分割算法 的缺陷
人们在关注图像中的生命个体(尤其是人)的时候,关注点 往往 只是目标的脸和手脚 。这部分区域虽小,却给观者提供了对目标个体进行联想的绝大部分信息。
JNingWei
2018-09-27
8840
深度学习: 从 Selective Search 到 RPN
具体参见我的另一篇博客:Selective Search (选择搜索),简而言之就是,Selective Search 太low太低效。
JNingWei
2018-09-27
1.5K0
思考: 如何设计 输出结果 具有对称性 的 网络结构
实验室师兄参与了一个强化学习竞赛,让仿生人体学会站立行走乃至跑起来。在比赛的过程中他自己用tensorflow设计出了一个 对称性神经网络 ,能保证输出的 最终结果 具有 对称性(具体表现为 输出结果的数值分布 呈现 左右对齐)。
JNingWei
2018-09-27
8180
思考: 改进 现有的 网络参数初始化 方法
网络参数初始化方法 最粗暴的 莫过于 全零初始化 。顾名思义,所有参数全部初始化为0。想法很好,简便省事儿,还可使得初始化全零时参数的期望与网络稳定时参数的期望一致为0。
JNingWei
2018-09-27
6300
思考: 神经网络层 的 功能识别
卷积操作 即为 一系列 滤波操作 之和 。 有关卷积的概念,具体可参加我的这篇文章:深度学习: convolution (卷积) 。
JNingWei
2018-09-27
4420
深度学习: 模型压缩
预训练后的深度神经网络模型往往存在着严重的 过参数化 问题,其中只有约5%的参数子集是真正有用的。为此,对模型进行 时间 和 空间 上的压缩,便谓之曰“模型压缩” 。
JNingWei
2018-09-27
1.7K0
没有更多了
社区活动
Python精品学习库
代码在线跑,知识轻松学
热点技术征文第五期
新风口Sora来袭,普通人该如何把握机会?
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·干货材料·成员作品·最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档