📷 向AI转型的程序员都关注了这个号👇👇👇 机器学习AI算法工程 公众号：datayx 上采样与上池化 图示理解，使用三张图进行说明： 📷 图（a）表示UnPooling的过程，特点是在Maxpooling的时候保留最大值的位置信息，之后在unPooling阶段使用该信息扩充Feature Map，除最大值位置以外，其余补0。 Unpooling是在CNN中常用的来表示max pooling的逆操作。 鉴于max pooling不可逆，因此使用近似的方式来反转得到max pooling操作之前的原始情
在本文中，我们提出了一种不基于物理或数学特征的自然图像反卷积方法，我们展示了使用图像样本构建数据驱动系统的新方向，这些图像样本可以很容易地从摄像机中生成或在线收集。 我们使用卷积神经网络（CNN）来学习反卷积操作，不需要知道人 为视觉效果产生的原因，与之前的基于学习的图像去模糊方法不同，它不依赖任何预处理。本文的工作是在反卷积的伪逆背景下，我们利用生成模型来弥补经验决定的卷积神经网络与现有方法之间的差距。我们产生一个实用的系统，提供了有效的策略来初始化网络的权重值，否则在卷积随机初始化训练过程中很难得到，实验证明，当输入的模糊图像是部分饱和的，我们的系统比之前的方法效果都要好。
为了更好更高效地进行数据分析，我学习了如何使用tf.summary观察训练过程，用tf.records制作和读取训练集，以及用tf.dataset按批读取数据。
如图，使用图像腐蚀进行去噪，但是为压缩噪声。 对腐蚀过的图像，进行膨胀处理，可以去除噪声，并保持原样形状。
转置卷积又叫反卷积、逆卷积。不过转置卷积是目前最为正规和主流的名称，因为这个名称更加贴切的描述了卷积的计算过程，而其他的名字容易造成误导。在主流的深度学习框架中，如TensorFlow，Pytorch，Keras中的函数名都是conv_transpose。所以学习转置卷积之前，我们一定要弄清楚标准名称，遇到他人说反卷积、逆卷积也要帮其纠正，让不正确的命名尽早的淹没在历史的长河中。
王小新 编译自 Medium 量子位 出品 | 公众号 QbitAI 卷积神经网络作为深度学习的典型网络，在图像处理和计算机视觉等多个领域都取得了很好的效果。 Paul-Louis Pröve在Med
卷积神经网络作为深度学习的典型网络，在图像处理和计算机视觉等多个领域都取得了很好的效果。
机器人是否需要专用的芯片支持？要想开发机器人芯片，首先必须弄清楚是否有这方面的需求。一方面，尽管今天能实用的机器人数量还比较少，但在可预期的未来，很多人相信会诞生一批经济适用、量大面广的现象级产品，就像无人机、无人车一样，由于其功能的丰富，其总数量甚至会达到百亿级，超过个人电脑、手机的数量。如此庞大的应用空间，按照过去计算机的发展经验，必然伴生孕育着新型计算系统，所以未来机器人系统需要芯片这一点比较肯定。接着，另外一个问题，是否需要设计专用芯片？今天现行的如CPU、DSP、GPU、神经网络或他们的组合是否就够用了？这个问题还需要从机器人的功能角度出发去分析。一方面，我们会赋予机器人更多的智能能力，使他能够听说看甚至决策；另一方面，机器人也将具有越来越强运动能力。而这些都是现行芯片所解决不好的，我们认为今天机器人无法大规模普及，和他们的能力不足直接相关，而这种能力除了算法方面的改进外，性能的大幅提升也是必要的。因此，我们认为需要设计面向机器人的专用芯片，以解决机器人在应用中的若干问题，为未来机器人的大发展提供硬件基础。
今天给大家介绍的是Journal of Chemical Information and Modeling上的文章 "Prediction and Interpretable Visualization of Retrosynthetic Reactions Using Graph Convolutional Networks"。
作者|周翔 上个月 22 日，备受瞩目的 CVPR 2017 最佳论文在夏威夷会议中心揭晓。本届 CVPR 2017 共有两篇最佳论文（分别被康奈尔和清华团队、以及苹果团队拿下），两篇最佳论文提名，以及一篇最佳学生论文。 除了这些获奖论文之外，CVPR 2017 还收录了一些非常有意思的论文。其中，师从张世富教授的哥伦比亚大学在读博士寿政的论文——“Convolutional-De-Convolutional Networks for Precise Temporal Action Localizat
在机器人、自动驾驶和虚拟/增强现实应用中，直接获取 3D 数据的传感器日趋普遍。由于深度信息可以消除 2D 图像中的大量分割不确定性（segmentation ambiguity），并提供重要的几何信息，因此具备直接处理 3D 数据的能力在这些应用中非常宝贵。但 3D 数据通常以点云的形式出现。点云通常由一组无排列顺序的 3D 点表示，每个点上具有或不具有附加特征（例如 RGB 信息）。由于点云的无序特性，并且其排列方式不同于 2D 图像中的常规网格状像素点，传统的 CNN 很难处理这种无序输入。
“ 本文的内容包括图卷积的基础知识以及相关辅助理解的知识点，相信同学们看完后一定能平滑上手理解GCN！”
该系列文章是讲解Python OpenCV图像处理知识，前期主要讲解图像入门、OpenCV基础用法，中期讲解图像处理的各种算法，包括图像锐化算子、图像增强技术、图像分割等，后期结合深度学习研究图像识别、图像分类、目标检测应用。
📷 『音视频技术开发周刊』由LiveVideoStack团队出品，专注在音视频技术领域，纵览相关技术领域的干货和新闻投稿，每周一期。 架构 FFmpeg Maintainer赵军：FFmpeg关键组件与硬件加速 本文来自FFmpeg Maintainer赵军在LiveVideoStackCon 2018热身分享，并由LiveVideoStack整理而成。在分享中，赵军介绍了FFmpeg的历史、关键组件，并介绍了英特尔平台上的多种FFmpeg硬件加速方式。 WebRTC点对点通讯架构设计 虽然几乎所有人都
卷积网络是视觉处理中可以有效生成多层特征的架构，是最前沿的技术。因此作者想构造一个“全卷积网络”，来处理任意尺寸的输入图片，并生成相应尺寸的输出。
今天分享一篇发表在CVPR 2020上的论文：BBN: Bilateral-Branch Network with Cumulative Learning for Long-Tailed Visual Recognition (原文链接：[1])。
by方阳
胶囊网络是 Geoffrey Hinton 提出的一种新型神经网络结构，为了解决卷积神经网络（ConvNets）的一些缺点，提出了胶囊网络。
机器学习和深度学习中的模型都是遵循数学函数的方式创建的。从数据分析到预测建模，一般情况下都会有数学原理的支撑，比如：欧几里得距离用于检测聚类中的聚类。
本文转载于张聪的博客,链接：https://ask.hellobi.com/blog/zason/4543。
作者： 张聪 https://ask.hellobi.com/blog/zason/4543 深度学习在过去几年，由于卷积神经网络的特征提取能力让这个算法又火了一下，其实在很多年以前早就有所出现，但是
SciPy（Scientific Python）是一个开源的Python科学计算库，用于解决科学与工程领域的各种数值计算问题。它建立在NumPy库的基础之上，并额外提供其他更高级的功能与工具，涵盖了许多科学分析领域——包括数值积分、优化、插值、信号和图像处理、线性代数、统计分析等。其中，SciPy常用的一些功能如下所示。
在讨论GNN之前，我们先来了解一下什么是图。在计算机科学中，图是由顶点和边两部分组成的一种数据结构。图G可以通过顶点集合V和它包含的边E来进行描述。
标题：R-MSFM: Recurrent Multi-Scale Feature Modulation for Monocular Depth Estimating(ICCV-2021)
事情是这样的：研究人员们让一个深度卷积网络去学习复制被破坏的图像（例如加入噪点的图像），随后竟发现这个网络可以自行先学会如何重建图像。该研究的论文《Deep Image Prior》已被收录在 CVPR 2018 大会，而 GitHub 则已有 3800 个 star。
近日，Adobe 宣布推出一项名为 Enhance Details（增强细节）的照片编辑应用程序新功能，该功能使用机器学习——一个经过大量训练的卷积神经网络——为那些真正需要重视的图片提供最高的质量。增强细节功能在 Bayer 格式（佳能、尼康、索尼等）和 X-Trans 格式（富士胶片）的原始马赛克文件上都能很好地使用。
https://www.tensorflow.org/api_docs/python/tf/layers/batch_normalization https://www.tensorflow.org/programmers_guide/variableshttps://www.tensorflow.org/programmers_guide/variables https://www.tensorflow.org/api_guides/python/reading_data#Multiple_input_pipelines
HDR技术近年来发展迅猛，在未来将会成为图像与视频领域的主流。当前HDR内容非常短缺，限制了HDR视听节目的广泛应用。逆色调映射(Inverse Tone Mapping)应运而生，它是一种用来将SDR源信号转换为HDR源信号的技术，可以应用于生产端或终端设备，在一定程度上实现对现有SDR节目的HDR“还原”及向上兼容。本系列中，我们将会详细分类介绍逆色调映射算法。分为两个部分：（一）逆色调映射概述及一些经典算法，包括全局算法，分类算法以及拓展映射算法；（二）介绍最近的研究趋势，特别是基于机器学习的逆色调映射算法。接前文，Let's go to the second part!
卷积（convolution）现在可能是深度学习中最重要的概念。靠着卷积和卷积神经网络（CNN）,深度学习超越了几乎其它所有的机器学习手段。 这篇文章将简要地概述一下不同类型的卷积以及它们的好处是什么
旷视天元（MegEngine）是一个深度学习框架，它主要包含训练和推理两方面内容。训练侧一般使用 Python 搭建网络；而推理侧考虑到产品性能的因素，一般使用 C++ 语言集成天元框架。无论在训练侧还是推理侧，天元都担负着将训练和推理的代码运行到各种计算后端上的任务。目前天元支持的计算后端有 CPU、GPU、ARM 和一些领域专用的加速器，覆盖了云、端、芯等各个场景。
前面文章对卷积做了讲解，感觉既然重新整理，就将系列概念整体做个梳理，也算是将自己知道的所有东西拿来献丑把。 转置卷积(Transposed Convolution)是后来的叫法，一开始大家都是称逆卷积/反卷积(Deconvolution)，这个概念是在图像分割任务中被提出来的，图像分割需要逐像素的操作，对每一个像素做一个分割，将其归类到不同的物体当中。 这个任务大家很自然的想要使用卷积神经网络来完成，那就得先使用卷积神经网络提取特征，但是卷积神经网络中的两大主要构件，卷积层和下采样层会使得图像的尺寸不断缩小。这个就与逐像素的分类不符，因为逐像素分割的话是需要输出和输入大小是一致的。 针对这个问题，有人提出了先使用卷积核下采样层逐层的提取特征，然后通过上采样再将特征图逐渐的恢复到原图的尺寸。而这个上采样一开始就是通过反卷积来实现的。如果说卷积核下采样的过程特征图是变小的，那么上采样之后特征图应该变大。 我们应该熟悉卷积的输出尺寸公式 o u t = ( F − K + 2 P ) / s + 1 out=(F-K+2P)/s+1 out=(F−K+2P)/s+1，其中F表示输入特征图的尺寸，K表示卷积核的尺寸，P表示padding，S表示卷积的步长。我们都通过这个公式来计算卷积的输出特征图尺寸。举例来说明，一个4×4的输入特征图，卷积核为3×3，如果不使用paddng，步长为1，则带入计算 o u t = ( 4 − 3 ) / 1 + 1 out=(4-3)/1+1 out=(4−3)/1+1为2。 我们已经在im2col算法的介绍中讲解了卷积的实现，实际上这个步骤是通过两个矩阵的乘法来完成的，我们不妨记为 y = C x y=Cx y=Cx，如果要上采样，我们希望给输出特征图乘一个参数矩阵，然后把尺寸还原回去，根据数学知识，我们给特征图矩阵 y y y左乘一个{C^T}，就能得到 C T y = C T C x C^Ty=C^TCx CTy=CTCx， C C C的列数等于 x x x的行数， C T C C^TC CTC的行数和列数都等于x的行数，乘完之后，得到的结果与 x x x形状相同。这就是转置卷积名字的来源。有一些工作确实是这样实现的。 我们也能很自然的得出结论，我们不需要给输出特征图左乘 C T C^T CT，显然只要和这个矩阵形状相同，输出的结果就和原特征图尺寸相同，而且这个操作同样可以使用卷积来实现，那我们只要保证形状一致，然后参数我们可以自己训练，这样尺寸的问题解决了，而且特征的对应也有了，是可以训练的，一举两得。 im2col讲解的内容，卷积是 ( C o u t , C i n ∗ K h ∗ K w ) (C_{out},C_{in}*K_h*K_w) (Cout,Cin∗Kh∗Kw)的卷积核乘 ( C i n ∗ K h ∗ K w , H N ∗ W N ) (C_{in}*K_h*K_w,H_N*W_N) (Cin∗Kh∗Kw,HN∗WN)的特征图，得到 ( C o u t , H N ∗ W N ) (C_{out},H_N*W_N) (Cout,HN∗WN)的结果。现在对卷积核做一个转置 ( C i n ∗ K h ∗ K w , C o u t ) (C_{in}*K_h*K_w,C_{out}) (Cin∗Kh∗Kw,Cout)乘 ( C o u t , H N ∗ W N ) (C_{out},H_N*W_N) (Cout,HN∗WN)得到一个 ( C i n ∗ K h ∗ K w , H N ∗ W N ) (C_{in}*K_h*K_w,H_N*W_N) (Cin∗Kh∗Kw,HN∗WN)的特征图。 除了以上内容这里还有一点其他需要补充的东西，比如在caffe中除了im2col函数之外，还有一个函数是col2im，也就是im2col的逆运算。所以对于上面的结果caffe是通过col2im来转换成特征图的。但是col2im函数对于im2col只是形状上的逆函数，事实上，如果对于一个特征图先执行im2col再执行col2im得到的结果和原来是不相等的。 而在tensorflow和pytorch中，这一点是有差异的，两者是基于特征图膨胀实现的转置卷积操作，两者是是通过填充来进行特征图膨胀的，之后可能还会有一个crop操作。之所以需要填充，是因为想要直接通过卷积操作来实现转置卷积，干脆填充一些值，这样卷积出来的特征图尺寸自然就更大。 但是两者从运算上来讲都无法对原卷积进行复原，只是进行了形状复原而已。 到了最后就可以讨论形状的计算了，转置卷积是卷积的形状逆操作，所以形状计算就是原来计算方式的逆函数。 o u t = ( F − K + 2 P ) / s + 1 out
转置卷积也被称为反卷积，常被用用于CNN中的上采样操作，比如分割任务，或GAN网络中。反卷积并不是常规卷积的完全逆操作，反卷积也起不到根据输出特征以及对应的卷积核，恢复原始输出的作用，它最多的作用就是有可学习参数的上采样操作，仅此而已。 同时，反卷积操作并没有把正向卷积输出，对应的卷积核拿过来做转置使用，而是多了几个卷积核而已。 此外，即便是把正向卷积输出对应的卷积核拿过做反卷积，它也恢复不出来原来的参数，恢复原来参数这种操作看起来并没有太大意义，因为只是想做上采样而已。 这里与常规卷积的区别主要体现在：
code: https://github.com/yyxiongzju/ANTNets
（貌似江湖上有两篇 ZFNet 的论文，也即：Visualizing and Understanding Convolutional Networks ）最新的请见论文地址：https://arxiv.org/pdf/1311.2901.pdf
2021年6月，来自中科院上海药物所的蒋华良、郑明月等人在Drug Discovery Today发表综述，从分子打分、分子生成和优化、合成规划3个方面，介绍了GNN在从头药物设计中的应用，并探讨了该领域的当前挑战和未来方向。
在这个号称史上最惨烈的春节档，原本被寄予厚望的电影纷纷扑街，小众的科幻片《流浪地球》却异军突起，逆袭票房第一。
疫情在家的这段时间，想系统的学习一遍 Pytorch 基础知识，因为我发现虽然直接 Pytorch 实战上手比较快，但是关于一些内部的原理知识其实并不是太懂，这样学习起来感觉很不踏实，对 Pytorch 的使用依然是模模糊糊， 跟着人家的代码用 Pytorch 玩神经网络还行，也能读懂，但自己亲手做的时候，直接无从下手，啥也想不起来， 我觉得我这种情况就不是对于某个程序练得不熟了，而是对 Pytorch 本身在自己的脑海根本没有形成一个概念框架，不知道它内部运行原理和逻辑，所以自己写的时候没法形成一个代码逻辑，就无从下手。这种情况即使背过人家这个程序，那也只是某个程序而已，不能说会 Pytorch， 并且这种背程序的思想本身就很可怕， 所以我还是习惯学习知识先有框架（至少先知道有啥东西）然后再通过实战（各个东西具体咋用）来填充这个框架。而「这个系列的目的就是在脑海中先建一个 Pytorch 的基本框架出来， 学习知识，知其然，知其所以然才更有意思 ;)」。
水位尺读数识别通过python+yolov7网络模型技术，水位尺读数识别算法基于虚拟水尺的水位图像识别通常包括以下两种：一是基于hough变换与harris检测的标尺识别方法，算法使用中值滤波去除噪声和灰度均衡之后，再使用形态学的细化和轮廓提取技术计算刻线的位置。这种识别方法采用的是传统的图像处理方法，只在少量图像上表现好，不能够很好的适应各种水尺型号(如水尺颜色、刻度、尺寸等)及复杂环境(如光照、角度等)的变化；
特征列通常用于对结构化数据实施特征工程时候使用，图像或者文本数据一般不会用到特征列。使用特征列可以将类别特征转换为one-hot编码特征，将连续特征构建分桶特征，以及对多个特征生成交叉特征等等。
神经网络具有很强的学习能力和自适应自组织能力，而且随着隐含层的数量增大学习能力也将变得更强，因此目前很多场景都使用神经网络，比如深度学习，我们更熟悉的就是阿法狗。
1、小波阈值去噪理论小波阈值去噪就是对信号进行分解，然后对分解后的系数进行阈值处理，最后重构得到去噪信号。该算法其主要理论依据是：小波变换具有很强的去数据相关性，它能够使信号的能量在小波域集中在一些大的小波系数中;而噪声的能量却分布于整个小波域内。因此，经小波分解后，信号的小波系数幅值要大于噪声的系数幅值。可以认为，幅值比较大的小波系数一般以信号为主，而幅值比较小的系数在很大程度上是噪声。于是，采用阈值的办法可以把信号系数保留，而使大部分噪声系数减小至零。小波阈值收缩法去噪的具体处理过程为：将含噪信号在各尺度上进行小波分解，设定一个阈值，幅值低于该阈值的小波系数置为0，高于该阈值的小波系数或者完全保留，或者做相应的收缩(shrinkage)处理。最后将处理后获得的小波系数用逆小波变换进行重构，得到去噪后的信号.
题目：Semi-Supervised Classification with Graph Convolutional Networks
文本数据在今天的信息时代中无处不在。随着大规模数据的产生和积累，如何从海量文本数据中提取有价值的信息成为了一个重要的挑战。Python作为一种强大的数据分析工具和编程语言，为我们提供了丰富的文本分析技术和工具。本文将详细介绍Python数据分析中文本分析的重要技术点，包括文本预处理、特征提取、情感分析等。
如果这些内置模型层不能够满足需求，我们也可以通过编写tf.keras.Lambda匿名模型层或继承tf.keras.layers.Layer基类构建自定义的模型层。
如上图中所列参数，x为1（假设batch为1）张图片、3个通道（对应于RGB三个通道）、28*28的大小。而kernel中的3代表对input的x上的三个通道上均进行卷积运算。而multi-kernels中的16泛指包括了blur、edge等16个功能、3代表对每一个通道上的逐渐进行卷积运算。
使用交叉熵损失的原因是它求导结果简单，易于计算，最后结果中Softmax损失函数对应于每一项概率的偏导即为通过Softmax计算出的概率向量中对应真正结果的那一维减1。比如通过若干层计算，最后得到某个训练样本对应的分类得分为[1, 5, 3]，那么通过Softmax计算得到概率分别为[0.015, 0.886, 0.117]，假设样本正确的分类为第二类，则对应每项的偏导为[0.015, 0.886-1, 0.117]，根据这个向量就可以进行反向传播了
卷积现在可能是深度学习中最重要的概念。正是靠着卷积和卷积神经网络，深度学习才超越了几乎其他所有的机器学习手段。这期我们一起学习下深度学习中常见的卷积有哪些？
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
