由于深度学习算法在表达非线性表征上的卓越能力，它非常适合完成输入到有标签的数据集输出的映射。这种任务叫做分类。它需要有人对数据进行标注。无论是对 X 光图像还是对新闻报道的主题进行标注，在数据集增大的时候，依靠人类进行干预的做法都是费时费力的。
你还记得胶卷相机的时代吗？冲洗照片是一个神秘的过程，只有摄影师和专业人士才能够驾轻就熟。大多数人的印象中只有弥漫着昏暗红光的暗室。简而言之，冲洗照片是一个耗时的过程。
自动编码器是重建输入的绝佳工具。简单来说，机器就是一个图像，可以生成一个密切相关的图片。这种神经网络中的输入是未标记的，这意味着网络能够在没有监督的情况下进行学习。更准确地说，输入由网络编码，仅关注最关键的特征。这是自动编码器因降维而流行的原因之一。此外，自动编码器可用于生成生成学习模型。例如，神经网络可以用一组面部训练，然后可以产生新的面部。
两兄弟 N.Coder 和 D.Coder 经营着一家艺术画廊。一周末，他们举办了一场特别奇怪的展览，因为它只有一面墙，没有实体艺术品。当他们收到一幅新画时，N.Coder 在墙上选择一个点作为标记来代表这幅画，然后扔掉原来的艺术品。当顾客要求观看这幅画时，D.Coder 尝试仅使用墙上相关标记的坐标来重新创作这件艺术品。
在计算机科学中，人工神经网络由成千上万个以特定方式连接的节点组成。节点通常分层排列; 它们的连接方式决定了网络的类型，最终决定了网络在另一网络上执行特定计算任务的能力。传统的神经网络可能看起来像这样：
深度学习方法旨在学习特征层次，其具有由较低层特征的组合形成的较高层级的特征。在多个抽象级别自动学习特征允许系统去学习将输入直接从数据映射到输出的复杂函数，而不完全依赖于人工制造的特征。这对于更高级别的抽象特别重要，人们通常不知道如何根据原始的隐性输入变得明确。自动学习的能力将随着机器学习方法的数据量和应用范围的持续增长而变得越来越强大。
2022年6月20日，伊利诺伊大学芝加哥分校化学系的Huan-Xiang Zhou等人在Commun Biol发表文章，提出了旨在挖掘IDPs构象空间的生成性自动编码器。这项工作说明了人工智能在IDPs构象挖掘中的巨大潜力。
定义解码器：输出784个神经元，使用sigmoid函数，（784这个值是输出与原图片大小一致）
萧箫 发自 凹非寺 量子位 | 公众号 QbitAI 2D图片“脑补”3D模型，这次真的只用一张图就行了—— 只需要给AI随便喂一张照片，它就能从不一样的角度给你生成“新视图”： 不仅能搞定360°的椅子和汽车，连人脸也玩出了新花样，从“死亡自拍”角度到仰视图都能生成： 更有意思的是，这只名叫Pix2NeRF的AI，连训练用的数据集都有点“与众不同”，可以在没有3D数据、多视角或相机参数的情况下学会生成新视角。 可以说是又把NeRF系列的AI们卷上了一个新高度。 用GAN+自动编码器学会“脑补” 在此之
1.Implicit Autoencoder for Point Cloud Self-supervised Representation Learning(ICCV 2023)
变分自动编码器（VAE）可以说是最实用的自动编码器，但是在讨论VAE之前，还必须了解一下用于数据压缩或去噪的传统自动编码器。
这些图像中的所有物体和动物都是由称为生成对抗网络（GAN）的计算机视觉模型生成的！ 这是目前最流行的深度学习分支之一。 这当然有助于激发我们隐藏的创造力!
选自arXiv 机器之心编译 参与：李泽南 对于现实世界物体的 3D 建模是很多工作中都会出现的任务。目前流行的方法通常需要对于目标物体进行多角度测量，这种方法耗费资源且准确度低下。近日，来自牛津大学等院校的研究者们提出了一种基于自编码器与 GAN 的机器学习 3D 建模方式 3D-RecGAN，可以在只需要一张图片的情况下准确构建物体的 3D 结构。该研究的论文即将出现在 10 月底于威尼斯举行的 ICCV 2017 大会上。 重建物体完整与准确的 3D 模型是很多工作中必不可少的任务，从 AR/VR 应
Google宣布对全球最受欢迎的开源机器学习库TensorFlow进行重大升级，承诺注重简单性和易用性，eager execution，直观的高级API以及在任何平台上灵活构建模型。
【新智元导读】北京大学和新加坡国立大学的研究人员提出一种新方法去除图像中的雨滴，通过在生成对抗网络中插入注意力图，去除雨滴的效果相比以往方法大幅提升。这项工作有很大的实际意义，比如用在自动驾驶中。
自编码器（autoencoder）是神经网络的一种，经过训练后能尝试将输入复制到输出。自编码器内部有一个隐藏层 h，可以产生编码（code）表示输入。该网络可以看作由两部分组成：一个由函数 h = f(x) 表示的编码器和一个生成重构的解码器 r = g(h)。我们不应该将自编码器设计成输入到输出完全相等。这通常需要向自编码器强加一些约束，使它只能近似地复制，并只能复制与训练数据相似的输入。
绪论 深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。 深度学习的概念由Hinton等人于2006年提出。基于深信度网(DBN)提出非监督贪心逐层训练算法，为解决深层结构相关的优化难题带来希望，随后提出多层自动编码器深层结构。此外Lecun等人提出的卷积神经网络是第一个真正多层结构学习算法，它利用空间相对关系减少参数数目以提高训练性能。 深度学习是机器学习研究中的一个新的领域，其动机在于
自1986年[1]问世以来，在过去的30年里，通用自动编码器神经网络已经渗透到现代机器学习的大多数主要领域的研究中。在嵌入复杂数据方面，自动编码器已经被证明是非常有效的，它提供了简单的方法来将复杂的非线性依赖编码为平凡的向量表示。但是，尽管它们的有效性已经在许多方面得到了证明，但它们在重现稀疏数据方面常常存在不足，特别是当列像一个热编码那样相互关联时。
自动编码器（Autoencoders）是一种无监督学习算法，在深度学习领域中被广泛应用。它可以通过将输入数据进行编码和解码来重构数据，从而学习数据的低维表示。自动编码器可以用于特征提取、降维和数据重建等任务，在图像处理、文本处理和推荐系统等领域都有广泛的应用。
接上一篇Deep learning (1) -- 概述、分布式表示与思想 九、Deep Learning的常用模型或者方法 9.1、AutoEncoder自动编码器 具体过程简单的说明如下： 1
大数据文摘作品 编译：田奥leo、桑桑、璐、Aileen 27种？！神经网络竟有那么多种？这篇文章将逐一介绍下面这张图片中的27种神经网络类型，并尝试解释如何使用它们。准备好了吗？让我们开始吧！ 神经网络的种类越来越多，可以说是在呈指数级地增长。我们需要一个一目了然的图表，在这些新出现的网络构架和方法之间进行导航。 幸运的是，来自Asimov研究所的Fjodor van Veen编写了一个关于神经网络的精彩图表（就是上面那张大图）。 下面，我们就来逐一看看图中的27种神经网络： Perceptron 感知
想象一下：你的朋友为了听一首歌纠缠了你好几个星期，即使你告诉他们你不喜欢艾德·希兰（Ed Sheeran），神烦！他们一直纠缠你，声称“旋律使它伟大”。要是你能换一种形式来听这种旋律就好了，比如巴赫的管风琴协奏曲那样。
自动编码器已成为使计算机系统能够更有效地解决数据压缩问题的技术和技巧之一。它们成为减少嘈杂数据的流行解决方案。
今年是Transformer的六周年生日，目前原文引用量已超四万，在应用方面，几乎所有的模型架构都有它的影子，并遵从着Transformer的基础配置（宽度设置为768，深度设置为12）。但您有没有质疑过：Transformer的配置是怎么来的？Transformer的配置能够适合所有的应用场景吗？难道就不能改变吗？今天给大家分享的这篇国际顶会(ICML 2023)文章给出了答案。
匹兹堡大学的研究人员最近开发了一种条件变化的自动编码器，可以为广告制作独特的面孔。他们的研究基于他们以前的工作，探索了更好地理解广告的自动化方法。
有些同学在刚开始看论文的时候，经常会遇到编码器、解码器、自编码器（AutoEncoder）这些字眼，它们到底是干什么的呢？其主要作用又是什么呢？那么本篇主要带大家了解自编码器(AutoEncoder)。
想象一下：你的朋友几周来一直在唠叨你听一首歌，尽管你已经告诉他你不喜欢 Ed Sheeran。 他们继续纠缠你，声称“旋律是伟大的”。 如果只有你能听到文明形式的那种旋律，就像巴赫管风琴协奏曲那样。
大数据文摘作品 编译：小鱼 不久前，文摘菌给大家分享了一篇Ian Goodfellow的论文，教大家如何把一张哈士奇的图像硬生生的AI成一只猫咪，论文的结果确实会让人傻傻分不清楚，点击这里查看相关内容。 然而，今天的这篇论文效果更棒！先上两张图片： 当你养了一只哈士奇觉得不过瘾的时候，你可以AI出四只小猫咪，让它们一起陪你玩耍。 用一张猫咪的图像生成老虎、狮子或者豹子等其他猫科动物的图像！ 用一张猫咪的图像生成小柯基、萨摩耶或者二哈的图像！ 当然你也可以用豹子的图像生成萨摩耶、二哈或者小柯基的图像…… 这种
此篇文章为 L. Feng, Y.-S. Ong, S. Jiang, A. Gupta, Autoencoding Evolutionary Search With Learning Across Heterogeneous Problems, IEEE Trans. Evol. Computat. 21 (2017) 760–772. https://doi.org/10.1109/TEVC.2017.2682274. 的论文学习笔记，只供学习使用，不作商业用途，侵权删除。并且本人学术功底有限如果有思路不正确的地方欢迎批评指正！
自编码器（Autoencoder, AE）是一种数据的压缩算法，其中压缩和解压缩函数是数据相关的、有损的、从样本中自动学习的。自编码器通常用于学习高效的编码，在神经网络的形式下，自编码器可以用于降维和特征学习。
今天给大家介绍一篇来自美国密苏里州圣路易斯市华盛顿大学生命系统科学与工程中心和该校医学院病理与免疫学系合作的文章“Deep learning the structural determinants of protein biochemical properties by comparing structural ensembles with DiffNets”。该论文使用DiffNet模型比较蛋白质的结构集合，从而学习蛋白质的生化性质的结构决定因素。
人们普遍认为，从单一角度合成 3D 数据是人类视觉的基本功能。但这对计算机视觉算法来说极具挑战性。但随着激光雷达（LiDAR）、 RGB-D 摄像头（RealSense、 Kinect）和 3D 扫描仪等 3D 传感器的普及和价格的降低，最新的 3D 采集技术已经取得了巨大飞跃。与广泛使用的 2D 数据不同，3D 数据具有丰富的尺度和几何信息，可以帮助机器更好的理解环境。然而，与 2D 数据相比， 3D 数据的可用性相对较低，而且采集成本较高。因此，近年来许多深度学习方法被提出，可以不依赖任何 3D 传感器，从可用的 2D 数据中合成 3D 数据。在我们深入研究这些方法之前，先了解下要处理的 3D 数据的格式。
所谓目标导向，就是说特征提取和聚类任务不是独立的，提取的特征要在一定程度上有利于聚类，那么如何实现？可以通过自训练聚类的方式，将隐藏图嵌入产生的软聚类分配与聚类联合优化。
在过去的几年里，深度学习方法在几个领域的表现都超过了以往的机器学习技术，其中最突出的一个例子就是计算机视觉。这篇综述文章简要介绍了计算机视觉问题中最重要的一些深度学习方案，即卷积神经网络、深度玻尔兹曼机和深度信念网络，以及叠加去噪自编码器。简要介绍了它们的历史、结构、优点和局限性，然后介绍了它们在各种计算机视觉任务中的应用，如对象检测、人脸识别、动作和活动识别以及人体姿态估计。最后，简要介绍了未来计算机视觉问题深度学习方案的设计方向和面临的挑战。
“深度学习是一个基于赋予大型神经网络多层隐含的机器学习领域，以学习具有较强预测能力的特征。尽管深度学习技术是早期神经网络的后代，但它们利用无监督和半监督学习，结合复杂的优化技术，实现了最新的精确度。” 为了从训练样本中提取代表性特征，通常通过堆叠自编码器来构建深度神经网络，这是一种特殊类型的单层神经网络（Hinton and Salakhutdinov 2006）。自动编码器通过使用与训练实例和目标标签相同的未标记输入来训练。去噪自动编码器是通过随机破坏自编码器的输入矩阵来训练的。由于自动编码器不使用训
选自Medium 作者：James Le 机器之心编译 参与：白悦、黄小天 本文简述了机器学习核心结构的历史发展，并总结了研究者需要熟知的 8 个神经网络架构。 我们为什么需要「机器学习」？ 机器学习对于那些我们直接编程太过复杂的任务来说是必需的。有些任务很复杂，以至于人类不可能解决任务中所有的细节并精确地编程。所以，我们向机器学习算法提供大量的数据，让算法通过探索数据并找到一个可以实现程序员目的的模型来解决这个问题。 我们来看两个例子： 写一个程序去识别复杂场景中照明条件下新视角的三维物体是很困难的。我们
为了帮助大家理清机器学习的知识脉络，建立整体的知识结构，2018年SIGAI推出过机器学习算法地图，纸质版和电子版的阅读量超过10万。两年之后，我们对算法地图进行了优化升级，使得它的结构更为合理清晰，内容更为简洁。下面先看算法地图2021版的整图
在日常工作中，深度学习正在被积极地使用。与其他机器学习算法不同的是，深度网络最有用的特性是，随着它获得更多的数据，它们的性能就会有所提高。因此，如果能够获得更多的数据，则可以预见到性能的提高。 深度网络的优势之一就是机器翻译，甚至谷歌翻译现在也在使用它们。在机器翻译中，需要句子水平的并行数据来训练模型，也就是说，对于源语言中的每句话，都需要在目标语言中使用翻译的语言。不难想象为什么会出现这样的问题。因为我们很难获得大量的数据来进行一些语言的配对。 本文是如何构建的？ 这篇文章是基于“只使用语料库来进行无监督
将TensorBoard插在MNIST数据集上的一个自动编码器上，用于演示非监督机器学习的t-SNE嵌入的可视化。 需要说明的是，在这个项目中，我们有两种类型的嵌入: 我们使用自动编码器来嵌入和压缩数据集。这是对我们的数据进行无监督的神经压缩，并且这样的神经压缩可以揭示在无标记数据可用的各种任务中显得非常有用。 我们将自动编码器嵌入到t-SNE中来进一步压缩信息，从而可视化自动编码器的嵌入过程。 嵌入一个自编码器 与在原始的MNIST输入图像上运行的t-SNE嵌入相比，这里的细微差别在于，我们可以看到编码器
前言 时下火热的无监督学习Yann LeCun也点赞过的无监督学习 当数据集没有任何标签时，该怎么办? 无监督学习是一组机器学习算法和方法，这些算法和方法处理这种“非基于事实”的数据。 这篇文章将
本文是机器学习算法地图的下篇，系统地整理了深度学习算法，整张图的设计风格与机器学习算法地图保持一致。从去年底就开始酝酿深度学习算法地图，然而工程浩大。这张图是SIGAI算法工程师集体智慧的结晶，也是在研发SIGAI核心产品-简单易用的机器学习框架过程中的副产品。由于深度学习的算法变种太多，而且处于高速发展期，因此难免会有疏漏，后续版本将不断完善与优化。
一家名为GOAT的潮鞋交易平台正尝试用机器学习，从七张照片中识别出一双鞋子是否是真的。
变分自动编码器(VAE)是一种有方向的图形生成模型，已经取得了很好的效果，是目前生成模型的最先进方法之一。它假设数据是由一些随机过程,涉及一个未被注意的连续随机变量z假设生成的z是先验分布Pθ(z)和条件生成数据分布Pθ(X | z),其中X表示这些数据。z有时被称为数据X的隐藏表示。
给出一个来自领域A的单一图像x和一组来自领域B的图像，我们的任务是生成x在B中的类似物。我们认为，这项任务可能是一项关键的人工智能能力，它强调了认知代理在这个世界上的行动能力，并提出了经验证据，表明现有的无监督领域翻译方法在这项任务上失败。我们的方法遵循一个两步过程。首先，为领域B训练一个变异自动编码器。然后，给定新的样本x，我们通过调整接近图像的层来创建A域的变异自动编码器，以便直接适应x，而只间接适应其他层。我们的实验表明，当对一个样本x进行训练时，新方法和现有的领域转移方法一样好，当这些方法享受来自领域A的大量训练样本时。我们的代码可在https://github.com/sagiebenaim/OneShotTranslation 公开。
现在根据深度学习书，自动编码器是一种神经网络，经过训练旨在将其输入复制到其输出。在内部，它有一个隐藏层，用于描述用于表示输入的代码。网络可被视为由两部分组成：编码器功能“h = f（x）”和产生重建“r = g（h）”的解码器。
上文讲述了机器学习的功能和神经网络的概念，以及简要介绍了感知器和卷积神经网络，接下来继续介绍另外6种神经网络架构。
本文带你一窥Twitter整个产品链的构成，了解数据科学是怎样在各类型公司中发挥作用的。
本文介绍由美国德克萨斯大学MD安德森癌症中心生物统计学系的Ziyi Li和Kim-Anh Do共同通讯发表在 Bioinformatics 的研究成果：为了更好地注释scRNA-seq 数据，发现新的细胞类型，作者开发了一种简单而有效的方法，结合自动编码器和迭代特征选择，从scRNA-seq数据中自动识别新细胞。该方法用标记的训练数据训练一个自动编码器，并将自动编码器应用于测试数据以获得重建误差。通过反复选择表现出双模模式的特征，并使用所选特征对细胞进行重新分组，该方法可以准确地识别训练数据中不存在的新细胞。作者进一步将这种方法与支持向量机结合起来，为注释所有的细胞类型提供了一个完整的解决方案。使用五个真实的scRNA-seq数据集进行的广泛的数值实验，结果表明，该方法比现有的方法具有更好的性能。
深度学习，即Deep Learning,是一种学习算法（Learning algorithm）,亦是人工智能领域的一个重要分支。从快速发展到实际应用，短短几年时间里，深度学习颠覆了语音识别、图像分类、文本理解等众多领域的算法设计思路，渐渐形成了一种从训练数据出发，经过一个端到端（end-to-end）的模型，然后直接输出得到最终结果的一种新模式。那么，深度学习有多深？学了究竟有几分？本文将带你领略深度学习高端范儿背后的方法与过程。
这怎么可能！后来我才知道，这是人家Deepfake的一个视频，把视频中人物的脸和声音替换了。
领取专属 10元无门槛券
手把手带您无忧上云
