【导读】近日，人工智能学者Ravindra Kompella发表一篇博客，介绍了作者实现的基于keras的机器翻译例子。作者通过一个seq2seq编码器-解码器网络实现英语到法语的自动翻译。作者在博文中详细介绍了自己的模型架构和训练数据，并使用代码片段分步骤对训练过程进行讲解。总之，这是一篇比较详尽的机器翻译应用示例教程，如果你有从事机器翻译或seq2seq模型相关的研究，可以详细阅读一下，相信一定对您的工程和理论都有所帮助。专知内容组编辑整理。 Neural Machine Translation——Us
【导读】这篇博文介绍了如何在深度学习框架Keras上实现文本摘要问题，探讨了如何使用编码器-解码器递归神经网络体系结构来解决文本摘要问题，如何实现文本摘要问题的不同的编码器和解码器，博文通俗易懂，专知内容组整理出来，希望大家喜欢。 Encoder-DecoderModels for Text Summarization in Keras 用Keras实现基于Encoder-Decoder的文本自动摘要 作者：Jason Brownlee 译者：专知内容组 ▌文本摘要概述 ---- 文本摘要是从一个源文档中
简而言之，自动编码器通过接收数据、压缩和编码数据，然后从编码表示中重构数据来进行操作。对模型进行训练，直到损失最小化并且尽可能接近地再现数据。通过这个过程，自动编码器可以学习数据的重要特征。
我近期在研究一个 NLP 项目，根据项目的要求，需要能够通过设计算法和模型处理单词的音节 (Syllables)，并对那些没有在词典中出现的单词找到其在词典中对应的押韵词（注：这类单词类似一些少见的专有名词或者通过组合产生的新词，比如 Brexit，是用 Britain 和 exit 组合在一起创造出来表示英国脱欧的新词）。在这两个任务中，能够对单词的发音进行预测是非常有必要的。本文详细记录我解决该问题的过程，希望能够对初学者和具有一定经验的朋友有所帮助。本文代码实现均基于 Python 3 和 Keras 框架。现在让我们开始吧！
自然语言处理的常用方法是循环神经网络。所以接下来会从 character RNN 开始（预测句子中出现的下一个角色），继续介绍RNN，这可以让我们生成一些原生文本，在过程中，我们会学习如何在长序列上创建TensorFlow Dataset。先使用的是无状态RNN（每次迭代中学习文本中的随机部分），然后创建一个有状态RNN（保留训练迭代之间的隐藏态，可以从断点继续，用这种方法学习长规律）。然后，我们会搭建一个RNN，来做情感分析（例如，读取影评，提取评价者对电影的感情），这次是将句子当做词的序列来处理。然后会介绍用RNN如何搭建编码器-解码器架构，来做神经网络机器翻译（NMT）。我们会使用TensorFlow Addons项目中的 seq2seq API 。
传统的自动编码器是一种数据的压缩算法 其算法包括编码阶段和解码阶段，且拥有对称的结构。
在前面章节中，我们一再看到，训练或使用神经网络进行预测时，我们需要把数据转换成张量。例如要把图片输入卷积网络，我们需要把图片转换成二维张量，如果要把句子输入LSTM网络，我们需要把句子中的单词转换成one-hot-encoding向量。
图像重构是计算机视觉领域里一种经典的图像处理技术，而自编码器算法便是实现该技术的核心算法之一。在了解了自编码器的基本原理之后，本节就通过实例讲解如何利用Tensorflow2.X来一步步地搭建出一个自编码器并将其应用于MNIST手写图像数据的重构当中。
（第二部分：深度学习） 第10章 使用Keras搭建人工神经网络 第11章 训练深度神经网络 第12章 使用TensorFlow自定义模型并训练 第13章 使用TensorFlow加载和预处理数据 第14章 使用卷积神经网络实现深度计算机视觉 第15章 使用RNN和CNN处理序列 第16章 使用RNN和注意力机制进行自然语言处理 第17章 使用自编码器和GAN做表征学习和生成式学习 [第18章 强化学习] [第19章 规模化训练和部署TensorFlow模型]
在机器学习领域中，自编码器（Autoencoder）是一种强大的神经网络架构，用于数据降维和特征提取。自编码器通过训练过程将输入数据映射到低维编码空间，然后再将其重构为原始数据。本文将深入探讨自编码器的原理、应用以及代码示例，帮助读者理解其在数据处理中的重要性。
编码器-解码器模型提供了使用递归神经网络来解决有挑战性的序列-序列预测问题的方法，比如机器翻译等。
Seq2seq模型构成了机器翻译、图像和视频字幕、文本摘要、聊天机器人以及任何你可能想到的包括从一个数据序列到另一个数据序列转换的任务的基础。如果您曾使用过谷歌Translate，或与Siri、Alexa或谷歌Assistant进行过互动，那么你就是序列对序列(seq2seq)神经结构的受益者。
自动编码器（Autoencoders）是一种无监督学习算法，在深度学习领域中被广泛应用。它可以通过将输入数据进行编码和解码来重构数据，从而学习数据的低维表示。自动编码器可以用于特征提取、降维和数据重建等任务，在图像处理、文本处理和推荐系统等领域都有广泛的应用。
原文链接：http://www.chenjianqu.com/show-62.html
正确理解图像信息在医学等领域是至关重要的。去噪可以集中在清理旧的扫描图像上，或者有助于癌症生物学中的特征选择。噪音的存在可能会混淆疾病的识别和分析，从而导致不必要的死亡。因此，医学图像去噪是一项必不可少的预处理技术。
在这篇文章中，我们将演示如何构建Transformer聊天机器人。 本文聚焦于：使用TensorFlow Dataset并使用tf.data创建输入管道来使用Cornell Movie-Dialogs Corpus，使用Model子类化实现MultiHeadAttention，使用Functional API实现Transformer。
对于自然场景的文字识别我们会遇到了许多不规则裁剪的图像，其中包含文本表示。虽然已经引入了许多复杂的想法来从图像中提取确切的文本。例如光学字符识别 (OCR)、基于 RNN 的 seq2seq 注意方法都是被认为是从结构图像中提取序列信息的传统方法，但许多研究人员发现，很难处理不规则图像和训练时间使他们更加昂贵。基于 RNN 的 seq2seq 注意力方法需要输入的序列表示，这些输入因输入而异，因此很难训练数百万张图像。大多数时间模型无法预测文本或字符，因为我们正在处理自然场景图像。
本文是关于如何使用Python和Keras开发一个编解码器模型的实用教程，更精确地说是一个序列到序列（Seq2Seq）。在上一个教程中，我们开发了一个多对多翻译模型，如下图所示：
图像描述（Image Captioning）是将图像转化为自然语言描述的任务，它结合了计算机视觉和自然语言处理的技术。图像描述算法的应用广泛，包括机器人视觉、自动驾驶、无人机导航等领域。本文将介绍一种基本的图像描述算法，并使用Python和深度学习框架TensorFlow实现。
说到计算机生成的图像肯定就会想到deep fake：将马变成的斑马或者生成一个不存在的猫。在图像生成方面GAN似乎成为了主流，但是尽管这些模型在生成逼真的图像方面取得了巨大成功，但他们的缺陷也是十分明显的，而且并不是生成图像的全部。自编码器（autoencoder）作为生成的图像的传统模型还没有过时并且还在发展，所以不要忘掉自编码器！
在本文中，我们将看到如何创建语言翻译模型，这也是神经机器翻译的非常著名的应用。我们将使用seq2seq体系结构通过Python的Keras库创建我们的语言翻译模型。
在本文中，我们将看到如何创建语言翻译模型，这也是神经机器翻译的非常著名的应用。我们将使用seq2seq通过Python的Keras库创建我们的语言翻译模型。
AI 科技评论按：在自然语言处理任务中，循环神经网络是一种常见的方法，但近来，一种只依赖于注意力机制的特定神经网络模型已被证明它对于常见的自然语言处理任务的效果甚至优于循环神经网络模型，这个模型被称为变换器（Transformer）。同时，数据科学家 Maxime Allard 发表了相应的文章对变换器的原理机制作了介绍与讲解，并用相应的实验帮助大家更好的理解这种神经网络模型，AI 科技评论将其编译如下。
定义解码器：输出784个神经元，使用sigmoid函数，（784这个值是输出与原图片大小一致）
在神经网络世界中，对图像数据进行建模需要特殊的方法。其中最著名的是卷积神经网络(CNN或ConvNet)或称为卷积自编码器。并非所有的读者都了解图像数据，那么我先简要介绍图像数据(如果你对这方面已经很清楚了，可以跳过)。然后，我会介绍标准神经网络。这个标准神经网络用于图像数据，比较简单。这解释了处理图像数据时为什么首选的是卷积自编码器。最重要的是，我将演示卷积自编码器如何减少图像噪声。这篇文章将用上Keras模块和MNIST数据。Keras用Python编写，并且能够在TensorFlow上运行，是高级的神经网络API。
论文地址：https://arxiv.org/pdf/2005.12872.pdf
来源：Deephub Imba本文约1500字，建议阅读5分钟在本文中，想展示如何使用仅编码器模型的预训练权重来为我们的微调提供一个良好的开始。 BERT是一个著名的、强大的预先训练的“编码器”模型。让我们看看如何使用它作为“解码器”来形成编码器-解码器架构。 Transformer 架构由两个主要构建块组成——编码器和解码器——我们将它们堆叠在一起形成一个 seq2seq 模型。从头开始训练基于Transformer 的模型通常很困难，因为它需要大型数据集和高 GPU 内存。我们可以使用许多具有不同目标的
本文中蓝色字体为外部链接，部分外部链接无法从文章中直接跳转，请点击【阅读原文】以访问。
BERT是一个著名的、强大的预先训练的“编码器”模型。让我们看看如何使用它作为“解码器”来形成编码器-解码器架构。
深度神经网络采用空间金字塔池化模块或编解码器结构进行语义分割。前者通过多速率、多有效视场的过滤或池化操作，能够编码多尺度背景信息;后者通过逐步恢复空间信息，能够捕获更清晰的物体边界。在本研究中，我们建议结合这两种方法的优点。具体来说，我们提出的模型DeepLabv3+扩展了DeepLabv3，通过添加一个简单但有效的解码器模块来细化分割结果，特别是沿着对象边界。我们进一步探索了Xception模型，并将深度可分离卷积应用于Atrous空间金字塔池和解码器模块，从而获得更快、更强的编码器-解码器网络。我们在PASCAL VOC 2012和Cityscapes数据集上验证了该模型的有效性，在没有任何后处理的情况下，测试集的性能分别达到了89.0%和82.1%。
我们虽然在改进风格迁移中改进了传统的神经风格迁移，但是仍然只能使用训练所得的固定数量的风格。因此我们要学习另一种允许实时任意风格迁移的神经网络模型，获得更多创意选择。
Google宣布对全球最受欢迎的开源机器学习库TensorFlow进行重大升级，承诺注重简单性和易用性，eager execution，直观的高级API以及在任何平台上灵活构建模型。
Unet是一种被广泛应用于图像分割任务的卷积神经网络结构。它的独特之处在于其编码器-解码器结构和跳跃链接的设计。本文将对Unet进行详细解析，并讨论其在稳定扩散方面的应用。
在本文中，作者重新思考了上述问题，并构建了一个轻量级的医学图像分割网络，称为SegNetr。具体来说，作者介绍了一种新的SegNetr块，它可以在任何阶段动态执行局部全局交互，并且只有线性复杂性。同时，作者设计了一种通用的 Information Retention Skip Connection（IRSC），以保留编码器特征的空间位置信息，并实现与解码器特征的精确融合。 作者在4个主流医学图像分割数据集上验证了SegNetr的有效性，与普通U-Net相比，参数和GFLOP分别减少了59%和76%，同时实现了与最先进方法相当的分割性能。值得注意的是，本文提出的组件也可以应用于其他U-shaped网络，以提高其分割性能。
语义分割是一种学习如何识别图像中对象范围的机器学习技术。语义分割赋予机器学习系统与人类相似的理解图像内容的能力。它促使机器学习算法定位对象的精准边界，无论是街景图像中的汽车和行人，还是医疗图像中的心脏、肝脏和肾脏。
本文介绍了如何利用seq2seq来建立一个文本摘要模型，以及其中的注意力机制。并利用Keras搭建编写了一个完整的模型代码。
在计算机科学中，人工神经网络由成千上万个以特定方式连接的节点组成。节点通常分层排列; 它们的连接方式决定了网络的类型，最终决定了网络在另一网络上执行特定计算任务的能力。传统的神经网络可能看起来像这样：
AI 科技评论按：2017 年 7 月，美国二手汽车零售平台 Carvana 在知名机器学习竞赛平台 kaggle 上发布了名为 Carvana 图像掩模大挑战赛（Carvana Image Mask
1.transformer介绍 Transformer被认为是一种新型的深度前馈人工神经网络架构，它利用了自注意机制，可以处理输入序列项之间的长期相关性。 在大量领域中采用，如自然语言处理（NLP）、计算机视觉（CV）、，音频和语音处理、化学和生命科学；他们可以在前面提到的学科中实现SOTA性能。 TransformerX库存储库 1.1 注意力机制 注意力是一种处理能力有限的认知资源分配方案 它同时生成源标记（单词）的翻译，1）这些相关位置的上下文向量和2）先前生成的单词。 注意力的特性 1.软 2.
在这项工作中，我们首先观察到DPMs通常难以学习图像中物体部分之间的关联关系，导致训练过程缓慢。为了解决这个问题，提出了一种有效的掩码扩散变换器（Masked Diffusion Transformer，MDT），以提高DPMs的训练效率。MDT引入了一个蒙面潜在建模方案，专门为基于Transformer的DPMs设计，以明确增强上下文学习能力并改进图像语义之间的关联关系学习。MDT在潜在空间中进行扩散过程以节省计算成本。它对某些图像标记进行掩码，并设计了一个不对称的掩码扩散变换器（AMDT），以一种扩散生成的方式预测被掩码的标记。MDT可以从其上下文不完整的输入中重建图像的完整信息，学习图像语义之间的关联关系。
AI 研习社按：2017 年 7 月，美国二手汽车零售平台 Carvana 在知名机器学习竞赛平台 kaggle 上发布了名为 Carvana 图像掩模大挑战赛（Carvana Image Maski
这些方法依赖于从一段文本中提取几个部分，比如短语和句子，然后将它们堆在一起创建摘要。因此，在提取方法中，识别出用于总结的正确句子是至关重要的。让我们通过一个例子来理解这一点。
BERT是双向转换器（Bi-Transformer）的缩写。这是谷歌在2018年末开发并发布的一种新型语言模型。BERT等经过预处理的语言模型在问答、命名实体识别、自然语言推理、文本分类等自然语言处理任务中发挥着重要作用。
目标分割是计算机视觉领域的一个重要任务，旨在从图像或视频中准确地分割出特定的目标或对象。与目标检测关注物体位置和边界框不同，目标分割要求精确地识别并标记目标的每个像素，实现对目标的像素级别理解。
今天将分享Unet的改进模型ANU-Net，改进模型来自2020年的论文《Attention-based nested U-Net to exploit fullresolution features for medical image segmentation》，简单明了给大家分析理解该模型思想。
深度学习不仅仅在擅长于从现有数据中发现规律，而且它能主动运用规律创造出现实世界没有的实例来。例如给网络输入大量的人脸图片，让它识别人脸特征，然后我们可以指导网络创建出现实世界中不存在的人脸图像，把深度学习应用在创造性生成上是当前AI领域非常热门的应用。
【导读】自编码器可以认为是一种数据压缩算法，或特征提取算法。本文作者Nathan Hubens 介绍了autoencoders的基本体系结构。首先介绍了编码器和解码器的概念，然后就“自编码器可以做什么
自编码器（Autoencoder）是一种旨在将它们的输入复制到的输出的神经网络。他们通过将输入压缩成一种隐藏空间表示（latent-space representation），然后这种重构这种表示的输
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
