上期我们一起学习了 深度学习三人行(第3期)---- TensorFlow从DNN入手 简单的介绍了ANN(人工神经网络），并训练了我们第一个DNN(深度神经网络)，但是一个非常浅的DNN，只有两个隐藏层。如果你需要解决一个非常复杂的问题，比如在高分辨率的图像中分辨不上百种不同类型的实体对象，这时候你就需要训练一个更深的DNN来完成，可能是10层，并且每层会包含上百个神经元，并由上成千上百个连接器组成。这时候你将面临如下问题： 你将面临非常诡异的梯度消失或爆炸，这会直接影响DNN的构建并且导致浅层的网络非常
选自Uber 作者：Alex Sergeev、Mike Del Balso 机器之心编译 参与：李泽南、路雪 Horovod 是 Uber 开源的又一个深度学习工具，它的发展吸取了 Facebook「一小时训练 ImageNet 论文」与百度 Ring Allreduce 的优点，可为用户实现分布式训练提供帮助。本文将简要介绍这一框架的特性。 近年来，深度学习引领了图像处理、语音识别和预测等方面的巨大进步。在 Uber，我们将深度学习应用到了公司业务中，从自动驾驶搜索路线到防御欺诈，深度学习让我们的数据科
上一篇14 交叉熵损失函数——克服学习缓慢从最优化算法层面入手，将二次的均方误差（MSE）更换为交叉熵作为损失函数，避免了当出现“严重错误”时导致的学习缓慢。 本篇引入1/sqrt(nin)权重初始化方法，从另一个层面——参数初始化（神经网络调教的5个层面归纳在13 AI驯兽师：神经网络调教综述）入手改善网络的学习速度。 相比之前采用的标准正态分布初始化，1/sqrt(nin)权重初始化不仅明显的加快了学习速度，而且单纯性（其他任何参数不变）的提升了测试集识别精度1~2个百分点。 理解了1/sqrt(nin
上一篇14 交叉熵损失函数——克服学习缓慢从最优化算法层面入手，将二次的均方误差（MSE）更换为交叉熵作为损失函数，避免了当出现“严重错误”时导致的学习缓慢。 本篇引入1/sqrt(nin)权重初始化方法，从另一个层面——参数初始化（神经网络调教的5个层面归纳在13 AI驯兽师：神经网络调教综述）入手改善网络的学习速度。 相比之前采用的标准正态分布初始化，1/sqrt(nin)权重初始化不仅明显的加快了学习速度，而且单纯性（其他任何参数不变）的提升了测试集识别精度1~2个百分点。 理解了1/sqrt(ni
好的开始是成功的一半。 为了让你的模型跑赢在起跑线 ε=ε=ε=(~￣▽￣)~ ，请慎重对待参数初始化。
深度学习框架哪家强：TensorFlow？Caffe？MXNet？Keras？PyTorch？对于这几大框架在运行各项深度任务时的性能差异如何，各位读者不免会有所好奇。 微软数据科学家Ilia Karmanov最新测试的结果显示，亚马逊MXNet在CNN、RNN与NLP情感分析任务上性能强劲，而TensorFlow仅擅长于特征提取。 测试详情更新在Ilia Karmanov的GitHub项目DeepLearningFrameworks（https://github.com/ilkarman/Deep
Sebastian Heinz. A simple deep learning model for stock price prediction using TensorFlow
本文是一个通过模拟预测股票，教会大家如何动手操作TensorFlow的教程，结果不具有权威性。因为股票价格的实际预测是一项非常复杂的任务，尤其是像本文这种按分钟的预测。 导入并预处理数据 我们的团队从我们的抓取服务器中的数据并csv格式的保存。数据集包含n = 41266分钟的数据，从2017年4月到8月，500只股票，以及标准普尔500指数成份股。指数和股票以宽格式排列。 数据集：http://files.statworx.com/sp500.zip # Import data data= pd.read
翻译自博客：IMPLEMENTING A CNN FOR TEXT CLASSIFICATION IN TENSORFLOW 原博文：http://www.wildml.com/2015/12/implementing-a-cnn-for-text-classification-in-tensorflow/ github：https://github.com/dennybritz/cnn-text-classification-tf 在这篇文章中，我们将实现一个类似于Kim Yoon的卷积神经网络语句分类
文章主要讲述了如何利用TensorFlow进行深度学习，包括模型的搭建、训练、保存以及部署。同时，文章还介绍了如何使用TensorFlow进行图像分类和文本情感分析等具体应用。
近几年，随着深度学习的大火，越来越多的人选择去入门、学习、钻研这一领域，正确初始化神经网络的参数对神经网络的最终性能有着决定性作用。如果参数设置过大，会出现梯度爆炸的现象，导致网络训练过程发散；而如果参数设置过小，会出现梯度消失的现象，导致收敛极其缓慢。本文是作者拜读Xavier Glorot于2016年在ICML上发表的《Understanding the difficulty of training deep feedforward》及Katanforoosh & Kunin的“Initializing neural networks”后的读书笔记。
目前正在学习把深度学习应用到NLP，主要是看些论文和博客，同时做些笔记方便理解，还没入门很多东西还不懂，一知半解。贴出来的原因，一是方便自己查看，二是希望大家指点一下，尽快入门。
1.Tensor介绍 Tensor（张量）是Tensorflow中最重要的数据结构，用来表示Tensorflow程序中的所有数据。Tensor本是广泛应用在物理、数学领域中的一个物理量。那么在Tensorflow中该如何理解Tensor的概念呢？ 实际上，我们可以把Tensor理解成N维矩阵（N维数组）。其中零维张量表示的是一个标量，也就是一个数；一维张量表示的是一个向量，也可以看作是一个一维数组；二维张量表示的是一个矩阵；同理，N维张量也就是N维矩阵。 在计算图模型中，操作间所传递的数据都可以看做是Te
第 10 章介绍了人工神经网络，并训练了我们的第一个深度神经网络。 但它是一个非常浅的 DNN，只有两个隐藏层。 如果你需要解决非常复杂的问题，例如检测高分辨率图像中的数百种类型的对象，该怎么办？ 你可能需要训练更深的 DNN，也许有 10 层，每层包含数百个神经元，通过数十万个连接相连。 这可不像公园散步那么简单：
作者：叶 虎 编辑：李文臣 PART 01 Tensorflow简介 引言 实践深度学习肯定要至少学习并掌握一个深度学习框架。这里我们介绍一个最流行的深度学习框架：Tensorflow。Tensorf
近日，Tesorflow软件工程师Noah Fiedel通过本文描述了机器学习模型TensorFlow Serving最近的一些创新进展 TensorFlow Serving是一种灵活的、高性能的机器
根据语境，此处「it」指代「animal」或「street」。（来源：https://ai.googleblog.com/2017/08/transformer-novel-neural-network.html）
【新智元导读】 TensorFlow Serving 开源的一年半时间里取得了许多进展和性能提升，包括开箱即用的优化服务和可定制性，多模型服务，标准化模型格式，易于使用的推理API等。本文是研究团队撰写的回顾，并提出接下来创新的方向是Granular batching和分布式模型服务。 自从2016年2月 TensorFlow Serving 开源以来，我们做了一些重大改进。现在，让我们再回到这个项目开始的地方，回顾我们的进展过程，并分享我们下一步的方向。 在 TensorFlow Serving 启动之前
在很多情况下，可能会遇到数据不平衡问题。数据不平衡是什么意思呢？举一个简单的例子：假设你正在训练一个网络模型，该模型用来预测视频中是否有人持有致命武器。但是训练数据中只有 50 个持有武器的视频，而有 1000 个没有持有武器的视频。如果使用这个数据集完成训练的话，模型肯定倾向于预测视频中没有持有武器。针对这个问题，可以做一些事情来解决：
原文标题：TensorFlow Tutorial: 10 minutes Practical TensorFlow lesson for quick learners 作者：ANKIT SACHAN 翻译：和中华 校对：程思衍 本文长度为2000字，建议阅读10分钟 通过这篇文章，你可以了解TensorFlow中最基础的几个概念，还可以学习最简单的线性回归如何在TensorFlow中完成。 这篇TensorFlow教程的目标读者是那些对机器学习有一定基本概念并且想尝试上手TensorFlow的人。首先你
神经网络的训练过程中的参数学习是基于梯度下降法进行优化的。梯度下降法需要在开始训练时给每一个参数赋一个初始值。这个初始值的选取十分关键。一般我们希望数据和参数的均值都为 0，输入和输出数据的方差一致。在实际应用中，参数服从高斯分布或者均匀分布都是比较有效的初始化方式。 所以理想的网络参数初始化是很重要的，但是现在框架都定义了很多参数初始化方式，可以直接调用，比如tensorflow的变量初始化方式如下： initializer：是变量初始化的方式，初始化的方式有以下几种：
课程简介介绍道，本课程将从实现矩阵乘法和反向传播基础开始，到高性能混合精度训练，最新的神经网络架构和学习技术，以及介于两者之间的所有内容。它涵盖了许多构成现代深度学习基础的最重要的学术论文，使用“代码优先”教学方法，每个方法都从头开始在 Python 中实现并进行详解（还将讨论许多重要的软件工程技术）。整个课程包括大约 15 个课时和数十个交互式 notebooks，且完全免费、无广告，作为社区服务供使用。前五课时使用 Python、PyTorch 和 fastai 库；最后两节课使用 Swift for TensorFlow，并由 Jeremy Howard 和与Swift、clang 和 LLVM 的创建者 Chris Lattner 共同教授。
本文介绍基于Tensorflow的强化学习off policy算法的分布式实现，包括多机共享replay buffer。分布式 TensorFlow 允许我们在多台机器上运行一个模型，所以训练速度或加速效果能显著地提升。
同步微博端，代码混乱，请查看原文如下： 这篇文章是TensorFlow的入门教程。在开始阅读本文之前，请确保你会Python，并且对矩阵有一定的了解，除此之外，最好能懂一点机器学习的知识，不过如果你对机器学习一无所知也没关系，你可以从阅读这篇文章开始学起。 TensorFlow提供了丰富的接口供调用。TensorFlow的内核尽可能开放了最完备的接口，它允许你在此基础上从最底层开始开发。我们建议一般开发者可以不用从这么底层开始开发，这些底层接口更适合科研人员。TensorFlow的上层接口都是在此基础上搭建
作者：数据娃掘 来源：http://blog.csdn.net/jdbc/article/details/68957085 前言 目前，深度学习在计算机科学各领域的应用越来越多，各种新技术层出不穷，比如图像识别、图形定位与检测、语音识别这一系列的技术。这个领域，对于初入技术行业的同学来讲，吸引力十分足够：特别是在整个领域工资居高不下的时候。 说到深度学习，就不能不提一下开源框架tensorflow。不仅是因为这个框架最火、使用率最高，也是因为这个框架是非常适合初学者接触、学习的。 我们会讲到一些深度学习
TensorFlow 是一种采用数据流图（data flow graphs），用于数值计算的开源软件库。在 Tensorflow 中，所有不同的变量和运算都是储存在计算图，所以在我们构建完模型所需要的图之后，还需要打开一个会话（Session）来运行整个计算图 通常使用import tensorflow as tf来载入TensorFlow 在TensorFlow程序中，系统会自动维护一个默认的计算图，通过tf.get_default_graph函数可以获取当前默认的计算图。除了使用默认的计算图，可以使用tf.Graph函数来生成新的计算图，不同计算图上的张量和运算不会共享 在TensorFlow程序中，所有数据都通过张量的形式表示，张量可以简单的理解为多维数组，而张量在TensorFlow中的实现并不是直接采用数组的形式，它只是对TensorFlow中运算结果的引用。即在张量中没有真正保存数字，而是如何得到这些数字的计算过程 如果对变量进行赋值的时候不指定类型，TensorFlow会给出默认的类型，同时在进行运算的时候，不会进行自动类型转换 会话(session)拥有并管理TensorFlow程序运行时的所有资源，所有计算完成之后需要关闭会话来帮助系统回收资源，否则可能会出现资源泄漏问题 一个简单的计算过程：
Object Detection with YOLO: Hands-on Tutorial - neptune.ai
失去一个老用户会带来巨大的损失，大概需要公司拉新10个新用户才能予以弥补。如何预测客户即将流失，让公司采取合适的挽回措施，是每个公司都要关注的重点问题。
常用的对网络结构的改进包括正则化和标准化，正则化可以解决深度网络的过拟合问题，标准化可以加快学习过程。为了缓解较深的网络由于指数效应导致的梯度爆炸和梯度消失问题，需要合理地设置网络权重参数初始值。此外对于多分类问题，通常在最后一个神经元使用softmax分类器。
TensorFlow时谷歌于2015年11月宣布在Github上开源的第二代分布式机器学习系统，目前仍处于快速开发迭代中，有大量的新功能新特性在陆续研发中；
来源：机器之心 本文长度为4498字，建议阅读8分钟 本文非常适合初学者了解如何使用TensorFlow构建基本的神经网络。 STATWORX 团队近日从 Google Finance API 中精选出了 S＆P 500 数据，该数据集包含 S＆P 500 的指数和股价信息。有了这些数据，他们就希望能利用深度学习模型和 500 支成分股价预测 S&P 500 指数。STATWORX 团队的数据集十分新颖，但只是利用四个隐藏层的全连接网络实现预测，读者也可以下载该数据尝试更加优秀的循环神经网络。 本文非
【导读】近日，机器学习工程师Francesco Zuppichini发表一篇教程，讲解了在TensorFlow中高效地输入数据集的方法，作者首先抛弃了feed-dict（它太慢了），然后介绍Tenso
变量（Variable）是 TensorFlow 中程序处理的共享持久状态的最佳方法。与常量不同的时，常量创建后，值便无法更改，但是变量创建后 可以修改。并且修改后的值在多个Session中都是可以看见的。
[ 导读 ]对深度学习做出巨大贡献的Yoshua Bengio，他与Yann Lecun和Geofrey Hinton等人在今年3月获得了图灵奖。近几年，深度学习技术的大爆炸式发展，除了理论方面的突破外，还有基础架构的突破，这些都奠定了深度学习繁荣发展的基础。
在训练模型时，我们首先要处理的就是训练数据的加载与预处理的问题，这里称这个过程为输入流水线（input pipelines，或输入管道，[参考：https://www.tensorflow.org/performance/datasets_performance]）。在TensorFlow中，典型的输入流水线包含三个流程（ETL流程）：
本文将初步向码农和程序媛们介绍如何使用TensorFlow进行编程。在阅读之前请先 安装TensorFlow，此外为了能够更好的理解本文的内容，阅读之前需要了解一点以下知识：
我们对Keras应该已经有了一个直观、宏观的认识了。现在，我们来系统的学习一下Keras的一些关于网络层的API，本文的主要内容是围绕卷积展开的，包含以下的内容：
项目地址：https://github.com/MarkPKCollier/NeuralTuringMachine
如果你使用均匀取值，应用从粗到细的搜索方法，取足够多的数值，最后也会得到不错的结果
选自Medium 机器之心编译 参与：蒋思源、李亚洲、刘晓坤 STATWORX 团队近日从 Google Finance API 中精选出了 S＆P 500 数据，该数据集包含 S＆P 500 的指数和股价信息。有了这些数据，他们就希望能利用深度学习模型和 500 支成分股价预测 S&P 500 指数。STATWORX 团队的数据集十分新颖，但只是利用四个隐藏层的全连接网络实现预测，读者也可以下载该数据尝试更加优秀的循环神经网络。 本文非常适合初学者了解如何使用 TensorFlow 构建基本的神经网络，
机器之心编译 参与：蒋思源、李亚洲、刘晓坤 STATWORX 团队近日从 Google Finance API 中精选出了 S＆P 500 数据，该数据集包含 S＆P 500 的指数和股价信息。有了这些数据，他们就希望能利用深度学习模型和 500 支成分股价预测 S&P 500 指数。STATWORX 团队的数据集十分新颖，但只是利用四个隐藏层的全连接网络实现预测，读者也可以下载该数据尝试更加优秀的循环神经网络。 本文非常适合初学者了解如何使用 TensorFlow 构建基本的神经网络，它全面展示了构建一
‘th’模式下，为形如（samples，channels, rows，cols）的4D张量
从现在开始我们就正式进入TensorFlow2.0的学习了，在这一系列文章里我们将重点介绍TensorFlow的基础知识和使用方法，为后面我们使用TensorFlow去解决一些实际的问题做好准备。2019年3月的TensorFlow开发者峰会上，TensorFlow2.0 Alpha版正式发布，2.0版相比之前的1.x（1.x泛指从1.0到1.13的各个TensorFlow版本）版做了很大的改进，在确保灵活性和性能的前提下易用性得到了很大的提升，对于初次接触TensorFlow的读者来说，建议直接从2.0版开始使用。
目录 1. 深度学习有哪些应用 2. 什么是神经网络 2.1 什么是感知器 2.2 神经网络的结构 2.3 为什么神经网络具有非线性切分能力 3. 神经网络的计算过程 3.1 计算过程 3.2 随机初
TensorFlow支持各种异构平台，支持多CPU/GPU、服务器、移动设备，具有良好的跨平台的特性；TensorFlow架构灵活，能够支持各种网络模型，具有良好的通用性；此外，TensorFlow架构i具有良好的可扩展性，对OP的扩展支持，Kernel特化方面表现出众。
在深度学习领域，TensorFlow作为一款强大的开源机器学习框架，为研究者和开发者提供了丰富的工具和库来构建、训练和部署机器学习模型。随着模型规模的不断扩大和应用场景的日益复杂，如何高效地优化这些模型，使之在有限的计算资源下达到最佳性能，成为了一个至关重要的课题。本文将深入探讨几种基于TensorFlow的模型优化策略，并通过实战代码示例，帮助读者掌握优化技巧，提升模型的训练效率与预测性能。
安妮 编译自 O’Reilly 量子位出品 | 公众号 QbitAI 生成式对抗网络是20年来机器学习领域最酷的想法。 ——Yann LeCun 自从两年前蒙特利尔大学的Ian Goodfellow等人提出生成式对抗网络（Generative Adversarial Networks，GAN）的概念以来，GAN呈现出井喷式发展。 这篇发布在O’Reilly上的文章中，作者向初学者进行了GAN基础知识答疑，并手把手教给大家如何用GAN创建可以生成手写数字的程序。 本教程由两人完成：Jon Bruner是O
WebAssembly（WASM）是一种低级的二进制格式，它允许开发者使用C、C++、Rust等语言编写的代码在Web浏览器中运行，从而实现接近原生的性能。WASM的目标是成为Web平台的一个标准组成部分，提供一个安全、高效的环境来运行高性能的应用程序。
选自xcelerit 机器之心编译 参与：蒋思源 RNN 是处理量化金融、风险管理等时序数据的主要深度学习模型，但这种模型用 GPU 加速的效果并不好。本文使用 RNN 与 LSTM 基于 Tenso
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
