在本文中，我们将深入探讨深度学习的核心概念和原理，以及如何使用Python和TensorFlow库构建和训练神经网络。我们将从基础开始，逐步介绍神经网络的结构、前向传播、反向传播和优化方法，以便读者能够深入理解并开始实际编写深度学习代码。
众所周知，人类在很小的时候就学会了识别和标记自己所看到的事物。如今，随着机器学习和深度学习算法的不断迭代，计算机已经能够以非常高的精度，对捕获到的图像进行大规模的分类了。目前，此类先进算法的应用场景已经涵括到了包括：解读肺部扫描影像是否健康，通过移动设备进行面部识别，以及为零售商区分不同的消费对象类型等领域。
BERT 作为目前工业界中训练最耗时的应用，计算量甚至远大于机器视觉中的 ImageNet 训练。在 BERT 原论文中，Jacob Devlin 也是用了 16 台云TPU（64 个 TPU 芯片）花了整整四天，才训练完了 BERT-large 模型。
在经历成千上万个小时机器学习训练时间后，计算机并不是唯一学到很多东西的角色，作为开发者和训练者的我们也犯了很多错误，修复了许多错误，从而积累了很多经验。在本文中，作者基于自己的经验（主要基于 TensorFlow）提出了一些训练神经网络的建议，还结合了案例，可以说是过来人的实践技巧了。
翻译 | AI科技大本营（rgznai100） 参与 | reason_W 引言 过去2年，我一直积极专注于深度学习领域。我对深度学习的兴趣始于2015年初，那个时候Google刚刚开源Tensorflow。我根据Tensorflow的文档快速地尝试了几个例程，当时的感觉是深度学习并不简单。部分原因是因为深度学习的框架很新，也需要更好的硬件支持和耐心来摸索。 时间快进到2017年，我已经在深度学习的项目上花费了几百个小时。并且由于软件（易用性，例如Keras，PyTorch）、硬件（对于我这样在印度工作
神经网络被用作深度学习的方法，深度学习是人工智能的许多子领域之一。它们大约在70年前首次提出，试图模拟人类大脑的工作方式，尽管它的形式要简化得多。各个“神经元”分层连接，分配权重以确定当信号通过网络传播时神经元如何响应。以前，神经网络在他们能够模拟的神经元数量上受到限制，因此他们可以实现学习的复杂性。但近年来，由于硬件开发的进步，我们已经能够构建非常深的网络，并在大量数据集上训练它们以实现机器智能的突破。
本文介绍了构建深度神经网络的一些基本技巧，从通用技巧、神经网络调试和案例研究三方面展开。
在我们的机器学习实验室中，我们已经在许多高性能的机器上进行了成千上万个小时的训练，积累了丰富的经验。在这个过程中，并不只有电脑学习到了很多的知识，事实上我们研究人员也犯了很多错误，并且修复了很多漏洞。
作者 Bunmi Akinremi 我清楚地记得两年前参加的一次机器学习黑客马拉松，当时我正处于数据科学职业生涯的初期。这是由尼日利亚数据科学组织的训练营的资格预审黑客马拉松。 该数据集包含有关某些员工的信息。我必须预测员工是否应该升职。在尝试改进和设计功能几天后，该模型的准确率似乎在 80% 左右波动。 我需要做点什么来提高我在排行榜上的分数。我开始手动调整模型——得到了更好的结果。通过更改参数，移动的准确度提高到 82%（这一移动非常重要，任何参加过黑客马拉松的人都会证明这一点！）。很兴奋，我开始调整其
深度学习中的优化问题通常指的是：寻找神经网络上的一组参数θ，它能显著地降低代价函数J(θ)。针对此类问题，研究人员提出了多种优化算法，Sebastian Ruder 在《An overview of gradient descent optimizationalgorithms》（链接：https://arxiv.org/pdf/1609.04747.pdf ）这篇论文中列出了常用优化算法的比较。主要优化算法有：GD、SGD、Momentum、Adagrad、Adadelta、RMSProp、Adam。
关键词：Python，tensorflow，深度学习，卷积神经网络 正文如下： 前言 上月导师在组会上交我们用tensorflow写深度学习和卷积神经网络，并把其PPT的参考学习资料给了我们， 这是codelabs上的教程：《TensorFlow and deep learning,without a PhD》 https://codelabs.developers.google.com/codelabs/cloud-tensorflow-mnist/#0 当然需要安装python，教程推荐使用pytho
在本节中，您将基于从上一节中获得的理解，并开发更新的概念并学习用于动作识别和对象检测的新技术。 在本节中，您将学习不同的 TensorFlow 工具，例如 TensorFlow Hub，TFRecord 和 TensorBoard。 您还将学习如何使用 TensorFlow 开发用于动作识别的机器学习模型。
在本节中，您将加深对理论的理解，并学习有关卷积神经网络在图像处理中的应用的动手技术。 您将学习关键概念，例如图像过滤，特征映射，边缘检测，卷积运算，激活函数，以及与图像分类和对象检测有关的全连接和 softmax 层的使用。 本章提供了许多使用 TensorFlow，Keras 和 OpenCV 的端到端计算机视觉管道的动手示例。 从这些章节中获得的最重要的学习是发展对不同卷积运算背后的理解和直觉-图像如何通过卷积神经网络的不同层进行转换。
在本章中，我们将介绍一些基本的秘籍，以便了解 TensorFlow 的工作原理以及如何访问本书的数据和其他资源。
大数据文摘作品 作者：Emil Wallnér 编译：高宁、Happen、陈玲、Alieen 深度学习的浪潮在五年前开始兴起。随着计算能力的爆炸型增长和几个成功的案例，深度学习引起了大肆宣传。深度学习技术可以用来驾驶车辆，在Atari游戏中进行人机对抗，以及诊断癌症。 开始学习神经网络时，我花了两周的时间进行探索，选择合适的工具，对比不同的云服务以及检索在线课程。但回想起来，我还是希望我可以从第一天就能创建神经网络，这也是这篇文章的目的。 你不需要有任何预备知识。当然如果你对Python，命令行和Jupyt
课程简介介绍道，本课程将从实现矩阵乘法和反向传播基础开始，到高性能混合精度训练，最新的神经网络架构和学习技术，以及介于两者之间的所有内容。它涵盖了许多构成现代深度学习基础的最重要的学术论文，使用“代码优先”教学方法，每个方法都从头开始在 Python 中实现并进行详解（还将讨论许多重要的软件工程技术）。整个课程包括大约 15 个课时和数十个交互式 notebooks，且完全免费、无广告，作为社区服务供使用。前五课时使用 Python、PyTorch 和 fastai 库；最后两节课使用 Swift for TensorFlow，并由 Jeremy Howard 和与Swift、clang 和 LLVM 的创建者 Chris Lattner 共同教授。
前言 上月导师在组会上交我们用tensorflow写深度学习和卷积神经网络，并把其PPT的参考学习资料给了我们， 这是codelabs上的教程：《TensorFlow and deep learning,without a PhD》 https://codelabs.developers.google.com/codelabs/cloud-tensorflow-mnist/#0 当然需要安装python，教程推荐使用python3。 好多专业词太难译了，查了下，大家有些都是不译的。 比如：dropou
第二天我们去的比较早，目标很明确就是为了在tensorflow专场找到一个好位置，到了之后才发现，原来人已经排了四队，还好不是很长，赶快排进了队伍，9点主场的门打开之后，大家进去之后纷纷跑向自己的目标位置，速度虽然没有亚洲飞人苏炳添快，但是相对来说已经超过大多数人了，不一会儿，整个会议场馆就坐满了人，目测跟第一天差不多，依然是千人大会。
在本节中，您将基于在上一节中学到的知识来执行复杂的计算机视觉任务，例如视觉搜索，对象检测和神经样式迁移。 您将巩固对神经网络的理解，并使用 TensorFlow 进行许多动手的编码练习。
本书的这一部分将为您简要概述 TensorFlow 2.0 中的新增功能，与 TensorFlow 1.x 的比较，惰性求值和急切执行之间的差异，架构级别的更改以及关于tf.keras和Estimator的 API 使用情况。
来源：机器之心 本文长度为2698字，建议阅读4分钟 本文通过构建同一个神经网络，对比当前最流行的 10 种深度学习框架。 [ 导读 ]近日，Ilia Karmanov 在 Medium 发表了一篇题为《Neural Net in 10 Frameworks (Lessons Learned)》的文章，其内容源自一个 GitHub 项目，其中作者通过构建同一个神经网络，对比了当前最流行的 10 种深度学习框架，其中 Caffe2 和 MXNet 在准确度和训练时长上处于领先位置。该项目甚至还得到了 FA
这项操作现在在github上已经可以使用了。
截止到2017年10月25日，吴恩达在Coursera上目前有3门新的深度学习课程: 1.神经网络和深度学习（Neural Networks and Deep Learning） 2.改善深度神经网络:调优超参数，正则化和优化（Improving Deep Neural Networks: Hyperparamater tuning, Regularization and Optimization） 3.构建机器学习项目（Structuring Machine Learning Projects） 这
选自Medium 作者：Ilia Karmanov 机器之心编译 参与：路雪、黄小天 近日，Ilia Karmanov 在 Medium 发表了一篇题为《Neural Net in 10 Frameworks (Lessons Learned)》的文章，其内容源自一个 GitHub 项目，其中作者通过构建同一个神经网络，对比了当前最流行的 10 种深度学习框架，其中 Caffe2 和 MXNet 在准确度和训练时长上处于领先位置。该项目甚至还得到了 FAIR 研究者、各大框架创始人（比如贾扬清）的支持。机器
近日，Ilia Karmanov 在 Medium 发表了一篇题为《Neural Net in 10 Frameworks (Lessons Learned)》的文章，其内容源自一个 GitHub 项目，其中作者通过构建同一个神经网络，对比了当前最流行的 10 种深度学习框架，其中 Caffe2 和 MXNet 在准确度和训练时长上处于领先位置。该项目甚至还得到了 FAIR 研究者、各大框架创始人（比如贾扬清）的支持。机器之心对该文进行了编译。 项目GitHub链接：https://github.com/i
批处理规范化背后的主要思想是，在我们的案例中，我们通过使用几种技术（sklearn.preprocessing.StandardScaler）来规范化输入层，从而提高了模型性能，因此，如果输入层受益于规范化，为什么不规范化隐藏层，这将进一步改善并加快学习速度。
本人是一个将要大学毕业的学生，目前就职在中世康恺的AI研发部门，中世康恺是一家服务于医学影像信息化的新型互联网公司，该公司以数字医疗影像为核心, 打造“云+集团+中心”模式。
在前九章中，我们使用 TensorFlow Mobile 在移动设备上运行各种由 TensorFlow 和 Keras 构建的强大的深度学习模型。 正如我们在第 1 章，“移动 TensorFlow 入门”中提到的那样，Google 还提供了 TensorFlow Lite（可替代 TensorFlow Mobile 的版本）在移动设备上运行模型。 尽管自 Google I/O 2018 起它仍在开发人员预览中，但 Google 打算“大大简化开发人员针对小型设备的模型定位的体验。” 因此，值得详细研究 TensorFlow Lite 并为未来做好准备。
项目链接：https://github.com/madalinabuzau/tensorflow-eager-tutorials
众所周知，机器学习代码很难调试。就连简单的前馈神经网络，您也经常需要围绕网络架构、权重值初始化和网络优化做出决策 - 所有这些都可能导致机器学习代码中隐藏BUG。
欢迎使用《深度学习快速参考》！ 在本书中，我将尝试使需要解决深度学习问题的数据科学家，机器学习工程师和软件工程师更容易使用，实用和使用深度学习技术。 如果您想训练自己的深度神经网络并且陷入困境，那么本指南很有可能会有所帮助。
我们都熟悉深度学习模型的训练过程。随着模型变得越来越复杂，训练时间也显着增加。因此，模型通常需要花费数小时来训练。
原文：Medium 作者：Shiyu Mou 来源：机器人圈 本文长度为4600字，建议阅读6分钟 本文为你介绍图像分类的5种技术，总结并归纳算法、实现方式，并进行实验验证。 图像分类问题就是从固定的一组分类中，给输入图像分配标签的任务。这是计算机视觉的核心问题之一，尽管它看似简单，却在实际生活中有着各种各样的应用。 传统方式：功能描述和检测。 也许这种方法对于一些样本任务来说是比较好用的，但实际情况却要复杂得多。 因此，我们将使用机器学习来为每个类别提供许多示例，然后开发学习算法来查看这些示例
精彩回顾 2018新智元产业跃迁AI技术峰会圆满结束，点击链接回顾大会盛况： 爱奇艺 http://www.iqiyi.com/l_19rr3aqz3z.html 腾讯新闻 http://v.qq.com/live/p/topic/49737/preview.html 新浪科技 http://video.sina.com.cn/l/p/1722511.html 云栖社区 https://yq.aliyun.com/webinar/play/419 斗鱼直播 https://www.douy
本文介绍了TensorFlow的基础知识，并通过多个示例来演示了如何使用TensorFlow来解决不同的机器学习问题。其中包括线性回归、支持向量机、最近邻方法、神经网络、卷积神经网络和循环神经网络等。文章还介绍了TensorFlow的高级用法，包括生产环境、多GPU和多节点设置等。
卷积神经网络对房屋/公寓的不同房间的图片进行分类，在1839幅图像上具有88.9％的验证准确度。
AI 研习社按：谷歌去年年中推出的 TPUv1 一度让英伟达感受到威胁将近，而现在的谷歌 TPU 二代 TPUv2 则着着实实得将这份威胁变成了现实，去年的评测中英伟达 Tesla V100 尚能不惧谷歌 TPUv1 的挑战，但是现在谷歌 TPU 二代来了，英伟达 Tesla V100 尚能战否？
本章介绍如何设置开发环境，以使用 TensorFlow 构建所有 iOS 或 Android 应用，本书其余部分对此进行了讨论。 我们不会详细讨论可用于开发的所有受支持的 TensorFlow 版本，OS 版本，Xcode 和 Android Studio 版本，因为可以在 TensorFlow 网站或通过 Google。 相反，我们将在本章中简要讨论示例工作环境，以便我们能够快速了解可使用该环境构建的所有出色应用。
TensorFlow 是 Google 最近发布的新的机器学习和图计算库。 其 Python 接口可确保通用模型的优雅设计，而其编译后的后端可确保速度。
【磐创AI导读】：本文授权转载自Tensorflow。介绍了即将到来的Tensorflow2.0一些新特性。想要学习更多的机器学习知识，欢迎大家点击上方蓝字关注我们的公众号：磐创AI。
TensorFlow 是 Google 创建的开源软件库，可让您构建和执行数据流图以进行数值计算。 在这些图中，每个节点表示要执行的某些计算或功能，连接节点的图边表示它们之间流动的数据。 在 TensorFlow 中，数据是称为张量的多维数组。 张量围绕图流动，因此命名为 TensorFlow。
2018年1月26/1月12日 📷 NVIDIA 深度学习学院 带你快速进入火热的DL领域 正文共2929个字，17张图，预计阅读时间：8分钟。 近年来，机器学习变得愈加火热，中国选手柯洁与AlphaGo的人机大战更是引起热议。目前，在图像识别和视觉分析研究中，卷积神经网络（CNN）技术的使用越来越多。Tensorflow 是由 Google 团队开发的神经网络模块，短短几年间， 就已经有很多次版本的更新。最近我也在自学Tensorflow，想通过卷积神经网络快速识别整块验证码（不分割字符）。期间也碰到许多
近年来，机器学习变得愈加火热，中国选手柯洁与AlphaGo的人机大战更是引起热议。目前，在图像识别和视觉分析研究中，卷积神经网络（CNN）技术的使用越来越多。Tensorflow 是由 Google 团队开发的神经网络模块，短短几年间， 就已经有很多次版本的更新。最近我也在自学Tensorflow，想通过卷积神经网络快速识别整块验证码（不分割字符）。期间也碰到许多问题，诸如软件安装，Tensorflow版本差异等。一开始学习tensorflow是盲目的，不知如何下手，网上的资料都比较单一，为了回报社会，让大
还记得我学的第一门机器学习课程，是吴恩达教授的 Cousera 慕课。当时用的工具，是 Octave （开源版本的 Matlab）。用起来那叫一个麻烦啊，就连最简单的线性回归，都需要写许多行代码。
自2015年开源发布以来，TensorFlow已成为全球应用最广泛的机器学习框架，可满足广泛的用户和用例需求。在此期间，TensorFlow随着计算硬件，机器学习研究和商业部署的快速发展而不断改进。
训练好了一个网络，想要查看网络里面参数是否经过BP算法优化过，可以直接读取网络里面的参数，如果一直是随机初始化的值，则证明训练代码有问题，需要改。
该文对神经网络在计算机视觉领域的应用进行了分析，并介绍了如何使用Keras框架进行训练和部署。文章还讨论了神经网络在计算机视觉任务中的常见应用，包括图像分类、目标检测和图像分割等。
手写数字识别是机器学习领域中的一个经典应用，很多机器学习算法以这个问题作为示例，其地位相当于程序界的hello world。这个问题具有以下两个特点：
大数据文摘作品 编译：happen，吴双 高宁，笪洁琼，魏子敏 本文将一步步向你展示，如何建立一个能识别10个不同词语的基本语音识别网络。你需要知道，真正的语音与音频识别系统要复杂的多，但就像图像识别领域的MNIST，它将让你对所涉及的技术有个基本了解。 完成本教程后，你将拥有一个模型，能够辨别一个1秒钟的音频片段是否是无声的、无法识别的词语，或者是“yes”、“no”、“up”、“down”、“left”、“right”、“on”、“off”、“stop”、“go”。你还可以使用这个模型并在Android
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
