原来引用过一个段子，这里还要再引用一次。是关于苹果的。大意是，苹果发布了新的开发语言Swift，有非常多优秀的特征，于是很多时髦的程序员入坑学习。不料，经过一段头脑体操一般的勤学苦练，发现使用Swift做开发，不仅要学习Swift，还要学习Swift2、Swift3、Swift4... 后来我发现，这个段子很有普遍性，并非仅仅苹果如此，今天的TensorFlow 2.0也有点这样的趋势。以至于我不得不专门写一个课程的续集，来面对使用新版本软件开始机器学习的读者。 事实上大多具有革命性的公司都是这样，一方面带来令人兴奋的新特征，另一方面则是高企不落的学习成本。
不同行业采用人工智能的速度取决于最大化数据科学家的生产力。NVIDIA每个月都会发布优化的NGC容器，为深度学习框架和库提供更好的性能，帮助科学家最大限度地发挥他们的潜力。英伟达持续投资于完整的数据科学栈，包括GPU架构、系统和软件栈。这种整体的方法为深度学习模型培训提供了最好的性能，NVIDIA赢得了提交给MLPerf的所有六个基准测试，这是第一个全行业的AI基准测试。NVIDIA在最近几年引入了几代新的GPU架构，最终在Volta和图灵GPU上实现了张量核心架构，其中包括对混合精度计算的本机支持。NVIDIA在MXNet和PyTorch框架上完成了这些记录，展示了NVIDIA 平台的多功能性。
预训练的模型很容易使用，但是您是否忽略了可能影响模型性能的细节? 你有多少次运行以下代码片段： 1import torchvision.models as models 2inception = mo
批处理规范化背后的主要思想是，在我们的案例中，我们通过使用几种技术（sklearn.preprocessing.StandardScaler）来规范化输入层，从而提高了模型性能，因此，如果输入层受益于规范化，为什么不规范化隐藏层，这将进一步改善并加快学习速度。
从这个例子开始，相当比例的代码都来自于官方新版文档的示例。开始的几个还好，但随后的程序都将需要大量的算力支持。Google Colab是一个非常棒的云端实验室，提供含有TPU/GPU支持的Python执行环境(需要在Edit→Notebook Settings设置中打开)。速度比不上配置优良的本地电脑，但至少超过平均的开发环境。 所以如果你的电脑运行速度不理想，建议你尝试去官方文档中，使用相应代码的对应链接进入Colab执行试一试。 Colab还允许新建Python笔记，来尝试自己的实验代码。当然这一切的前提，是需要你科学上网。
作者｜Florian Courtial 译者｜Debra 编辑｜Emily AI 前线导读：训练神经网络是一件十分复杂，难度非常大的工作，有没有可能让训练的过程简单便利一些呢？有人突发奇想，尝试仅仅使用 TensorFlow C ++ 来进行这项工作。这样做的效果如何呢？我们来看看 Florian Courtial 用 TensorFlow C ++ 构建 DNN 框架的示例来了解一下吧。 更多干货内容请关注微信公众号“AI 前线”，（ID：ai-front） 正如你所知，TensorFlow（TF）的
课程简介介绍道，本课程将从实现矩阵乘法和反向传播基础开始，到高性能混合精度训练，最新的神经网络架构和学习技术，以及介于两者之间的所有内容。它涵盖了许多构成现代深度学习基础的最重要的学术论文，使用“代码优先”教学方法，每个方法都从头开始在 Python 中实现并进行详解（还将讨论许多重要的软件工程技术）。整个课程包括大约 15 个课时和数十个交互式 notebooks，且完全免费、无广告，作为社区服务供使用。前五课时使用 Python、PyTorch 和 fastai 库；最后两节课使用 Swift for TensorFlow，并由 Jeremy Howard 和与Swift、clang 和 LLVM 的创建者 Chris Lattner 共同教授。
近年来，对深度学习的需求不断增长，其应用程序被应用于各个商业部门。各公司现在都在寻找能够利用深度学习和机器学习技术的专业人士。在本文中，将整理深度学习面试中最常被问到的25个问题和答案。如果你最近正在参加深度学习相关的面试工作，那么这些问题会对你有所帮助。
预测燃油效率对于优化车辆性能和减少碳排放至关重要，这可以使用python库tensorflow进行预测。在本文中，我们将探讨如何利用流行的机器学习库 Tensorflow 的强大功能来使用 Python 预测燃油效率。通过基于 Auto MPG 数据集构建预测模型，我们可以准确估计车辆的燃油效率。让我们深入了解在 Python 中使用 Tensorflow 进行准确的燃油效率预测的过程。
【新智元导读】本文来自ICCV 2017的Talk：如何训练GAN，FAIR的研究员Soumith Chintala总结了训练GAN的16个技巧，例如输入的规范化，修改损失函数，生成器用Adam优化，使用Sofy和Noisy标签，等等。这是NIPS 2016的Soumith Chintala作的邀请演讲的修改版本，而2016年的这些tricks在github已经有2.4k星。 ICCV 2017 slides：https://github.com/soumith/talks/blob/master/2017
在很多机器学习的实验室中，机器已经进行了上万小时的训练。在这个过程中，研究者们往往会走很多弯路，也会修复很多bug，但可以肯定的是，在机器学习的研究过程中，学到经验和知识的并不仅仅是机器，我们人类也积累的丰富的经验，本文就将给你几条最实用的研究建议。
作者 Jimmy Lei Ba, Jamie Ryan Kiros, University of Toronto Geoffrey E. Hinton, University of Toronto & Google ---- 摘要 训练目前性能最好的深度神经网络计算代价高昂. 一种减少训练时间的方法是规范化神经元的激活值. 近期引入的批规范化（batch normalisation）技术对一个训练样本批量集使用了求和的输入分布来计算均值和方差，然后用这两个来规范化那个神经元在每个训练样本的求和输入. 这个
手写数字识别问题 图像识别是深度学习众多主流应用之一，手写数字识别则是图像识别范畴简化版的入门学习经典案例。在TensorFlow的官方文档中，把手写数字识别“MNIST”案例称为机器学习项目的“Hello World”。从这个案例开始，我们的连载才开始有了一些“人工智能”的感觉。 问题的描述是这样： 有一批手写数字的图片，对应数字0-9。通过机器学习的算法，将这些图片对应到文本字符0-9。用通俗的话来说，就是计算机认出了图片上面手写的数字。 从问题描述可见这个机器学习项目的“Hello World”
本文转载自：https://mp.weixin.qq.com/s/d_W0O7LNqlBuZV87Ou9uqw 新智元公众号 本文来自ICCV 2017的Talk：如何训练GAN，FAIR的研究员Soumith Chintala总结了训练GAN的16个技巧，例如输入的规范化，修改损失函数，生成器用Adam优化，使用Sofy和Noisy标签，等等。这是NIPS 2016的Soumith Chintala作的邀请演讲的修改版本，而2016年的这些tricks在github已经有2.4k星。
大数据 上一节说到，大多的AI问题，会有很多个变量，这里深入的解释一下这个问题。 比如说某个网站要做用户行为分析，从而指导网站建设的改进。通常而言如果没有行为分析，并不需要采集用户太多的数据。 比如用户注册，最少只需要用户名、用户密码就够了。随后比如为了当用户过生日的时候，自动给用户发送一封贺卡（潜台词，我们可能需要给用户推送广告），我们再增加两项生日日期和邮箱地址。再下来国家规定网站注册必须实名制，我们可能又增加了用户姓名和身份证号码，可能还需要增加用户手机号码，用于同移动通信部门打通，验证用户实名制
尝试用 Alexnet 来构建一个网络模型，并使用 mnist 数据查看训练结果。 我们将代码实现分为三个过程，加载数据、定义网络模型、训练数据和评估模型。 实现代码如下： #-*- coding:utf-8 -*_ #加载数据 import tensorflow as tf # 输入数据 from tensorflow.examples.tutorials.mnist import input_data #TensorFlow 自带，用来下载并返回 mnist 数据。可以自己下载 mnist数据
好的开始是成功的一半。 为了让你的模型跑赢在起跑线 ε=ε=ε=(~￣▽￣)~ ，请慎重对待参数初始化。
TensorFlow一直努力扩展自己的基础平台环境，除了熟悉的Python，当前的TensorFlow还实现了支持Javascript/C++/Java/Go/Swift(预发布版)共6种语言。 越来越多的普通程序员，可以容易的在自己工作的环境加入机器学习特征，让产品更智能。
《从锅炉工到AI专家(6)》一文中，我们把神经网络模型降维，简单的在二维空间中介绍了过拟合和欠拟合的现象和解决方法。但是因为条件所限，在该文中我们只介绍了理论，并没有实际观察现象和应对。 现在有了TensorFLow 2.0 / Keras的支持，可以非常容易的构建模型。我们可以方便的人工模拟过拟合的情形，实际来操作监控、调整模型，从而显著改善模型指标。
近日，Tesorflow软件工程师Noah Fiedel通过本文描述了机器学习模型TensorFlow Serving最近的一些创新进展 TensorFlow Serving是一种灵活的、高性能的机器
“回归”这个词，既是Regression算法的名称，也代表了不同的计算结果。当然结果也是由算法决定的。 不同于前面讲过的多个分类算法，回归模型的结果是一个连续的值。 实际上我们第一篇的房价预测就属于回归算法，如果把这个模型用于预测，结果是一个连续值而不是有限的分类。 从代码上讲，那个例子更多的是为了延续从TensorFlow 1.x而来的解题思路，我不想在这个系列的第一篇就给大家印象，TensorFlow 2.0成为了完全不同的另一个东西。在TensorFlow 2.0中，有更方便的方法可以解决类似问题。 回归算法在大多数机器学习课程中，也都是最早会学习的算法。所以对这个算法，我们都不陌生。 因此本篇的重点不在算法本身，也不在油耗的预测，而是通过油耗预测这样简单的例子，介绍在TensorFlow 2.0中，如何更好的对训练过程进行监控和管理，还有其它一些方便有效的小技巧。
之前不知道Keras这么方便，在构建神经网络的过程中绕了很多弯路，最开始学的TensorFlow，后来才知道Keras。
【新智元导读】本文由 Andrej Karpathy撰写，他前不久加入了特斯拉，担任AI 负责人。本文是他在 OpenAI 担任研究员期间所写，陈述了他通过分析机器学习论文数据库arxiv-sanit
Keras 是一个用 Python 编写的高级神经网络 API，它能够以 TensorFlow, CNTK, 或者 Theano 作为后端运行。Keras 的开发重点是支持快速的实验。能够以最小的时间把你的想法转换为实验结果，是做好研究的关键。本人是keras的忠实粉丝，可能是因为它实在是太简单易用了，不用多少代码就可以将自己的想法完全实现，但是在使用的过程中还是遇到了不少坑，本文做了一个归纳，供大家参考。
好多天没有更新原创文章了，国庆前的一段时间确实比较忙，整个九月在参加各种面试，另外还有公司的项目，还有自己的毕设，另外还需要准备参加一些活动和讲座，时间排的很紧，不过还在这些事情基本在国庆来临之际都暂告一段落了，所以国庆我也没打算再干太多事情，就准备在家休养生息。
原文标题：A Peek at Trends in Machine Learning 作者：Andrej Karpathy 翻译：贾琳 全文校对：闵黎 本文约1700字，建议阅读时间4分钟。 OpenAI是由诸多硅谷大亨联合建立的人工智能非盈利组织，目的是预防人工智能的灾难性影响，促使人工智能发挥积极作用。本文由OpenAI的研究人员Andrej Karpathy撰写，主要陈述了他通过分析机器学习论文数据库arxiv-sanity里面的28303篇论文里面的高频关键词所发现的有趣的结论。 你是否用过谷歌
在TensorFlow官方新的教程中，第一个例子使用了由MNIST延伸而来的新程序。 这个程序使用一组时尚单品的图片对模型进行训练，比如T恤(T-shirt)、长裤(Trouser)，训练完成后，对于给定图片，可以识别出单品的名称。
归一化技术的改进是生成对抗网络(Generative Adversarial Networks, GAN)中众多改进的一种，本文介绍常用于当前GAN中的像素归一化(Pixel normalization，或称为像素规范化)和频谱归一化(Spectral normalization，或称频谱规范化)，在高清图片生成中，这两种归一化技术得到了广泛使用，最后使用Tensorflow2实现像素归一化和频谱归一化。
本书作为强化学习思想的深度解剖之作，被业内公认为是一本强化学习基础理论的经典著作。它从强化学习的基本思想出发，深入浅出又严谨细致地介绍了马尔可夫决策过程、蒙特卡洛方法、时序差分方法、同轨离轨策略等强化学习的基本概念和方法，并以大量的实例帮助读者理解强化学习的问题建模过程以及核心的算法细节。
实际上HMM和CRF的学习没有先后顺序。但是两者很相似，在学习了HMM后更容易上手CRF，所以建议先学习HMM后学习CRF。
去年 10 月，谷歌才发布了 TensorFlow 2.0 正式版。时隔三个月后，昨日官方发布了 TensorFlow 2.1，本次版本更新带了了多项新特性、功能改进和 bug 修复。
随机梯度下降是一种基于梯度的优化算法，用于在训练阶段学习网络参数。梯度通常使用反向传播算法计算。在实践中，人们使用SGD的迷你批处理版本，其中参数更新是基于批处理而不是单个示例执行的，从而提高了计算效率。许多对普通SGD的扩展都存在，包括Momentum、Adagrad、rmsprop、Adadelta或Adam。
我就废话不多说了，大家还是直接看代码吧~ import tensorflow as tf import sys with tf.variable_scope('ha'): a1 = tf.get_variable('a', shape=[], dtype=tf.int32) with tf.variable_scope('haha'): a2 = tf.get_variable('a', shape=[], dtype=tf.int32) with tf.variable_scop
众所周知，机器学习代码很难调试。就连简单的前馈神经网络，您也经常需要围绕网络架构、权重值初始化和网络优化做出决策 - 所有这些都可能导致机器学习代码中隐藏BUG。
Batch Normalization: 使用 tf.layers 高级函数来构建带有 Batch Normalization 的神经网络 参考文献吴恩达 deeplearningai 课程[1]课程笔记[2]Udacity 课程[3] 在使用 tf.layers 高级函数来构建神经网络[4]中我们使用了 tf.layers 包构建了一个不包含有 Batch Normalization 结构的卷积神经网络模型作为本节模型的对比 本节中将使用 tf.layers 包实现包含有 Batch Normaliza
【新智元导读】在许多任务中，神经网络越深，性能就越好。最近几年神经网络的趋势是越来越深。几年前最先进的神经网络还仅有12层深，现在几百层深的神经网络已经不是稀奇事了。本文中作者介绍了三个非常深的神经网络，分别是ResNet、HighwayNet和DenseNet，以及它们在Tensorflow上的实现。作者用CIFAR10数据集训练这些网络进行图像分类，在一小时左右的训练之后均实现了90%以上的精度。 神经网络设计的趋势：Deeper 谈到神经网络设计，最近几年的趋势都指向一个方向：更深。几年前最先进的神经
在mBreath Technologies担任数据科学家，在IIT Kharagpur担任高级研究学者。凭借我3年以上的数据科学，团队管理，业务发展，客户分析经验，以及5年以上的医疗保健领域经验，我相信我拥有将知识，驱动力和技术技能完美地添加到任何领域的经验 数据科学团队。
视频+代码+介绍：https://s7bacwcxv4.feishu.cn/wiki/NZWIwBgDyig8hakbMJMcjNOwndc
选自GitHub 机器之心编译 参与：吴攀 在正在举行的 WWDC 2017 上，苹果宣布发布了 Metal 2，详情可参阅机器之心的报道《苹果开发者大会 WWDC 2017：首次全面展示苹果的人工
该项目可用于帮助小社区的农民建立知识和教育他们种植的作物，并帮助早期识别和预防常见的植物/作物疾病的传播。
在本课程中，我们将介绍神经网络的基础知识以及如何建立深度学习编程环境。 我们还将探讨神经网络的常见组件及其基本操作。 我们将通过探索使用 TensorFlow 创建的训练有素的神经网络来结束本课程。
在阅读了一篇 MNIST 的教程（或 10 篇）并了解了一些 Tensorflow / Keras 最佳实践后，你可能会认为将神经网络应用于预测任务是一种“即插即用”操作。
我们将使用Tensorflow创建和开发一个简单的模型框架，以及提出一些对初步结果改进的意见。
作为IT类职业中的“大熊猫”，大数据人才（数据工程师，数据分析师，数据挖掘师，算法工程师等）、在国内人才市场可谓是一颗闪耀的新星。由于刚刚出于萌芽阶段，这个领域出现很大的人才缺口。 1 大数据人才做什
机器学习作为近几年的一项热门技术，不仅凭借众多“人工智能”产品而为人所熟知，更是从根本上增能了传统的互联网产品。在近期举办的2018 ArchSummit全球架构师峰会上，个推首席数据架构师袁凯，基于他在数据平台的建设以及数据产品研发的多年经验，分享了《面向机器学习数据平台的设计与搭建》。
关于特征工程，业界有这么一句话：数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限。
版权声明：本文为王小雷原创文章，未经博主允许不得转载 https://blog.csdn.net/dream_an/article/details/87092371
领取专属 10元无门槛券
手把手带您无忧上云
