Model groups layers into an object with training and inference features.
Aliases: tf.compat.v1.keras.Sequential, tf.compat.v1.keras.models.Sequential, tf.compat.v2.keras.Sequential, tf.compat.v2.keras.models.Sequential, tf.keras.models.Sequential
谷歌深度学习研究员、“Keras之父”François Chollet发表推特，总结了一份TensorFlow 2.0 + Keras做深度学习研究的速成指南。
In the featurization tutorial we incorporated multiple features into our models, but the models consist of only an embedding layer. We can add more dense layers to our models to increase their expressive power. In general, deeper models are capable of learning more complex patterns than shallower models. For example, our user model incorporates user ids and timestamps to model user preferences at a point in time. A shallow model (say, a single embedding layer) may only be able to learn the simplest relationships between those features and movies: a given movie is most popular around the time of its release, and a given user generally prefers horror movies to comedies. To capture more complex relationships, such as user preferences evolving over time, we may need a deeper model with multiple stacked dense layers.
TensorFlow 的 Eager Execution 是一种命令式编程环境，可立即评估操作，无需构建图：操作会返回具体的值，而不是构建以后再运行的计算图。这样能让您轻松地开始使用 TensorFlow 和调试模型，并且还减少了样板代码。要遵循本指南，请在交互式 python 解释器中运行下面的代码示例。
很长一段时间以来，我在单个 GTX 1070 显卡上训练模型，其单精度大约为 8.18 TFlops。后来谷歌在 Colab 上启用了免费的 Tesla K80 GPU，配备 12GB 内存，且速度稍有增加，为 8.73 TFlops。最近，Colab 的运行时类型选择器中出现了 Cloud TPU 选项，其浮点计算能力为 180 TFlops。
Real-world recommender systems are often composed of two stages:
接下来，给出我自己目前积累的代码，从目录中自动读取图像，并产生generator：
虽然，自 TensorFlow 2.0 发布以来，我们总是能够听到「TensorFlow 2.0 就是 keras」、「说的很好，但我用 PyTorch」类似的吐槽。但毋庸置疑，TensorFlow 依然是当前最主流的深度学习框架（感兴趣的读者可查看机器之心文章：2019 年，TensorFlow 被拉下马了吗？）。
整体而言，为了吸引用户，TensorFlow 2.0 从简单、强大、可扩展三个层面进行了重新设计。特别是在简单化方面，TensorFlow 2.0 提供更简化的 API、注重 Keras、结合了 Eager execution。
在上一篇文章中，我们介绍了循环神经网络的建立方式。本来接下来应该介绍 TensorFlow 中的深度强化学习的，奈何笔者有点咕，到现在还没写完，所以就让我们先来了解一下 Keras 内置的模型训练 API 和自定义组件的方法吧！本文介绍以下内容：
In this tutorial, we build a simple matrix factorization model using the MovieLens 100K dataset with TFRS. We can use this model to recommend movies for a given user.
我们的目标是用一句话来描述图片， 比如「一个冲浪者正在冲浪」。 本教程中用到了基于注意力的模型，它使我们很直观地看到当文字生成时模型会关注哪些部分。
在TensorFlow2.0中，Keras是一个用于构建和训练深度学习模型的高阶 API。因此如果你正在使用TensorFow2.0，那么使用Keras构建深度学习模型是您的不二选择。在Keras API中总共有如下三大块：
文章目录 1. 自定义模型 2. 学习流程 学习于：简单粗暴 TensorFlow 2 1. 自定义模型 重载 call() 方法，pytorch 是重载 forward() 方法 import tensorflow as tf X = tf.constant([[1.0, 2.0, 3.0],[4.0, 5.0, 6.0]]) y = tf.constant([[10.0],[20.0]]) class Linear(tf.keras.Model): def __init__(self):
最近Google开源了基于Tensorflow的推荐器, 一个新的开源Tensorflow包。它的特点可以总结为下面四个：
参考 Tensorflow学习——Eager Execution - 云+社区 - 腾讯云
You can wrap the loss function as a inner function and pass your input tensor to it (as commonly done when passing additional arguments to the loss function).
文章目录 1. Checkpoint 保存变量 2. TensorBoard 训练过程可视化 学习于：简单粗暴 TensorFlow 2 1. Checkpoint 保存变量 tf.train.Checkpoint 可以保存 tf.keras.optimizer 、 tf.Variable 、 tf.keras.Layer 、 tf.keras.Model path = "./checkp.ckpt" # 建立一个 checkpoint mycheckpoint = tf.train.Checkpoin
对于 ParameterServerStrategy V2，我们将从几个方面来研究：如何与集群建立连接，如何生成变量，如何获取数据，如何运行。其中，变量和作用域我们在前文已经研究过，运行在 MirroredStrategy 里面也介绍，所以本文主要看看如何使用，如何初始化。在下一篇之中会重点看看如何分发计算。
在本部分中，我们将介绍 TensorFlow 2.00 alpha。 我们将首先概述该机器学习生态系统的主要功能，并查看其使用示例。 然后我们将介绍 TensorFlow 的高级 Keras API。 我们将在本节结尾处研究人工神经网络技术。
【新智元导读】近期，TensorFlow官方推文推荐了一款十分有趣的项目——用Attention模型生成图像字幕。而该项目在GitHub社区也收获了近十万“点赞”。项目作者Yash Katariya十分详细的讲述了根据图像生成字幕的完整过程，并提供开源的数据和代码，对读者的学习和研究都带来了极大的帮助与便利。
In the featurization tutorial we incorporated multiple features beyond just user and movie identifiers into our models, but we haven't explored whether those features improve model accuracy.
Google Colab免费为TPUs提供实验支持！在本文中，我们将讨论如何在Colab上使用TPU训练模型。具体来说，我们将通过在TPU上训练huggingface transformers库里的BERT来进行文本分类。
随着深度学习的发展，自动编码器（Autoencoders）成为了一种重要的无监督学习算法。其中，变分自动编码器（Variational Autoencoders，VAEs）作为一种特殊类型的自动编码器，在生成模型、数据压缩和特征学习等领域取得了很大的成功。本文将介绍变分自动编码器的原理和应用，并探讨其在深度学习中的重要性。
TensorFlow 2.0的特性公布已经有一段时间了，但很多人对此应当还是一头雾水。
参考： https://tf.wiki/zh_hans/deployment/serving.html# https://tensorflow.google.cn/tfx/serving/docker
为了解决 cifar100 val_acc 过低的问题，本质上是过拟合问题，所以特地去 papers with code 网站上看了下 cifar100 benchmark 目前第一名做到了多少，如下图所示，val_cc = 0.96，有点东西哈，所以目前要做的是研究 SAM (Sharpness-Aware Minimization)，主要用于提升模型的泛化性。
首先，我们要在电脑里装一个tf2.0的虚拟环境（我的电脑是mac，windows和linux类似）。这里使用anaconda的命令：
自TensorFlow官方发布其2.0版本新性能以来，不少人可能对此会有些许困惑。因此博主Roman Ring写了一篇概述性的文章，通过实现深度强化学习算法来具体的展示了TensorFlow 2.0的特性。
为提高 TensorFlow 的工作效率，TensorFlow 2.0 进行了多项更改，包括删除了多余的 API，使API 更加一致统一，例如统一的 RNNs (循环神经网络），统一的优化器，并且Python 运行时更好地集成了 Eager execution 。
关于Keras中，当数据比较大时，不能全部载入内存，在训练的时候就需要利用train_on_batch或fit_generator进行训练了。
CNN 就是convolutional neural network, 也就是卷积神经网络，是一种类似于人类或动物视觉系统结构的人工神经网络，包含一个或多个卷积层（convolutional layer）、池化层（pooling layer）和全连接层（fully-connected layer），总之，这些年他很火。
在开篇之前，请允许我吐槽几段文字，发泄一下TF的不便之处。如果对这部分内容不敢兴趣请直接看正文内容。
文章目录 1. tf.saved_model.save 2. Keras API 模型导出 学习于：简单粗暴 TensorFlow 2 1. tf.saved_model.save tf.train.Checkpoint 可以保存和恢复模型中参数的权值 导出模型：包含参数的权值，计算图 无须源码即可再次运行模型，适用于模型的分享、部署 注意： 继承 tf.keras.Model 的模型，一些方法需要是计算图模式，比如 call() 方法必须用 @tf.function 修饰 class MLPmodel
【导读】TensorFlow 1.0并不友好的静态图开发体验使得众多开发者望而却步，而TensorFlow 2.0解决了这个问题。不仅仅是默认开启动态图模式，还引入了大量提升编程体验的新特性。本文通过官方2.0的风格指南来介绍新版本的开发体验。
训练集有20000条电影评论文本，测试集有5000条电影评论文本，其中正面评论和负面评论都各占一半。
文章目录 1. Keras Sequential / Functional API 2. 自定义 layer 3. 自定义 loss 4. 自定义 评估方法 学习于：简单粗暴 TensorFlow 2 1. Keras Sequential / Functional API tf.keras.models.Sequential([layers...])，但是它不能表示更复杂的模型 mymodel = tf.keras.models.Sequential([ tf.keras.layers.Flat
如果说两代 Tensorflow 有什么根本不同，那应该就是 Tensorflow 2.0 更注重使用的低门槛，旨在让每个人都能应用机器学习技术。考虑到它可能会成为机器学习框架的又一个重要里程碑，本文会介绍 1.x 和 2.x 版本之间的所有（已知）差异，重点关注它们之间的思维模式变化和利弊关系。
卷积神经网络（CNN）非常适合计算机视觉任务。使用对大型图像集（如ImageNet，COCO等）进行训练的预训练模型，可以快速使这些体系结构专业化，以适合独特数据集。此过程称为迁移学习。但是有一个陷阱！用于图像分类和对象检测任务的预训练模型通常在固定的输入图像尺寸上训练。这些通常从224x224x3到某个范围变化，512x512x3并且大多数具有1的长宽比，即图像的宽度和高度相等。如果它们不相等，则将图像调整为相等的高度和宽度。
在最近的一篇文章中，我们提到，TensorFlow 2.0经过重新设计，重点关注开发人员的工作效率、简单性和易用性。
上一篇中介绍的VAE自动编码器具备了一定程度的创造特征，能够“无中生有”的由一组随机数向量生成手写字符的图片。 这个“创造能力”我们在模型中分为编码器和解码器两个部分。其能力来源实际上是大量样本经过学习编码后，在数字层面对编码结果进行微调，再解码生成图片的过程。所生成的图片，是对原样本图的某种变形模仿。
cifar2数据集为cifar10数据集的子集，只包括前两种类别airplane和automobile。
本文主要讲解了在编写基于TensorFlow的应用过程中如何使用Eager Mode。内容主要包括
本书的这一部分将为您简要概述 TensorFlow 2.0 中的新增功能，与 TensorFlow 1.x 的比较，惰性求值和急切执行之间的差异，架构级别的更改以及关于tf.keras和Estimator的 API 使用情况。
tf.test.is_gpu_available() # 判断gpu可用与否 ``` 2. 从镜像配置 ```shell # 云端的系统镜像直接有开发环境 # 升级tensorflow 版本 pip install --upgrade tensorflow-gpu==2.0.0 pip3 install --upgrade tensorflow-gpu==2.0.0 ```
由于一般GPU的显存只有11G左右，（土豪误入），采用多主机分布式训练是非常有必要的；折腾了几天，按照谷歌的教程，终于搞清楚了，给大家梳理一下：
在本文中，您将发现Keras和tf.keras之间的区别，包括TensorFlow 2.0中的新增功能。
在之前的Demo中，我们使用了条件GAN来生成了手写数字图像。那么除了生成数字图像以外我们还能用神经网络来干些什么呢？
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
云直播
