首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    SELU︱在keras、tensorflow中使用SELU激活函数

    arXiv 上公开的一篇 NIPS 投稿论文《Self-Normalizing Neural Networks》引起了圈内极大的关注,它提出了缩放指数型线性单元(SELU)而引进了自归一化属性,该单元主要使用一个函数...项目地址:shaohua0116/Activation-Visualization-Histogram 来源机器之心:引爆机器学习圈:「自归一化神经网络」提出新型激活函数SELU keras中使用SELU...激活函数 在keras 2.0.6版本之后才可以使用selu激活函数,但是在版本2.0.5还是不行,所以得升级到这个版本。...中使用dropout_selu + SELU 该文作者在tensorflow也加入了selu 和 dropout_selu两个新的激活函数。...: mnist = input_data.read_data_sets("MNIST_data/", one_hot=True) # Check out https://www.tensorflow.org

    2.5K80

    如何使用TensorFlow生成对抗样本

    对抗学习训练为指导人工智能完成复杂任务提供了一个全新的思路,生成对抗图片能够非常轻松的愚弄之前训练好的分类器,因此如何利用生成对抗图片提高系统的鲁棒性是一个很有研究的热点问题。...在这篇文章中,将手把手带领读者利用TensorFlow实现一个简单的算法来合成对抗样本,之后使用这种技术建立一个鲁棒的对抗性例子。...import tensorflow as tf import tensorflow.contrib.slim as slim import tensorflow.contrib.slim.nets as...使用tf.Variable而不是使用tf.placeholder,这是因为要确保它是可训练的。当我们需要时,仍然可以输入它。...可以使用一个技巧让TensorFlow为我们做到这一点,而不是通过手动实现梯度采样得到:我们可以模拟基于采样的梯度下降,作为随机分类器的集合中的梯度下降,随机分类器从分布中随机抽取并在分类之前变换输入。

    58840

    如何使用TensorFlow实现神经网络

    他首先观察父母如何走路。然后试图独立行走,并且每走一步,孩子都会学习如何在特定情况下保持平衡。他可能会摔上几跤,但经过几次不成功的尝试,他最终会学会走路。如果你不让他走,他可能永远学不会如何走路。...如何使用神经网络解决问题 神经网络是一种特殊的机器学习(ML)算法。因此,与每个机器学习算法一样,它遵循数据预处理,模型构建和模型评估等常规的机器学习工作流程。...根据你使用语言和函数库来定义神经网络架构。 将数据转换为正确的格式,并将数据分批。 根据你的需要预处理数据。 通过增加数据量增加模型的规模,训练出更好的模型。 将数据分批输入神经网络。...而最流行的深度学习库,仅举几例: Caffe DeepLearning4j TensorFlow Theano Torch 我们已经了解了图像是如何储存的以及有哪些常用的图像处理库,现在让我们来看看TensorFlow...我会给TensorFlow一个简单的定义。TensorFlow不过是对numpy(一个广为使用的Python数学运算库)做了一些变形而已。

    1.3K90

    如何使用SUMIFS函数

    标签:Excel函数,SUMIFS函数 如下图1所示,要求数据表中指定颜色和尺寸的价格之和。数据表区域为B3:D8,条件区域在列B和列C。...图1 使用SUMIFS函数很容易求得,在单元格D11中的公式为: =SUMIFS(D3:D8,B3:B8,B11,C3:C8,C11) 单元格D12中的公式为: =SUMIFS(D3:D8,B3:B8,...B12,C3:C8,C12) SUMIFS函数的语法 SUMIFS函数语法: SUMIFS(sum_range,criteria_range1,criteria1,[criteria_range2],[...示例5:使用逻辑运算符 单元格D11中的公式求编号小于104且尺寸为“小”的价格之和: =SUMIFS(D3:D8,B3:B8,B11,C3:C8,C11) 单元格D12中的公式求编号大于等于103且尺寸为...“中”的价格之和: =SUMIFS(D3:D8,B3:B8,B11,C3:C8,C11) 图6 可以使用的逻辑运算符有: 1.

    2.2K20

    如何使用TensorFlow生成对抗样本

    对抗学习训练为指导人工智能完成复杂任务提供了一个全新的思路,生成对抗图片能够非常轻松的愚弄之前训练好的分类器,因此如何利用生成对抗图片提高系统的鲁棒性是一个很有研究的热点问题。...在这篇文章中,将手把手带领读者利用TensorFlow实现一个简单的算法来合成对抗样本,之后使用这种技术建立一个鲁棒的对抗性例子。...import tensorflow as tf import tensorflow.contrib.slim as slim import tensorflow.contrib.slim.nets as...使用tf.Variable而不是使用tf.placeholder,这是因为要确保它是可训练的。当我们需要时,仍然可以输入它。...可以使用一个技巧让TensorFlow为我们做到这一点,而不是通过手动实现梯度采样得到:我们可以模拟基于采样的梯度下降,作为随机分类器的集合中的梯度下降,随机分类器从分布中随机抽取并在分类之前变换输入。

    1.3K71

    教程 | 如何使用TensorFlow实现音频分类任务

    选自Medium 作者:DeviceHive 机器之心编译 参与:Nurhachu Null、刘晓坤 本文介绍了一种使用 TensorFlow 将音频进行分类(包括种类、场景等)的实现方案,包括备选模型...、备选数据集、数据集准备、模型训练、结果提取等都有详细的引导,特别是作者还介绍了如何实现 web 接口并集成 IoT。...这篇文章具体描述了我们选择哪款工具、我们面临的挑战是什么、我们如何用 TensorFlow 训练模型,以及如何运行我们的开源项目。...这里我们使用 PyAudio,它提供了可以在很多平台上运行的简单接口。 音频准备 正如我们之前所提及的,我们要使用 TensorFlow 的 VGGish 模型作为特征提取器。...当你想用同样的样本尝试不同的模型时,这个函数是很有用的。可以使用-help 来获取更多的信息。

    3.4K71

    如何使用TensorFlow实现卷积神经网络

    编者按:本文节选自图书《TensorFlow实战》第五章,本书将重点从实用的层面,为读者讲解如何使用TensorFlow实现全连接神经网络、卷积神经网络、循环神经网络,乃至Deep Q-Network。...卷积的好处是,不管图片尺寸如何,我们需要训练的权值数量只跟卷积核大小、卷积核数量有关,我们可以使用非常少的参数量处理任意大小的图片。每一个卷积层提取的特征,在后面的层中都会抽象组合成更高阶的特征。...图5-4  LeNet-5结构示意图 TensorFlow实现简单的卷积网络 本节将讲解如何使用TensorFlow实现一个简单的卷积神经网络,使用的数据集依然是MNIST,预期可以达到99.2%左右的准确率...tf.nn.max_pool是TensorFlow中的最大池化函数,我们这里使用2×2的最大池化,即将一个2×2的像素块降为1×1的像素。...需要注意的是,我们对图像进行数据增强的操作需要耗费大量CPU时间,因此distorted_inputs使用了16个独立的线程来加速任务,函数内部会产生线程池,在需要使用时会通过TensorFlow queue

    62410

    如何使用TensorFlow实现卷积神经网络

    编者按:本文节选自图书《TensorFlow实战》第五章,本书将重点从实用的层面,为读者讲解如何使用TensorFlow实现全连接神经网络、卷积神经网络、循环神经网络,乃至Deep Q-Network。...图5-4  LeNet-5结构示意图 TensorFlow实现简单的卷积网络 本节将讲解如何使用TensorFlow实现一个简单的卷积神经网络,使用的数据集依然是MNIST,预期可以达到99.2%左右的准确率...本节代码主要来自TensorFlow的开源实现。 ? 接下来要实现的这个卷积神经网络会有很多的权重和偏置需要创建,因此我们先定义好初始化函数以便重复使用。...tf.nn.max_pool是TensorFlow中的最大池化函数,我们这里使用2×2的最大池化,即将一个2×2的像素块降为1×1的像素。...需要注意的是,我们对图像进行数据增强的操作需要耗费大量CPU时间,因此distorted_inputs使用了16个独立的线程来加速任务,函数内部会产生线程池,在需要使用时会通过TensorFlow queue

    1.4K50

    Tensorflow入门教程(三)——如何使用Scope

    上一篇我介绍了Tensorflow中张量的静态和动态特性。这一篇我会说一说如何使用Scope来管理Tensorflow中的变量和张量。...1、使用tf.name_scope Tensorflow中的变量和张量是有名称属性的,用于在符号图中标识它们。我们如果在创建变量或张量时没有指定名称属性,Tensorflow会自动指定一个名称。 ?...现在我们看一下使用tf.name_scope来管理变量和张量的情况。 ? 注意:在Tensorflow中定义新变量有两种方法:创建tf.Variable对象或调用tf.get_variable。...用一个新名称调用tf.get_variable会创建一个新变量,但是如果存在相同名称的变量时,这会引发ValueError异常,这也就是告诉我们不允许重新声明相同名称的变量。...使用tf.name_scope和tf.variable_scope来管理Tensorflow变量和张量的益处我就不多说了,大家在实际项目中好好体会吧。

    91520

    Tensorflow入门教程(五)——如何使用重载操作

    上一篇我介绍了三种向Tensorflow提供数据的方式。这一篇我会说一说如何使用Tensorflow的重载操作。...虽然该操作很方便,但在使用此操作时请务必小心。切片操作非常低效,通常最好应该避免使用,特别是当切片数量很高时,效率非常低的。...2、重载算术和逻辑运算符 Tensorflow还会重载一系列算术和逻辑运算符。 ? 也可以使用这些操作的增强版本。例如x + = y和x ** = 2也是有效的。...3、不支持的重载操作 由于在Python中是不允许重载“and”,“or”和“not”关键字的,所以Tensorflow也不允许使用张量作为布尔值,因为它很容易出错。 ?...=)运算符,它们在Numpy中可以重载,但在Tensorflow中是不可以的,而是用tf.equal和tf.not_equal来实现的。

    78130

    如何在Ubuntu 16.04上安装和使用TensorFlow

    对于想要在多用户系统上为每个人提供TensorFlow的人,建议使用此方法。此安装方法不会在包含的环境中隔离TensorFlow,并且可能会干扰其他Python安装或库。...在此方法中,您使用包含TensorFlow及其所有依赖项的Docker容器。此方法非常适合将TensorFlow合并到已使用Docker的更大应用程序体系结构中。...完成安装后,您将通过运行简短的TensorFlow程序验证安装,然后使用TensorFlow进行图像识别。...现在让我们使用TensorFlow的图像识别API来更熟悉TensorFlow。...第3步 - 使用TensorFlow进行图像识别 现在已经安装了TensorFlow并且您通过运行一个简单的程序验证了它,让我们来看看TensorFlow的图像识别功能。

    1.2K80

    如何使用TensorFlow mobile部署模型到移动设备

    在这篇文章中,我将阐释如何使用 TensorFlow mobile 将 PyTorch 和 Keras 部署到移动设备。...用 TensorFlow mobile 部署模型到安卓设备分为三个步骤: 将你的训练模式转换到 TensorFlow 在安卓应用中添加 TensorFlow mobile 作为附加功能 在你的应用中使用...如果你使用的是 Keras,你可以跳到 “将 Keras 模式转成 TensorFlow 模式”章节。 首先我们要做的是将我们的 PyTorch 模式参数转成 Keras 中的同等参数。...因此,在这个教程里,我坚持用 TensorFlow Mobile。 如果没有现存项目的话,使用 Android Studio,创建一个新的安卓项目。...总结 移动端的深度学习框架将最终转变我们开发和使用 app 的方式。使用上述代码,你能轻松导出你训练的 PyTorch 和 Keras 模型到 TensorFlow。

    1.1K50

    nvprof 使用记录; 以及使用 nvprof 查看tensorflow-gpu 核函数运行记录

    最近需要使用 nvprof 此时cuda 程序运行的性能,下面对使用过程进行简要记录,进行备忘: 常用使用命令:nvprof --unified-memory-profiling off python...  nvprof --unified-memory-profiling off --print-gpu-trace -o prof.nvvp python run.py nvvp prof.nvvp (使用.../run.sh 2>runsh_out.txt  Non-Visual Profiler 和 Visual Profiler  的使用: # nvprof nvprof python train_mnist.py...nvprof --print-gpu-trace python train_mnist.py #nvvp (可以使用x11 forwarding 使用,当然更适合在本机使用) nvprof -o...文档中有较为详细的实例截图,可以参考) https://blog.csdn.net/haoqimao_hard/article/details/80557740 (CSDN 上较为简洁的博客,可以参考使用

    1.6K10
    领券