腾讯云

文章/答案/技术大牛

发布

社区首页 >问答首页 >使用CuDNNLSTM (而不是LSTM)层的意外结果

问使用CuDNNLSTM (而不是LSTM)层的意外结果
EN

Stack Overflow用户

提问于 2019-06-27 21:03:45

回答 1查看 1K关注 0票数 6

我已经把这个问题作为一个问题发布在Keras‘Github上，但我认为这个问题可能会影响到更多的观众。

系统信息

我是否编写了自定义代码(相对于使用示例目录)：对官方Keras教程的最小更改
操作系统平台和发行版(例如LinuxUbuntu16.04)：Ubuntu18.04.2LTS
TensorFlow后端(是/否)：，yes，
TensorFlow版本：1.13.1
Keras版本：2.2.4
Python版本：3.6.5
CUDA/cuDNN版本：10.1
GPU模型和内存：Tesla K80 11G

描述当前行为

我正在执行来自Seq2Seq 教程的代码。我所做的唯一改变就是将LSTM层替换为CuDNNLSTM。所发生的是，模型对我给出的任何输入都有一个固定的输出。当我运行原始代码时，我会得到合理的结果。

描述了预期的行为

见前一节。

代码以复制问题

取自这里。只需用CuDNNLSTM替换LSTM即可。

任何见解都会受到极大的赞赏。

python

tensorflow

keras

deep-learning

keras-layer

回答 1

Stack Overflow用户

回答已采纳

发布于 2019-07-05 21:13:21

所以这里有两个问题。

使用CuDNNLSTM和parameter tuning。

基本上，网络覆盖您的数据集，这导致输出只有一个句子对每个输入。这既不是CuDNNLSTM的错，也不是LSTM的错。

首先，

CuDNN与普通的LSTM有一些不同的数学方法，使其与Cuda兼容并运行得更快。对于您使用的相同代码，在英语-印地语文件上运行LSTM需要11秒，而CuDNNLSTM则需要1秒。

在CuDNNLSTM中，time_major参数设置为false。出于这个原因，网络覆盖。你可以检查一下，这里。

你可以清楚地看到，像英欣或英马拉蒂这样的小数据集，val-loss在30年代之后就会增加。在network loss减少、val_loss增加的情况下运行更多的网络是没有意义的。LSTM的情况也是一样的。

在这里，您需要用于小型数据集的param tuning。

以下是一些可以帮助您的链接：

票数 4

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/56801148

复制

MySQL日期类型选择

存储

MySQL提供的常用日期类型有DATE,TIME,DATETIME,TIMESTAMP，

秋白

2019/02/21

3.1K0

MySQL索引选择规划

sql 数据库云数据库 SQL Server

通过explain的执行结果我们可以看出，上面的SQL语句并没有走我们的索引a，而是直接使用了全表扫描。

shysh95

2022/02/16

1K0

Mysql分支选择：Percona Or MariaDB

https 运维网络安全 android 云数据库 SQL Server

本文将对MySQL官方版本以及最流行的两个分支：MariaDB 和 Percona Server进行对比介绍。笔者曾经遇到过一些同学，在可能在一个公司待了可能几年了，问他公司用的数据库是什么，他只能回答出，使用的是Mysql。当问到只是用的官方版本，或是哪一个分支时，他就一无所知了。本文将介绍这些分支产生的原因，以及在实际生产中，应该如何进行选择。并不会进行过多细节介绍，算是一个小科普。

田守枝

2019/05/21

9.8K0

MySQL时间函数的选择

oracle https 网络安全 html 云数据库 SQL Server

bisal

2019/10/22

2.3K0

MySQL 选择数据库

云数据库 SQL Server 数据库

在你连接到 MySQL 数据库后，可能有多个可以操作的数据库，所以你需要选择你要操作的数据库。 ---- 从命令提示窗口中选择MySQL数据库在 mysql> 提示窗口中可以很简单的选择特定的数据库。你可以使用SQL命令来选择指定的数据库。实例以下实例选取了数据库 test: [root@host]# mysql -u root -p Enter password:****** mysql> use test; Database changed mysql> 执行以上命令后，你就已经成功选择了 tes

福贵

2018/04/12

2.1K0

如何为 MySQL 选择 CPU？

数据库 sql 云数据库 SQL Server 压力测试

MySQL 服务器性能受制于整个系统最薄弱的环节，承载它的操作系统和硬件往往是限制因素。磁盘大小、可用内存和 CPU 资源、网络，以及所有连接它们的组件，都会限制系统的最终容量。

博文视点Broadview

2020/11/30

1.2K0

mysql存储过程---选择结构

编程算法

关键字DECLARE，下列语句声明变量名为num的int类型的变量长度为10,[ default 0 代表默认值为0，可以不写]。

用户5899361

2020/12/07

9200

MySQL 选择数据库

数据库 sql 云数据库 SQL Server php

在你连接到 MySQL 数据库后，可能有多个可以操作的数据库，所以你需要选择你要操作的数据库。

用户1685462

2021/07/16

1.6K0

MySQL 选择数据库

php 数据库 sql 云数据库 SQL Server

在你连接到 MySQL 数据库后，可能有多个可以操作的数据库，所以你需要选择你要操作的数据库。

用户6884826

2021/07/07

1.6K0

基础 | 前端图片选择问题

网站

作者｜observernote 原文｜http://www.cnblogs.com/observernotes/p/4806218.html 图片问题的一些总结前言：之前个人对于图片的问题，一直还是显得不是很重视。但其实对于互联网来说，可能图片的内容已经占据了整个互联网的大半部分，因此我们很大一部分流量的消耗，都是用在了图片上面，因此，对于图片有一些认识肯定是现在所必须的。所以趁今天这个不太忙的机会，打算对于图片的问题做一个简单地总结，也算是对之前没掌握到的东西的一个学习与备忘过程。常见的图片格式

用户1097444

2022/06/29

6120

mySql问题

云数据库 SQL Server sql 数据库云推荐引擎

SELECT DATA_LIST.* ,CAST((@rowNum:=@rowNum+1) AS CHAR) AS ROWNO FROM (

斯文的程序

2019/11/07

8030

mysql问题

数据库云数据库 SQL Server sql tcp/ip 数据加密服务

在使用 MySQL 8.0 时重启应用后提示 com.mysql.jdbc.exceptions.jdbc4.MySQLNonTransientConnectionException: Public Key Retrieval is not allowed

用户10325771

2023/03/01

4290

mysql数据类型的选择

存储 python 编程算法 unix

如果不需要小数部分，就是用整数来保存数据；如果需要小数部分，就是用浮点数。对于浮点数据列，存入的数值会对该列定义的小数位进行四舍五入。浮点类型包裹FLOAT和DOUBLE类型，精度要求较高时，使用DOUBLE类型。

别团等shy哥发育

2023/02/25

1K0

MySQL如何选择合适的索引

编程算法云数据库 SQL Server sql 数据库

小强前几篇文章介绍了mysql的索引原理以及sql优化的一些小技巧。mysql底层的算法选择哪种索引，有时候会和我们想象的不一样，大家可以继续往下看。

程序员小强

2019/09/06

4.1K0

关于Uber选择MySQL的思考

云数据库 SQL Server nosql 数据库 sql

在数据库圈子，大家都知道2016年 Uber 干出来一件大事件，把 PostgreSQL 切换到了 MySQL，当时社区里一阵喧哗。这里想带着大家思考一下选择的背后。

wubx

2019/02/27

7640

MongoDB 与 MySQL，你选择谁？

mongodb 云数据库 MongoDB 云数据库 SQL Server 数据库 nosql

过去几年，使用NoSQL数据库的网站和应用数量激增。 MongoDB无处不在。现代网络如何偏离传统的基于SQL的数据库确实令人着迷。 MongoDB和其他NoSQL数据库在存储和检索数据方面有一种新方法。那么让我们来看看MongoDB与MySQL不同的一些关键因素。

星哥玩云

2022/08/17

2.2K0

【MySQL高级】Mysql锁问题

云数据库 SQL Server 数据库 sql 存储

在数据库中，除传统的计算资源（如 CPU、RAM、I/O 等）的争用以外，数据也是一种供许多用户共享的资源。如何保证数据并发访问的一致性、有效性是所有数据库必须解决的一个问题，锁冲突也是影响数据库并发访问性能的一个重要因素。从这个角度来说，锁对数据库而言显得尤其重要，也更加复杂。

陶然同学

2023/02/24

1.6K0

mysql—如何为innodb选择主键

云数据库 SQL Server

因为在innodb表中,每一个非主键索引的叶子节点上都会存储主键列的信息, 所以如果主键索引太大,会导致其他非主键索引页变大, 降低索引的查询效率

全栈程序员站长

2021/04/07

4.3K0

mysql 事务隔离级别如何选择

linux

数据丢失，两个事务同时进行，一个成功一个失败，造成数据回滚，或者两个都成功造成数据覆盖

海涛

2020/01/15

1.5K0

MYSQL死锁问题

其他

如果insert或update用到了同样的索引也会造成死锁。比如 update table_a set name = ‘test1’ where id = 300; //用到了table_a的id主键索引 insert into table_b (a_id,`name`) (select id,name from table_a where id >=200) ON DUPLICATE KEY UPDATE a_id = values(a_id)//同样用到了table_a的id主键所以会导致

苦咖啡

2018/04/28

1.6K0

相似问题

关于更改多端口VLAN分配的问题

路由器端口分配如何不耗尽

基于交换机端口分配IP地址

为不同的VLAN分配一个开关端口

如何将多个VLANS分配给一个端口？

添加站长进交流群

领取专属 10元无门槛券

AI混元助手 在线答疑

关注 腾讯云开发者公众号

洞察 腾讯核心技术

剖析业界实践案例

问使用CuDNNLSTM (而不是LSTM)层的意外结果
EN