以TFIDF作为输入的LSTM，尺寸错误
TFIDF是一种文本特征提取方法，用于衡量一个词在文档中的重要程度。LSTM（Long Short-Term Memory）是一种循环神经网络模型，用于处理序列数据。尺寸错误可能指的是在使用TFIDF作为输入时，LSTM模型的输入尺寸与数据不匹配。
为了解决这个问题，首先需要了解TFIDF和LSTM的基本概念和原理。TFIDF是一种用于表示文本特征的方法，它通过计算词频（Term Frequency）和逆文档频率（Inverse Document Frequency）来衡量一个词的重要性。TFIDF可以用于文本分类、信息检索等任务。
LSTM是一种循环神经网络模型，它可以处理序列数据，并且能够捕捉长期依赖关系。LSTM通过使用门控单元（Gate Units）来控制信息的流动，从而有效地解决了传统循环神经网络中的梯度消失和梯度爆炸问题。
当以TFIDF作为输入时，尺寸错误可能出现在以下几个方面：
- 输入维度不匹配：TFIDF通常表示为一个稀疏矩阵，其中行表示文档，列表示词汇表中的词。而LSTM模型的输入通常是一个二维张量，其中第一维表示时间步，第二维表示特征维度。因此，需要将TFIDF矩阵转换为二维张量，通常可以使用词嵌入（Word Embedding）等方法将每个词映射为一个固定长度的向量。
- 序列长度不匹配：LSTM模型对于输入序列的长度是有限制的，如果输入的TFIDF序列长度超过了模型的限制，就会出现尺寸错误。可以通过截断或填充序列来解决这个问题，使得输入序列的长度与模型要求的长度一致。
- 输出维度不匹配：LSTM模型的输出通常是一个二维张量，其中第一维表示时间步，第二维表示输出特征维度。如果输出维度与任务要求的维度不匹配，就会出现尺寸错误。可以通过调整LSTM模型的参数或添加额外的全连接层来调整输出维度。
针对这个问题，腾讯云提供了一系列与自然语言处理相关的产品和服务，例如腾讯云自然语言处理（NLP）平台、腾讯云机器翻译、腾讯云智能语音等。这些产品和服务可以帮助开发者处理文本数据、构建自然语言处理模型，并提供了丰富的API和SDK供开发者使用。
参考链接：
相关·内容
1回答
如何处理Keras中的大图像？
machine-learning、tensorflow、neural-network、keras、recurrent-neural-network
我正在研究Keras上的机器学习问题。我的目标是训练输入为(4214, 22311)矩阵，输出为(22311,)向量的模型。
这样的二维数据可以作为图像输入来处理，但大多数图像分类器只对形状(200, 200)的小图像进行分类。
我尝试了几种在Keras上建立模型的方法，例如CNN、双向LSTM或简单的神经网络(平坦和密集)。但它们都不起作用。
我没有完成一个时代就接受了killed。所以我想知道什么样的结构能处理这么大的输入。
浏览 3提问于2017-09-21得票数 0
回答已采纳
1回答
Keras:嵌入LSTM
keras、lstm、embedding
在用于建模IMDB ()的LSTM上的keras示例中，在输入到LSTM层之前有一个嵌入层：
model.add(Embedding(max_features,128)) #max_features=20000
model.add(LSTM(128))
嵌入层到底是做什么的？在这种情况下，这是否意味着LSTM层输入序列的长度为128？如果是这样，我是否可以将LSTM层写成：
model.add(LSTM(128,input_shape=(128,1))
但是还需要注意的是，输入X_train必须经过pad_sequences处理：
print('Pad sequences (sampl
浏览 4提问于2017-06-26得票数 6
1回答
NLP情绪检测-模型无法学会识别否定
machine-learning、classification、nlp
我正在做一个nlp情绪检测项目。我试图预测的情绪是“喜悦”、“恐惧”、“愤怒”、“悲伤”。我使用一些公开可用的标记数据集来训练我的模型，例如ISEAR、WASSA等。我尝试了以下方法：
传统的ML使用的是大图和三角图。
(X)文本->嵌入(W2V预训维基百科文章) ->深层网络( -> 1D) ->完全连接(密集) ->输出层(Softmax) ->情感类(Y)
具有以下体系结构的LSTM：(X)文本->嵌入(W2V对维基百科文章进行了预培训) ->深层网络( -> /GRU) ->完全连接(密集) ->输出层(Softmax)
浏览 0提问于2020-09-28得票数 2
回答已采纳
1回答
Keras LSTM输入图层形状与实际输入不同
python、keras、lstm
鉴于我对此不是很有经验，下面的问题可能是一个愚蠢的问题(标题同样离题，欢迎任何修改建议)。我正在尝试让Keras模型与多个输入一起工作，但总是遇到输入维度的问题。很可能我的网络设置没有什么意义，但我想首先生成一些可以工作(即执行)的东西，然后尝试不同的设置。这是我现在所拥有的：
sent = Input(shape=(None,inputdim))
pos = Input(shape=(None,1))
l1 = LSTM(40)(sent)
l2 = LSTM(40)(pos)
out = concatenate([l1, l2])
output = Dense(1, activation
浏览 1提问于2018-08-16得票数 0
2回答
如何在LSTM网络中设置词汇量、填充长度和嵌入维数？
python、lstm、rnn、text
通常，在LSTM网络中，在模型开始训练之前，我们需要设置一定的参数。我是专门谈论词汇表的大小，填充长度和嵌入尺寸。下面是一个简单的LSTM网络，我随机选择了3个参数：
vocab_size = 20000
pad_size = 35
embedding_dim = 50
# ONE HOT REPRESENTATION FOR TRAINING SET
ohr_train = [one_hot(i, vocab_size) for i in train_x]
# PAD EACH TEXT IN TRAIN SET SO THAT EACH TEXT IS OF SAME LENGTH
t
浏览 0提问于2022-01-27得票数 0
回答已采纳
1回答
哪个Python sklearn函数可以接受非数字值作为训练目标？
python、scikit-learn
我正在学习。
我注意到他们使用了可以接受非数字y_train值的PassiveAggressiveClassifier。我知道在自然语言处理(NLP)中，我们需要将字符串训练文本转换为数字数组作为训练输入，以便神经网络模型可以接受，但为什么训练目标不需要转换为数字？还有哪些模型可以作为非数值型的训练目标？
#Initialize a PassiveAggressiveClassifier
pac=PassiveAggressiveClassifier(max_iter=50)
pac.fit(tfidf_train,y_train)
浏览 2提问于2019-10-09得票数 0
1回答
角点中一维卷积网络的输入维数
python、neural-network、theano、conv-neural-network、keras
真的很难理解角星中卷积的一维的输入维数：
输入形状
具有形状的三维张量：(样本，台阶，input_dim)。
输出形状
具有形状的三维张量：(样本，new_steps，nb_filter)。由于填充，步骤值可能已经更改。
我希望我的网络接受一个时间序列的价格(101，顺序)和输出4个概率。我目前的非卷积网络做得相当好(训练集为28000)，如下所示：
standardModel = Sequential()
standardModel.add(Dense(input_dim=101, output_dim=100, W_regularizer=l2(0.5), activation='
浏览 1提问于2016-07-29得票数 25
回答已采纳
1回答
将NumPy中不同维数的“N”二维阵列转换为一个三维阵列
python、numpy、keras、numpy-ndarray
我有N个二维特征的样本，在一个轴上有可变的尺寸。例如：
示例1：(100,20)
示例2：(150,20)
示例3：(90,20)
是否有一种方法将所有N个样本组合成一个三维数组，以便第一个维度(N，?，?)表示示例编号？？
PS:我希望避免填充和重塑，并希望找到一种方法，将其尺寸完整地输入到Keras的LSTM网络中。任何其他实现同样目标的建议都是受欢迎的。
浏览 4提问于2019-12-13得票数 0
1回答
检查输入时出错:期望lstm_1_input具有形状(71,768)，但得到具有形状的数组(72,768)
python、tensorflow、machine-learning、keras、deep-learning
我正在加载 (23094，71,768)，(23094，19,282)的预训练模型.
当我传递形状为(29116，72,768)的新X值时，当检查输入时会出现错误:期望的lstm_1_input具有形状(71,768)，但得到与形状(72,768)的数组。
这是我的模型总结:模型："sequential_1“
图层(类型)输出形状参数
lstm_1 (无，71,256个) 1049600
lstm_2 (无，71，64) 82176
lstm_3 (无，32) 12416
dense_1 (稠密)(无，5358) 176814
reshape_1 (重塑)(无，19,282)
浏览 2提问于2020-04-06得票数 0
1回答
神经网络的4d输入张量与一维输入张量(又名向量)
machine-learning、pytorch
读到机器学习，我不断地看到对“输入向量”或“特征向量”的引用，这是一种一维张量，用来保存神经网络的输入。所以。
然后，我也看到引用图像是一个四维张量，尺寸是批次数，颜色通道，高度和宽度。例如，在“用Python进行深度学习，由Francois”中就是这样描述的。
我在想，为什么用不同的方式来描述它呢？什么时候会使用其中一种对另一种？
浏览 0提问于2019-04-06得票数 1
回答已采纳
2回答
keras模型中的尺寸不匹配
python-3.x、theano、keras、keras-layer
我想用带角的LSTM神经网络来预测时间序列的组，我在使模型与我想要的匹配方面遇到了困难。我的数据的维度如下：
输入张量：(data length, number of series to train, time steps to look back)
输出张量：(data length, number of series to forecast, time steps to look ahead)
注:我想保持尺寸完全一样，没有转位。
再现问题的虚拟数据代码是：
import numpy as np
from keras.models import Sequential
from ke
浏览 5提问于2016-10-17得票数 4
2回答
我应该在神经网络中转换特征或权重吗？
python、machine-learning、neural-network、pytorch
我在学习神经网络。
下面是完整的代码：
当我转换特性时，我得到以下输出：
import torch
def activation(x):
return 1/(1+torch.exp(-x))
### Generate some data
torch.manual_seed(7) # Set the random seed so things are predictable
# Features are 5 random normal variables
features = torch.randn((1, 5))
# True weights for our data, rando
浏览 1提问于2020-07-21得票数 3
回答已采纳
1回答
提取每个标记的隐藏表示- PyTorch LSTM
nlp、pytorch、lstm、recurrent-neural-network
我目前正在做一个涉及递归神经网络的NLP项目。按照教程here，我用PyTorch实现了一个LSTM。 对于我的项目，我需要提取输入文本的每个标记的隐藏表示。我认为最简单的方法是使用批次大小和序列长度1进行测试，但当我这样做时，损失会比训练阶段大几个数量级(在训练阶段，我使用的批次大小为64，序列长度为35)。 有没有其他方法可以方便地访问这些单词级别的隐藏表示？谢谢。
浏览 14提问于2021-07-22得票数 0
2回答
将四维特征张量的维数从ResNet降至二维LSTM模型
deep-learning、pytorch、conv-neural-network、lstm、recurrent-neural-network
我正在设计一个机器学习模型，它从ResNet获取一个特征张量，并使用LSTM来识别图像中的字母序列。来自ResNet的特征张量是4-D，但是LSTM_cell需要2-D的输入。我知道其他方法，如.view()和.squeeze()，它们能够减少维度。但是，如果我这样做的话，它就会改变特征向量的维数。首先，向量是128，2，5,512，但它需要是128,512。但是，调用.view(-1, 512 )会使维度乘以得到1280,512。你将如何改变维度而不加乘？
浏览 13提问于2022-06-11得票数 0
回答已采纳
1回答
光学字符识别系统中的LSTM应该把先前的预测序列放在哪里？
ocr、lstm
我正在尝试建立一个光学字符识别系统，它可以使用LSTM单元识别手写句子。
现在，我从文献中了解到，你需要给LSTM细胞提供两个输入:一个是你试图识别的图像，另一个是它已经预测的单词序列。因此，例如，如果我有一幅读着“我喜欢机器学习”的图像，我会创建以下几对输入：
图像+ startseq
图像+ startseq +i
形象+起点+我+爱
因此，对于每个输入，您希望LSTM预测下一个单词，即I，爱，机器为上述序列。
我遇到的问题是，我不知道如何将图像和前面的序列输入到LSTM单元中。我是否将我的图像(二维矩阵)划分成行/列向量，并将它们一次发送到LSTM，然后在我发送完之前
浏览 0提问于2018-07-16得票数 0
回答已采纳
1回答
如何在不混合批次元素的情况下重塑pytorch矩阵
deep-learning、pytorch
在我的神经网络模型中，我用一个8x256维嵌入矩阵表示一个8个单词的句子。我希望将其作为输入提供给LSTM，其中LSTM一次接受嵌入的单个单词作为输入并对其进行处理。根据pytorch ，输入应该是(seq_len, batch, input_size)的形状。将输入转换为所需形状的正确方法是什么？我不想把数字搞混了。我在PyTorch和行主计算方面是个新手，所以我想在这里问一下。我这样做，对吗？
x = torch.rand(8,256)
lstm_input = torch.reshape(x,(8,1,256))
浏览 1提问于2018-11-28得票数 2
1回答
对神经机器翻译的高度理解
machine-learning、machine-translation
我目前正在学习基于深度学习的机器翻译系统，但我不确定我是否理解这个过程的逻辑。我知道源语言和目的语翻译语句对必须表示为word2vec向量，但为什么需要应用两个(编解码器)递归神经网络？我的第一个想法是只应用一个RNN，其中输入是源语言示例(以word2vec向量的形式)，输出只是目标语言的word2vec序列。为什么有必要使用另一个RNN？
我的主要问题是，这个系统是否有足够的灵活性来处理同温云、语序变化和其他歧义？它能够近似于一个新的被翻译的原语句子的正确含义吗？
最后但并非最不重要的一点是:如何评估这样一个模型，在这样一个模型中，许多翻译可以同时正确？
浏览 0提问于2017-02-27得票数 3
1回答
Python NumPy阵列与矩阵乘法
python、arrays、neural-network
我正在阅读“建立你自己的神经网络”一书，然后通过这些例子来实现我的第一个神经网络。我理解了基本概念，尤其是计算输出的这个方程，用输入和权重的矩阵点积来计算：
X = W * I
其中X是应用Sigmoid之前的输出，W是链接权重，I是输入。
在这本书中，他们确实有一个函数，把这个输入作为数组，然后把这个数组转换成一个二维数组。我的理解是，X的值是这样计算的：
W = [0.1, 0.2, 0.3
0.4, 0.5, 0.6
0.7, 0.8, 0.9]
I = [1
2
3]
因此，如果我现在为输入输入传入一个数组，比如1,2,3，为什么我需要按照书中
浏览 0提问于2019-12-06得票数 0
回答已采纳
1回答
火炬式LSTM输入尺寸有问题
deep-learning、pytorch、lstm、recurrent-neural-network、torchtext
问题
我正在尝试使用LSTM构建一个文本分类器网络。我得到的错误是：
RuntimeError: Expected hidden[0] size (4, 600, 256), got (4, 64, 256)
详细信息
数据是json，如下所示：
{"cat": "music", "desc": "I'm in love with the song's intro!", "sent": "h"}
我使用torchtext加载数据。
from torchtext import data
浏览 7提问于2020-05-14得票数 1
回答已采纳
2回答
纵火线性法中的多维输入？
neural-network、deep-learning、pytorch、perceptron
在构造一个简单的感知器神经网络时，我们通常将格式(batch_size,features)输入的2D矩阵传递给二维权矩阵，类似于中的这种简单的神经网络。我总是假设神经网络的感知器/密集/线性层只接受2D格式的输入，并输出另一个2D输出。但最近，我遇到了这样一个模型:线性层接受三维输入张量，并输出另一个三维张量(o1 = self.a1(x))。
import torch
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as optim
class Net(nn.Module):
def
浏览 3提问于2019-10-28得票数 3
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
活动推荐
腾讯云开发者
