在文档中，它说要像这样创建一个transformer模型：src= torch.rand((10, 32, 512))什么是“不是”？
浏览 503提问于2021-03-13得票数 1
回答已采纳
--我正试图通过PyTorch库构建一个变压器网络。我使用的数据集是历史金融市场数据。(y_train_tfr,12, dim=0)src = x_train_splitout, state = transformer_model(src, tg
浏览 26提问于2022-05-10得票数 0
1回答
我知道前钩函数的形式是hook_fn(m,x,y)。M代表模型，x代表输入，y代表输出。我想为nn.Transformer编写一个前向挂钩函数。
然而，变压器层有src和tgt的输入。例如，>>> out = transformer_model(src, tgt)。那么，我如何区分这些输入呢？
浏览 3提问于2021-09-07得票数 0
回答已采纳
1回答
我有一个相似度矩阵(torch张量)，它是两个矩阵(源和目标)之间的余弦相似度矩阵。从矩阵中，我需要获得每个源和目标的最接近的邻居之间的距离之和。然后使用上面计算的值填充两个defaultdicts，如下面的代码片段所示from collections import defaultdicttgt2src</
浏览 0提问于2020-03-31得票数 1
我正在尝试使用nn.Transformer类训练一个变形金刚Seq2Seq模型。我认为我实现它是错误的，因为当我训练它时，它似乎太快了，并且在推理过程中它经常重复自己。这似乎是解码器中的掩蔽问题，当我移除目标掩码时，训练性能是相同的。这让我相信我做的目标掩码是错误的。self.pos_embedding = nn.Embedding(max_len, input_dim, padding_idx=pad_token)
浏览 30提问于2020-05-06得票数 8
我用的是火炬和src_tokens=src_tokens, tgt_tokens=tgt_tokens, dim_model=dim_model, num_heads是这样的： """
Model from "A detailed guide to Pytorch's nn.T
浏览 19提问于2022-01-12得票数 0
不幸的是，Pytorch关于这个函数的官方文档在这一点上(2021年4月)并不是非常详尽，在每个张量的预期维度上，以及在使用每个可选参数是否合理的时候。例如，在以前的谈话中向我解释说，tgt_mask通常是一个用于自我注意掩蔽的平方矩阵，以防止将来的令牌泄漏到对过去令牌的预测中。类似地，tgt_key_padd
浏览 0提问于2021-04-25得票数 3
回答已采纳
1回答
删除查询性能
、、
原始查询TABLE_BASE B , where B.ID = I.IDID and B.NUM = I.NUM;+---+-----------+
DEL FROM TABLE_BASE WHERE (ID, NUM) IN 上述查询的统计数据-
优化的查询1和2如何/为什么对性能有如此大的影响？这种删除查询
浏览 3提问于2016-11-16得票数 5
我正在尝试运行用于旧版本torch和torchtext的代码。我在代码中做了很多调整，以使其正常工作。我能够对我的数据进行预处理和训练。, n_tgt_features) return TextDataset.get_fields(n_src_features, n_tgt_feat
浏览 177提问于2021-11-19得票数 0
我有两个硬盘分别安装在src/和tgt/上。src/中有足够多的硬链接，以至于rsync -a src/ tgt使目标磁盘耗尽了空间。我已经了解到，我应该额外使用-H选项，以便src/中的硬链接成为tgt/中的硬链接。如果我现在运行rsync -aH src/
浏览 0提问于2018-03-08得票数 1
回答已采纳
1回答
我几乎找不到转换器的实现(既不臃肿，也不让人困惑)，而我所引用的实现是PyTorch实现。但是，Pytorch实现要求您为每个步骤传递输入(src)和目标(tgt)张量，而不是对输入进行一次编码，并继续迭代n个步骤以生成完整的输出。我是不是漏掉了什么？我的第一次猜测是变压器在技术上不是一个seq2seq模型，我不知道该如何实现它，或者我只是在过去几年里错误地实现了seq2seq模型:)
浏览 0提问于2021-03-09得票数 3
回答已采纳
1回答
第一层是嵌入层，其将输入从N×S到N×S×E，其中E是嵌入维度(300)，或者在目标的情况下采用N×T×E。第二层在不改变形状的情况下添加位置编码。最后，我们将此输出传递到一个线性层，该层产生N乘T乘以V的输出，其中V是问题中使用的词汇表的大小。这里的V大约是56,697。最频繁出现的标记(词)在目标张量中出现约50-60次。transformer类还包含用于实现掩码矩阵的函数。 然后我们创建模型并运行它(这个过程被
浏览 15提问于2021-09-25得票数 0
1回答
我有两个表--源代码和目标表--有如下模式：
源表有模式：现在我尝试使用merge into目标表作为 usingnull as mergekey, from source_table src on tgt.id= src.id
and tg
浏览 5提问于2022-08-16得票数 0
整流罩包括一个非自回归转换器的实现(据我所理解)，这意味着整个输出序列是在一个前向运行中生成的(与每个前向运行预测输入和先前预测的令牌的自回归模型相反)。但是，从代码中可以看出，模型仍然期望前面的令牌作为输入：https://g
浏览 0提问于2020-08-23得票数 0
1回答
MySQL 5.6:我正在尝试以不同的方式将数据从一个表复制到另一个表。源表位于远程服务器上，大约有50万行--我使用联邦引擎进行连接。我第一次尝试这个：这非常快，只需几秒钟，但它会发出警告：| Warning | 1299 | Invalid那么，是否有一种方法来定位导致问题的行？我尝试过select ... limit #first_row,#last_row;，但它似乎不
浏览 0提问于2020-06-22得票数 1
回答已采纳
2回答
我目前正在尝试扩展基于FairSeq/PyTorch的。在训练期间，我需要训练两个编码器:一个是目标样本，另一个是原始样本和源样本。所以当前的前向函数如下所示： autoencoder_out = self.encoder(tgt_token
浏览 9提问于2019-11-01得票数 5
回答已采纳
3回答
什么时候匹配？
、、
我使用的是Server ( Server 2016和Azure SQL)，我有这个MERGE语句，它使用一个相当粗糙的WHEN MATCHED条件只更新值实际上不同的行。这样做有两个原因：
该表有一个rowversion列，在执行UPDATE操作时，该列将更改，即使所有值都相同。另一个痛苦是SQL中缺乏DRY -以及在SQL Server中实现DRY数据库的困难(例如，不支持延迟约
浏览 0提问于2020-06-06得票数 0
3回答
我不明白为什么在以下使用grep的示例中，通配符*会有不同的解释：结果：./tgt/etc/speleo/test_file.c./src/file.c
我
浏览 4提问于2014-02-01得票数 3
回答已采纳
2回答
我是SQL的新手，我遇到了目标表没有被更新的问题。我有重复的帐号(键)，在相关的列中有不同的联系信息。我正在尝试将联系信息(源)合并到单行/帐号中，而非重复的联系信息进入(目标)扩展列。
我构造了一个带有case条件的Merge语句来检查数据是否存在于目标表中。如果数据不在目标表中，则在扩展列中添加信息。问题是目标表没有更新。源
浏览 0提问于2020-07-07得票数 0
2回答
无参数求解过程
、、、、
嘿，伙计们，来看看你们能不能帮我解决我遇到的这个程序问题。UnitPrice number(10,2),Discount number(3),我使用另外两个名为Orders和Client的表进行了几个联接，但使用主键/FK，这些都是简单的联接。因此，这个过程的目标是，当我运行它时，我想遍历订单详细信息，我想要计算客户端购买的产品的不同数量、总产品和</
浏览 0提问于2018-12-14得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
