我正在尝试训练一个模型来预测真实的灾难推文(Kaggle竞赛)，使用拥抱脸bert模型对推文进行分类。我遵循了许多教程，使用了许多bert模型，但没有一个可以在COlab中运行，并抛出了错误!/embeddings:0', 'tf_distil_bert_model_23/distilbert/embeddings/LayerNorm/gamma:0', 'tf_distil_bert</em
浏览 5提问于2020-06-14得票数 1
2回答
我安装了Jetson来监控CPU和GPU的使用情况。当我运行Python脚本时，只有CPU内核才能加载，GPU条不会增加.我在Google上搜索过这方面的关键词，比如“如何检查Py手电是否使用GPU?”但是，我不明白为什么GPU条不改变，CPU核心条走到尽头。
我不想使用CPU，计算时间太长了。在我看来，它使用的是CPU而不是GPU。我如何确定，如果它使用CPU，如何</e
浏览 8提问于2020-09-15得票数 0
回答已采纳
1回答
ResourceExhaustedError (关于追溯，请参阅上文)：
当分配形状为768的张量并输入浮动时[节点bert/encoder/layer_0/attention/output/LayerNorm/beta/adam_m/Initializer/zeros (定义在/home/zyl/souhu/bert/最优化)= Const_class="loc:@bert/en
浏览 0提问于2019-04-25得票数 0
我正在使用Keras中的编码器-解码器架构进行文本摘要任务。我想使用不同的词嵌入来测试模型的性能，比如GloVe和BERT。我已经用GloVe嵌入进行了测试，但在使用Keras的seq2seq模型中找不到合适的BERT嵌入示例。.>
如何将BERT单词嵌入添加到这样的模型中？
浏览 3提问于2020-05-25得票数 2
我正在尝试使用Tensorflow Lite在Mali上运行Transformer和BERT模型，但据我所知，tflite只支持GPU上的一些操作，而不是深度学习模型本身。你有什么想法和建议可以让我在Mali GPU上运行这些Transformer和BERT模型吗？我可以将Tensoflow GPU模型转换为tflite GPU模型吗？或者，是否有其他库支持嵌入式GPU上的转换器？
浏览 9提问于2021-06-24得票数 0
2回答
但据我所知，BERT希望DataFrame的格式是这样的：0 a 8 'http://www.youtube.com/watch?experienc... 0 1 0 1我已经使用以下命令安装了pytorch-pretrained bert：
!pip install pytorch-pr
浏览 2提问于2019-06-23得票数 2
参考github：这不是内存问题，如何解决这个错误？示例代码：if torch.cuda.device_count() > 1:e
浏览 2提问于2020-06-24得票数 0
2回答
我有一个问题，关于使用艾伯特与SQuAD 2.0拥抱脸变压器脚本。 --train_file train-v2.0.json
浏览 5提问于2020-04-19得票数 0
回答已采纳
我首先使用以下方法下载了该文件：然后使用以下代码python run_squad.py \ --model_name_or_path bert-base-uncase
浏览 13提问于2021-07-30得票数 0
回答已采纳
我正在尝试使用BERT a微调Spacy NER模型 #Train the data
!python -m spacy train -g 0 config_spacy_bert.cfg --output ./output --paths.train .Tried to allocate 18.00 MiB (GPU 0; 1.96 GiB total capacity; 958.13 MiB already allocated; 11.25 MiBfree; 978.00 MiB reserved in tota
浏览 47提问于2021-10-12得票数 0
根据的说法，我尝试在tensorflow 2.0中使用keras风格的自动混合精度(AMP)。这是我的代码：
#!应该是float16，因为使用mixed_float16策略的是一个层(即bert_layer)的输出。另一个证据是GPU内存的使用( Bert层中的变量占主导地位)在这两种情况下几乎相同。就我个人而言，我认为这是由于在伯特中定义的层已经被硬编码成有一个dtype float32，所以我们不能使用mixed_float策略来改变它的行为。，对吗？还可能是什么
浏览 2提问于2020-01-05得票数 2
1回答
描述由于一些未知的原因，在同一个变量名下多次创建对象，最终导致内存空间不足，无法分配转换器。= SentenceTransformer("bert-large-nli-stsb-mean-tokens")在GPU中分配的任何模型都会发生这种情况。在我的NVIDIA GTX 1060上，它达到了第四个周期，但在较小的GPU上，它更早崩溃。一种时态解决方案是只在外部创建模型一次，然后根据需要将模型作为
浏览 12提问于2020-07-16得票数 2
回答已采纳
2回答
我的服务器有两个GPU，我如何使用两个GPU同时进行训练，以最大限度地利用它们的计算能力？下面的代码正确吗？它能让我的模特接受适当的训练吗？__init__() # for param in self.bert.parameters():forward(self, input_ids, attention_mask):
浏览 5提问于2022-08-07得票数 3
回答已采纳
我想使用Bert执行多实例学习。一包实例包含40个句子。每句话应该输出一个标签，最终的标签应该是所有标签的平均值。 我试过使用tensorflow_hub的bert layer。但我不知道如何在TimeDistributed中使用它。bert_layer = hub.KerasLayer("https://tfhub.dev/tensorflow/bert_en_uncased_L-1
浏览 24提问于2020-12-22得票数 1
我使用的是Google，下面的导入不知何故不起作用：我得到了这个错误：我试图通过运行以下命令来安装bert：知道如何解决这个错误吗？
浏览 8提问于2019-06-12得票数 11
回答已采纳
确保指定在您的作品中使用的预培训权重的版本。另外，请注意，此存储库基于Google的BERT存储库。
所有的微调实验都是在一台拥有12 GPU内存的土卫六Xp GPU机器上进行的。使用Python2和Python3对代码进行了测试(我们使用Python2进行实验)。您可能希望安装java来使用BioASQ的官方评估脚本。test -d bioBert_repo|| git clone https://github.com/dmis-lab&
浏览 1提问于2019-04-13得票数 0
1回答
我想微调伯特多语种，但我不知道GPU要求培训伯特多语言。我的本地机器上有GTX 1050ti 4GB。我想知道GPU需要什么样的尺寸，需要什么样的GPU来训练伯特。我可以访问服务器资源。有人能告诉我我应该在服务器上要求什么尺寸的GPU吗？
浏览 0提问于2020-08-26得票数 6
3回答
现实中多gpu训练的优势是什么？
、、、、
一个gpu和多个gpu的训练损失递减速度基本相同.但是为什么平均梯度呢？模型是否真的同时提供了更多的数据？
浏览 0提问于2018-12-25得票数 3
回答已采纳
我正在尝试运行Elasticsearch BERT应用程序，希望了解使用GPU微调模型的最低配置。我应该使用什么机器配置？
参考github：
浏览 0提问于2020-06-23得票数 5
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
