如何从本地/colab目录加载预培训的BERT模型？
嗨，我从这里下载了伯特预培训模型(https://storage.googleapis.com/bert_模型/2018年_10_18/外壳_L-12_H-768_A-12.zip)，并保存到gogole colab和本地的一个目录中。
当我试图在colab中加载模型时，得到“我们假设”/content/驱动器/My Drive/bert_training/uncased_L-12_H-768_A-12/config.json“。尝试在局部机器上对模型进行laod，得到相同的误差。
我就是这样加载模型的:从变压器导入BertForMaskedLM BertForMaskedLM
这是正确的方式从目录加载模型时，我已经下载了预培训的模型？I‘/content/驱动器/My Drive/bert_training/uncased_L-12_H-768_A-12/config.json’“下载的模型具有以下命名约定:文件名以bert_开头，但BertForMaskedLM类期望文件名为config.json。
bert_config.json bert_00001.ckpt.data-00000-00001 bert_model.ckpt.index vocab.txt bert_model.ckpt.meta
全错误:型号名称'/content/drive/My Drive/bert_training/uncased_L-12_H-768_A-12/‘没有在模型名称列表中找到(bert-base-uncased，bert-base-cased，bert-大-cased，bert-base-多语言-uncased，bert-base-多语种-cased，bert-大-基-整字-掩蔽，bert-大-大-词-掩蔽，bert-large-uncased-whole-word-masking-finetuned-squad，bert-large-cased-whole-word-masking-finetuned-squad，bert-基-外壳-finetuned-mrpc，bert-基础-德国-dbmdz-外壳，bert-基础-德国-dbmdz-没有)。我们假设‘/content/驱动器/My Drive/bert_training/uncased_L-12_H-768_A-12/config.json’是到名为config.json的配置文件的路径或url，或者是包含这样一个文件的目录，但是在这个路径或url上找不到任何这样的文件。
当我从所有4个文件名中删除bert重命名上述4个文件时，即使存在"model.ckpt.index“文件，也会出现此错误。
错误："OSError:在目录/内容/驱动器/My驱动器/伯特_培训/未被激活的_L-12_H-768_A-12/或from_tf设置为False中没有找到名为“火把”_模型.“、”tf_模型H.5“、”Model.ckpt.index“的文件“
回答 2
Data Science用户
发布于 2019-12-09 23:36:28
您正在使用来自HuggingFace的Transformers库。
由于这个图书馆最初是用毕圣尔写成的，所以检查站与官方的TF检查站不同。但你却在使用官方的TF检查站。
您需要从那里下载一个转换后的检查点。
注意: HuggingFace也发布了TF模型。但我不确定如果没有正式的TF检查站，它是否有效。如果要使用HuggingFace的TF，则需要执行以下操作：
from transformers import TFBertForMaskedLM
Data Science用户
发布于 2020-03-20 06:44:42
您可以使用以下代码行导入经过预先培训的bert模型：
pip install pytorch_pretrained_bert
from pytorch_pretrained_bert import BertTokenizer, BertModel, BertForNextSentencePrediction
BERT_CLASS = BertForNextSentencePrediction
# Make sure all the files are in same folder, i.e vocab , config and bin file
PRE_TRAINED_MODEL_NAME_OR_PATH = '/path/to/the/files/containing/models/files'
model = BERT_CLASS.from_pretrained(PRE_TRAINED_MODEL_NAME_OR_PATH, cache_dir=None)https://datascience.stackexchange.com/questions/64323
复制相似问题
腾讯云开发者
