GPT3 :从下一个词到情感分析，对话，总结，翻译……？
GPT3 :从下一个词到情感分析，对话，总结，翻译……？
提问于 2020-08-25 22:09:55
GPT3或其他模式如何从下一个单词预测到做情感分析、对话、摘要、翻译……？
思想和算法是什么？它是怎么工作的？
F.e.生成段落是生成下一个单词，然后生成下一个..next。
另一方面，情感分析任务是段落的好/坏，哪一种分类？从段落中提取有意义的句子甚至是不同的任务。
我们怎么从下一个令牌到.好了！
安德烈谢谢你的回复。
看来我的问题还不够清楚。所以让我详细说明一下。下一步-标记预测可以在普通文本语料库上进行训练。
word1 w2 w3 w4 .....下一个情绪可以在sentence=>marker=>label上训练
sent1: word1 w2 w3 w4 ..... marker label1
sent2: word1 w2 w3 w4 ..... marker label2
sent3: word1 w2 w3 w4 ..... marker label3
....它不再是语料库的下一代。这是下一代代名词。问题是你需要LABALED数据!！
短信总结怎么样..。让我们再次使用关键字提取(最终基于这些关键字的句子选择)，你需要更复杂的标签。
paragraph1 => kw1
paragraph1 => kw2
paragraph2 => kw3
paragraph3 => kw4 它仍然可以被认为是下一个令牌预测，但您需要再次专门标记数据。
所以我的问题只给出了语料库正文，你怎么做感情用事，正文摘要.等等？
否则，GPT3是简单的缩放DNN与数千人小时的标签数据!！
飞跃在哪里？
回答 1
Stack Overflow用户
发布于 2022-01-02 04:25:42
GPT-3是一个简单的学习自然语言生成器.
可以对这些通用模型进行调整，以执行特定的任务，如分类、翻译、摘要等。
为此，我们需要：
- 微调所需任务的模型。
- 预处理查询
- 查询NLG (调用API)
- 后处理答案
示例：
1-微调：
This is a tweet sentiment classifier
Tweet: "I loved the new Batman movie!"
Sentiment: Positive
###
Tweet: "I hate it when my phone battery dies."
Sentiment: Negative
###
Tweet: "My day has been "
Sentiment: Positive
###
Tweet: "This is the link to the article"
Sentiment: Neutral
###2-查询样本：
This new music video blew my mind2.1 -预处理查询(将查询封装为与微调相同的格式)：
Tweet: "This new music video blew my mind"
Sentiment:3-查询API。预期结果应是：
Positive
###4-后处理/格式：
- 删除尾随空格、
'###'和任何其他额外行。 - 尝试在
['Positive', 'Neutral', 'Negative']之间精确匹配结果 - 如果找到任何其他答案，请处理错误。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/63587789
复制相关文章
相似问题
腾讯云开发者
