开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

社区首页 >专栏 >Greedy Search VS Beam Search 贪心搜索 vs 集束搜索

Greedy Search VS Beam Search 贪心搜索 vs 集束搜索

作者头像

种花家的奋斗兔

发布于 2020-11-13 11:14:02

发布于 2020-11-13 11:14:02

1.2K0

举报

文章被收录于专栏：NLP小白的学习历程NLP小白的学习历程

在做NLP领域的NMT或者chatbot等方面的工作时，在进行inference（推理）的时候，经常会用到两种搜索方式，即Greedy Search和Beam Search。

1. Greedy Search

贪心搜索最为简单，直接选择每个输出的最大概率，直到出现终结符或最大句子长度。

2. Beam Search。

Beam Search可以认为是维特比算法的贪心形式，在维特比所有中由于利用动态规划导致当字典较大时效率低，而集束搜索使用beam size参数来限制在每一步保留下来的可能性词的数量。集束搜索是在测试阶段为了获得更好准确性而采取的一种策略，在训练阶段无需使用。

针对上例，得到如下计算（beam size=2）

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2019/12/12 ，如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自作者个人站点/博客前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与腾讯云自媒体同步曝光计划，欢迎热爱写作的你一起参与！

评论

登录后参与评论

0 条评论

热度

最新

目录

1. Greedy Search

2. Beam Search。