首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

每日论文速递 | 基于例子还是基于规则:Transformers是如何进行数学运算的?

摘要:尽管在各种复杂任务中表现出色,但现代大型语言模型(LLM)仍然难以处理一些对人类来说简单直观的数学问题,例如加法。虽然我们可以很容易地学习加法的基本规则,并将其应用于任何长度的新问题,但LLM也很难做到这一点。相反,他们可能依赖于训练语料库中看到的类似“案例”来寻求帮助。我们将这两种不同的推理机制定义为“基于规则的推理”和“基于案例的推理”。由于基于规则的推理是必不可少的,获得系统的泛化能力,我们的目标是探索究竟是基于规则的或基于案例的推理Transformers器的数学问题。通过精心设计的干预实验五个数学任务,我们证实,Transformers进行基于案例的推理,无论是否使用便笺,这与以前的观察,变压器使用子图匹配/快捷学习的原因。为了缓解这些问题,我们提出了一个规则遵循微调(RFFT)技术教Transformers执行基于规则的推理。具体来说,我们在输入中提供明确的规则,然后指示Transformers背诵并一步一步地遵循规则。通过RFFT,我们成功地使LLM在1-5位数加法上进行微调,以超过95%的准确度推广到12位数加法,比暂存器高出40%以上。这一显著的改进表明,教授LLM显式使用规则有助于他们学习基于规则的推理,并在长度上更好地概括。

01
领券