ChatGPT中的T指的就是transformer模型,而transformer模型是Google在论文attention is all you need中提出的模型。
并不是ChatGPT有多么厉害的技术,也是在前人的基础上进行的研究升华。而transformer 模型是NLP领域必不可缺的一个模型,现在很多大型的模型都是基于transformer 模型发展而来。
不仅transformer 模型可以使用在NLP自然语言处理任务上,目前也同样使用在计算机视觉任务上,包括VIT模型,swin transformer模型等,都把transformer 模型应用在了计算机视觉任务,而transformer 模型也有模型大一统的趋势。
,
ChatGPT的大火也把transformer 模型再次推向了风口浪尖上
领取专属 10元无门槛券
私享最新 技术干货