Meta AI 公布开源基础模型 Code Llama，专攻代码生成

品玩8月25日讯，Meta AI 近日发布论文，公布了一款针对代码生成功能的基础大语言模型 Code Llama。

据悉，Code Llama基于Llama 2开发，具有开放式模型中领先的性能、填充能力、对大型输入上下文的支持以及用于编程任务的零指令跟随能力。它提供包括基础模型、Python专用版本以及指令跟随模型等多个模型，每个模型的参数分别为7B、13B和34B。所有模型都是基于16k标记序列进行训练，并在最多100k标记输入上显示出改进。

数据显示，Code Llama-Python 7B在HumanEval和MBPP上的表现超过了Llama 2 70B，并且我们的所有模型都优于其他公开可用模型的MultiPL-E基准测试。Code Llama以宽松许可证方式开源，允许研究和商业使用。