首发！本地运行最强开源大模型Llama3

首发！ 本地运行最强开源大模型Llama3

Meta公司于4月18日对外发布了两款规模庞大的开源模型：Llama 3 8B和Llama 3 70B。这两款模型为外部开发者提供了免费的使用机会。在同类模型中，Llama 3 8B和Llama 3 70B的性能堪称顶级，其中Llama 3 8B甚至在某些测试中超越了之前的Llama 2 70B模型。（整合包在文末自取）

Llama3 Model

Llama 3 大模型的几大特点：

训练数据超过15T token，是Llama 2数据集7倍以上的规模；

训练效率是Llama 2的3倍；

支持最长达8K的文本输入，经过改进的tokenizer拥有128K个token的词汇量，以此提升模型性能；

在多个重要的基准测试中表现卓越，居于领先地位；

推理和编码能力得到显著增强；

安全性大幅提升，搭载了Llama Guard 2、Code Shield和CyberSec Eval 2等新一代的信任与安全工具，并在错误拒绝方面表现优于Llama 2。

学术Fun迅速对这些模型和应用文件进行了整理，用户只需简单下载并替换模型文件，即可轻松开始本地体验Llama 3的强大功能。

安装指南

安装步骤

下载并解压缩文件后，您会看到以下目录结构：

FaradayDotDev：含有Llama3-8B模型的目录

.exe：最新的、兼容Llama3模型的LM Studio安装程序

文件结构

安装LM-Studio。双击运行安装程序，按照提示完成安装。安装完成后，打开软件界面如下所示：

LM-Studio界面

加载模型。打开LM-Studio软件内的模型目录：

模型目录

复制FaradayDotDev目录到模型文件夹内，然后重启LM-Studio软件。

复制模型

重新启动软件，检查模型文件列表，确保新模型已经加入列表中。

模型列表

切换到聊天界面，在模型列表中选择Llama模型并进行加载。

加载模型

完成上述步骤后，您就可以开始与AI进行互动了。

通过以上步骤，您可以在本地环境中体验到Llama 3模型的强大能力，并开始探索AI的无限可能。