零基础也能玩转本地 AI：Ollama 极简入门指南

如果你不是程序员，不懂代码，不想配置复杂的环境，但想在自己的电脑上免费、私密地运行像 ChatGPT 一样的大模型，那么这篇教程就是为你准备的。

我们将使用 Ollama，它就像是一个“AI 应用商店” + “播放器”，让你能一键下载并运行各种聪明的 AI 模型。

为什么你要用 Ollama？

1. 完全免费：不需要按月付费订阅，模型本身也是开源免费的。
2. 隐私安全：所有对话都在你的电脑本地运行，数据不会上传到任何云端服务器。适合处理个人日记、工作草稿等敏感内容。
3. 离线可用：下载好模型后，拔掉网线也能和 AI 聊天。
4. 简单易用：不需要懂 Python 或命令行高级技巧，几个简单指令即可上手。

第一步：安装 Ollama

Ollama 支持 Windows、Mac 和 Linux。以下是傻瓜式安装步骤：

💻 Windows 用户

1. 访问官网：ollama.com
2. 点击页面上大大的 "Download for Windows" 按钮。
3. 下载完成后，双击安装包，一路点击 "Next" 直到完成。
4. 安装结束后，你会看到一个黑色的小窗口（命令行）闪一下，这说明 Ollama 已经在后台悄悄运行了。

Mac 用户

1. 访问官网：ollama.com
2. 点击 "Download for macOS"。
3. 将下载的 .zip 文件解压，把 Ollama 图标拖入“应用程序”文件夹。
4. 在“应用程序”中双击打开 Ollama。菜单栏会出现一个小羊驼图标 🦙，表示运行成功。

Linux 用户

打开终端，复制粘贴以下一行命令并回车（需要输入密码）：

curl -fsSL https://ollama.com/install.sh | sh

第二步：下载并运行你的第一个 AI

安装好后，我们不需要打开复杂的软件，只需要用系统自带的“终端”（Windows 叫 CMD 或 PowerShell，Mac 叫 终端/Terminal）来操作。

1. 打开终端

• Windows: 按 Win 键，搜索 cmd 或 PowerShell，点击打开。
• Mac: 按 Command + 空格，搜索 终端，点击打开。

2. 运行模型

在黑色的窗口中，输入以下命令并回车（以目前最流行的全能模型 Qwen2.5 为例，这是阿里巴巴开发的优秀模型，中文能力极强）：

ollama run qwen2.5

发生了什么？

• 第一次输入时，Ollama 会自动从网络下载这个模型（大小约 2GB-4GB，取决于版本）。
• 下载进度条走完后，你会看到 >>> 提示符。
• 恭喜！你现在已经可以和 AI 对话了！

3. 开始聊天

直接在 >>> 后面输入你想问的问题，例如：

“请帮我写一份周末去杭州旅行的攻略，包含美食推荐。” “如何用简单的语言向孩子解释什么是重力？” “帮我把这段话润色得更专业一点：[粘贴你的文字]”

按回车，AI 就会立刻生成回答。

第三步：尝试不同类型的 AI 模型

Ollama 的魅力在于它可以运行各种专长的模型。你不需要卸载旧的，随时可以切换。

在终端里输入 Ctrl + C 退出当前对话，然后尝试以下命令：

注：输入命令后，如果本地没有该模型，它会自动下载。

第四步：常用小技巧（非程序员版）

你不需要记复杂的代码，只要记住这几个“魔法指令”：

1. 查看我下载了哪些模型？

想知道电脑里存了哪些 AI，输入：

ollama list

它会列出名字、大小和修改时间。

2. 删除不用的模型（节省空间）

如果某个模型占地方太大又不常用，可以删掉它。 格式：ollama rm 模型名字例如删除 Mistral：

ollama rm mistral

3. 给 AI 设定一个“人设”

你可以直接告诉它：“从现在开始，你是一位严厉的英语老师，请纠正我的语法错误。” 或者，如果你想让它一直记住这个设定，可以在运行模型时加参数（稍微进阶一点点）：

ollama run qwen2.5 "你是一位专业的心理咨询师，请用温暖、共情的语气回答我的问题。"

(注：不同版本的 Ollama 对直接传参的支持略有不同，如果不行，直接在对话开始后第一句话告诉它即可)

4. 退出对话

在任何时候，按下键盘上的 Ctrl + C (Mac 是 Control + C) 就可以退出当前的 AI 对话，回到普通命令行状态。

常见问题解答 (FAQ)

Q: 我的电脑配置不高，能运行吗？A: Ollama 非常智能，它会自动检测你的硬件。

• 如果你有独立显卡（NVIDIA RTX 系列）或较新的 Mac (M1/M2/M3 芯片)，运行速度会飞快。
• 如果是普通办公本，建议选择小一点的模型（如 qwen2.5:0.5b 或 llama3.2:1b），虽然反应稍慢，但依然能用。
• 小技巧：模型名字后面加 :1b 或 :0.5b 通常代表更小的版本，例如 ollama run qwen2.5:0.5b。

Q: 它联网吗？我知道现在的新闻吗？A: 默认情况下，Ollama 运行的模型是“离线”的，它的知识截止于训练结束的时间（通常是几个月前），它无法实时获取今天的新闻或股票价格。

• 解决方法：如果你需要查新闻，还是得用浏览器。Ollama 擅长的是处理你提供给它的信息（如总结文章、写邮件、出主意）。

Q: 怎么让它帮我读 PDF 或长文档？A: 目前的命令行模式主要处理文字输入。最简单的办法是：打开你的 PDF，复制里面的文字，粘贴到对话框里，然后说“请总结以上内容”。对于几十万字以内的文本，现在的模型都能处理得很好。

结语

现在，你已经拥有了一个运行在自己电脑上的、私密的、免费的超级大脑。

• 用它来头脑风暴周末计划。
• 用它来润色发给老板的邮件。
• 用它来练习外语对话。
• 甚至只是无聊时找个“人”聊聊天。

不需要成为开发者，只要打开终端，输入 ollama run，AI 世界就为你敞开了大门。快去试试吧！