首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

ollama本地部署更改默认C盘,Windows配置环境变量方法

ollama是一个大语言模型(LLM——Large Language Model),本地电脑安装网上也要很多教程,看上去非常简单,一直下一步,然后直接就可以使用了。但是我在实操的时候并不是这样,安装完根本就用不了,这里分享一下我的经验,喜欢ai文章或想要了解更多AI知识,欢迎关注我。

一、下载ollama

可以搜索ollama关键词即可找到官网“ollama.com”,然后在首页点“download”进入下载页面,下图所示。

ollama下载

然后根据电脑系统选择下载哪个版本,我使用的是Windows系统,所以选择Windows版本,对于其他系统,以后再分享,今天主要以Windows系统安装设置为主要内容。点击 download for Windows 下载即可。

ollama Windows版下载

二、安装ollama

找到我们前面下载的ollama安装文件,双击“OllamaSetup.exe”运行,点install进行安装,下图所示:

ollama安装

等待安装完成之后,安装界面会自动消失,然后ollama会自动启动。

到此安装就结束了。一般情况下是可以继续使用了,但是对于某些电脑,比如我的是Win11,还是不能正常使用,下面来进行一些配置。

三、ollama配置环境变量

Win10或Win11可以直接搜索“环境变量”,下图搜索,打开“编辑系统环境变量”设置:

在“高级”下面点“环境变量”,下图所示:

在弹出来的对话框中点下图所示的“新建”:

配置ollama的模型存储路径,默认是C盘,这里我们更改ollama的模型存储为D盘,先打开电脑的D盘创建一个名为“ollama”的文件夹。然后接上面弹出来的对话框中输入变量名和变量值:

变量名:OLLAMA_MODELS

变量值:D:\ollama

ollama更改模型存储搭配D盘

填写完成之后点“确定”。这样默认将下载的模型存储到C盘的问题就解决了,需要注意的是该设置需要重启电脑才能生效(我这里先不重启,设置后面的再重启电脑)。

我们继续添加添加环境变量,更改服务监听地址和端口,接上面,我们继续“新建”环境变量,变量名和变量值按以下设置:

变量名:OLLAMA_HOST

变量值:127.0.0.1

监听地址,默认为127.0.0.1(仅限本机访问)。如需远程访问,可设置为0.0.0.0,一般本机访问即可。

继续“新建”环境变量,修改默认端口号,ollama默认使用11434端口,变量名为“OLLAMA_PORT”,变量值为可以自定义一个5为数字,我这里使用“11438”:

这样就可以解决端口号被占用有冲突的问题,要是这个端口号还不行,那么再更换一个。

继续再新建变量,为http开放请求,变量名为“OLLAMA_ORIGINS”,变量值填写“*”(星号)即可,下图所示:

下图所示,可以看到,我们连续为ollama添加了4条变量和与之对应的值:

ollama环境变量配置

然后点“确定”,完成配置即可,其他的ollama环境变量如下表格所示,可以根据实际情况添加。

注意每次更改环境变量之后,需要重启电脑,配置才会生效,我们这里先不重启,再配置一下防火墙后再重启。

四、防火墙放行新配置的ollama端口

在电脑左下角搜索“防火墙”,下图所示(win10或Win11都有),点“Windows Defender 防火墙”并打开:

然后点下图所示的“高级设置”:

弹出的窗口如下图所示,点左上角“入站规则”,再点右上角“新建规则”:

弹出的窗口选择“端口”后,点“下一页”:

选择“TCP”,再选择“特定本地端口”,并输入前面我们配置环境变量时设置的端口号,如11438,再点“下一页”:

选择允许链接,然后点 下一页:

然后弹出来的对话框中把“域、专用、共用”前面的对勾都选上,点“下一页”继续,下图所示:

到此,关于ollama的所有配置就全部完成了,由于前面没有重启电脑,所以先重启电脑使配置的环境变量生效。

重启电脑之后,默认ollama是跟随系统自动启动的,在电脑的右下角可以看到ollama羊驼小图标,如下图所示,如果没有启动,可以在开始菜单中启动ollama。

确认ollama已经启动,我们打开命令提示符,使用win键+R键输入 “cmd”打开命令提示符,下图所示,输入“ollama”然后回车,如果有下图所示的返回信息,就表示ollama没有问题了。

localhost访问

127本地IP访问

到此,ollama的全部安装配置就完成了,如还有其他问题可以留言评论。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OyWlkDp54yoJQyYhhzjprxlQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券