ollama是一个大语言模型(LLM——Large Language Model),本地电脑安装网上也要很多教程,看上去非常简单,一直下一步,然后直接就可以使用了。但是我在实操的时候并不是这样,安装完根本就用不了,这里分享一下我的经验,喜欢ai文章或想要了解更多AI知识,欢迎关注我。
一、下载ollama
可以搜索ollama关键词即可找到官网“ollama.com”,然后在首页点“download”进入下载页面,下图所示。
ollama下载
然后根据电脑系统选择下载哪个版本,我使用的是Windows系统,所以选择Windows版本,对于其他系统,以后再分享,今天主要以Windows系统安装设置为主要内容。点击 download for Windows 下载即可。
ollama Windows版下载
二、安装ollama
找到我们前面下载的ollama安装文件,双击“OllamaSetup.exe”运行,点install进行安装,下图所示:
ollama安装
等待安装完成之后,安装界面会自动消失,然后ollama会自动启动。
到此安装就结束了。一般情况下是可以继续使用了,但是对于某些电脑,比如我的是Win11,还是不能正常使用,下面来进行一些配置。
三、ollama配置环境变量
Win10或Win11可以直接搜索“环境变量”,下图搜索,打开“编辑系统环境变量”设置:
在“高级”下面点“环境变量”,下图所示:
在弹出来的对话框中点下图所示的“新建”:
配置ollama的模型存储路径,默认是C盘,这里我们更改ollama的模型存储为D盘,先打开电脑的D盘创建一个名为“ollama”的文件夹。然后接上面弹出来的对话框中输入变量名和变量值:
变量名:OLLAMA_MODELS
变量值:D:\ollama
ollama更改模型存储搭配D盘
填写完成之后点“确定”。这样默认将下载的模型存储到C盘的问题就解决了,需要注意的是该设置需要重启电脑才能生效(我这里先不重启,设置后面的再重启电脑)。
我们继续添加添加环境变量,更改服务监听地址和端口,接上面,我们继续“新建”环境变量,变量名和变量值按以下设置:
变量名:OLLAMA_HOST
变量值:127.0.0.1
监听地址,默认为127.0.0.1(仅限本机访问)。如需远程访问,可设置为0.0.0.0,一般本机访问即可。
继续“新建”环境变量,修改默认端口号,ollama默认使用11434端口,变量名为“OLLAMA_PORT”,变量值为可以自定义一个5为数字,我这里使用“11438”:
这样就可以解决端口号被占用有冲突的问题,要是这个端口号还不行,那么再更换一个。
继续再新建变量,为http开放请求,变量名为“OLLAMA_ORIGINS”,变量值填写“*”(星号)即可,下图所示:
下图所示,可以看到,我们连续为ollama添加了4条变量和与之对应的值:
ollama环境变量配置
然后点“确定”,完成配置即可,其他的ollama环境变量如下表格所示,可以根据实际情况添加。
注意每次更改环境变量之后,需要重启电脑,配置才会生效,我们这里先不重启,再配置一下防火墙后再重启。
四、防火墙放行新配置的ollama端口
在电脑左下角搜索“防火墙”,下图所示(win10或Win11都有),点“Windows Defender 防火墙”并打开:
然后点下图所示的“高级设置”:
弹出的窗口如下图所示,点左上角“入站规则”,再点右上角“新建规则”:
弹出的窗口选择“端口”后,点“下一页”:
选择“TCP”,再选择“特定本地端口”,并输入前面我们配置环境变量时设置的端口号,如11438,再点“下一页”:
选择允许链接,然后点 下一页:
然后弹出来的对话框中把“域、专用、共用”前面的对勾都选上,点“下一页”继续,下图所示:
到此,关于ollama的所有配置就全部完成了,由于前面没有重启电脑,所以先重启电脑使配置的环境变量生效。
重启电脑之后,默认ollama是跟随系统自动启动的,在电脑的右下角可以看到ollama羊驼小图标,如下图所示,如果没有启动,可以在开始菜单中启动ollama。
确认ollama已经启动,我们打开命令提示符,使用win键+R键输入 “cmd”打开命令提示符,下图所示,输入“ollama”然后回车,如果有下图所示的返回信息,就表示ollama没有问题了。
localhost访问
127本地IP访问
到此,ollama的全部安装配置就完成了,如还有其他问题可以留言评论。
领取专属 10元无门槛券
私享最新 技术干货