00:03
大家好,欢迎大家来到腾讯云开发者社区、腾讯云数据库CSDN共同打造的AI驱动tdq service数据库实战技术营。今天呢,我们来讲解一下我们的第二节算力服务器与数据服务器的申请与部署。首先呢,我们先来进行拉玛大语言模型的在线部署,并且提供一个会话服务,首先呢在这里先为大家介绍一下欧拉玛这个软件,奥拉玛呢是一个开源的程序,里边集成了我们大语言模型。开发所使用的环境,能够让大家比较快捷的搭建一个在线使用的大语言模型服务,那么我们腾讯云服务器这块儿呢,也提供了相对应的产品以及集成环境应用。首先呢,我们先做第一件事情,去申请一下腾讯云算力Hai服务器,并且进行olama的部署。
01:07
好了,我们要打开。腾讯云的hi服务器官网。好,我们打开腾讯算力服务器啊,Hi hi的官方页面,点击控制台。来到我们这里边儿,选择高性能应用服务器。或者说是直接在我们的首页位置,首页位置在这里边直接搜索AI都可以找到对应的高性能服务器的相关内容,点击立即使用,也可以进入我们的相关控制台,点击新建按钮。在这里边我们要对选择的这个服务器进行一些相关的配置,首先呢,先看第一个对应模型的选择,我们在这里的模型呢,选择的是社区应用当中的拉玛3.18B模型。
02:03
其实大家在基础环境这块儿也可以,或者是AI框架这块儿,也可以看到其他的模型的一些展示,其中包含了欧拉玛模型,但是大家不要选择这个模型,因为这个模型里边儿放的是拉玛3的版本儿,我们需要用到3点儿1的版本儿,所以在这里选社区应用当中的拉马3.18B。往下选择所在区域,所在区域这块儿呢,选一个离大家比较近的区域即可,国内的话北京、上海、广州都可以啊,我现在离上海比较近,所以我都选择地区为上海,算力方案这块儿,我们只需要选择1.2元每小时的一个算力即可,因为它的内存是32GB,显存16GB,足够满足我们拉玛3.18B的一个应用,因为拉玛3.18B只需要大概5个G的显存即可实现。如果是70D的话,可能就需要两张以上的,就需要选用进阶型了啊,我们这一块选择。
03:04
基础型,然后实例名称的话,我们起一个名字啊,随便起名字即可,然后云硬盘这块儿选择80g,不需要再多的额外空间点击啊,我已同意立即购买。然后呢,我们就可以啊,购买成功该服务器,该服务器会有一个创建时间,在第一次购买之后,大约有1~2分钟的时间在创建我们的服务器,大家只需稍等即可。好的,大家来看,现在我们的算力服务器就已经什么呀,购买完毕了,购买完毕之后呢,我们需要连接一下算力服务器,并且进行一些设置的相关查看,首先呢,在这里点击色例链接啊,我们选择DR lab的方式进行链接,它会打开一个新的页面。
04:01
我们在当前页面当中选择他们终端,点击打开。好,这个时候呢,我们已经进入了终端命令行界面,我们可以在此运行欧拉玛。然后list来查看当前服务器上已经安装的大语言模型的名称,注意这里边安装的有两个,个是拉玛3点儿18模型,一个是拉玛3的最新模型。请注意的是,我们在之后的操作当中会选择拉玛三点儿18B模型,大家一定要记好它的名称,不要记错,如果记错的话,可以回来再次查看。然后呢,如果想运行欧拉玛啊,我们直接欧拉玛。欧拉玛。瑞,然后后边儿跟着对应模型的名称,机构拉玛3点儿1冒号8B。
05:00
回车,这个时候儿大家可以看到终端正在进行模型的读取。我们需要等到它读取完毕,并且出现交互的界面,那么就表示我们的拉玛服务器或者叫色利服务器就申请完毕了。第一次加载模型都会有些慢的。好,大家看到了,界面出现了send a message, 意思就是什么呢?现在我们已经可以通过当前的终端和拉玛大模型进行交互了,比如说我们说哈喽,你好。然后呢,这个时候呢,拉玛模型会很快给出我们对应的反馈信息,这个时候就说明我们的算力服务器已经申请完毕,但是呢,当前算力服务器申请完毕了,我们依然无法使用外部服务对它进行链接啊,原因是因为当前算力的服务器需要进行端口的设置才可以,所以呢,我们点开。
06:14
我们的拉玛服务器啊,直接点击它的名字就可以了,然后呢,你往下看,下面有一个端口配置。在端口配置这块呢,我们需要打开一个端口,正常情况下欧拉玛的默认端口为11434,但是呢,腾讯云集成的这个拉玛啊服务器,它的默认端口是6399,我们需要在此进行编辑规则。然后呢,点击添加规则。在此选出第自定义啊,这块儿写是IP段儿和CIDR段儿写成or表示所有都可以,然后呢,协议端口儿这块儿,我们写上TCP冒号儿6399。然后策略允许备注不需要啊,如果你需要的话,你可以写上拉嘛,是不是拉嘛端口儿。
07:06
拉拉泡。然后点击确定。这个时候呢,就会帮我们打开当前服务器与外部服务器的一外部服务器的一个链接,允许大家在外部连接到你当前的a hi hi算力服务器,否则的话我们只能在本地运行。这就是我们hi算力服务器的一个申请流程。下面带领大家申请一下TDCQL-CSO服务器,并进行商业数据的导入。首先呢,我们先访问一下sola TD circle的服务器官网。好,访问官网之后呢,我们可以看到啊,这是TDC-CMYQ版,我们点击立即选购。就可以进行数据库的选配,在此首先对于实例形态的选择,我们选择solveless solveless选取之后呢,它可以根据我们的实际使用量进行收费,而不而不用什么呀,提前预制好对应的配置,以免进行资源的浪费。
08:14
首先呢,在第二个数据库引擎,我们选择MYSQL,地域这块我们依然选择上海,可用区域的话随意选择即可,然后呢,是否多区域部署,由于我们这块儿只是进行实验的测试,所以选择否,然后呢,下边儿呢,私有网络不需要调整,然后MYSQL版本的话,我们根据实际需求进行选择即可啊,此处我选择最新版本的MYSQL8.0单节电版,然后呢,读写速率和c cuu都不需要进行修改,然后呢,自动暂停时间啊,我们也不需要修改。然后当然大家如果说我做完实验啊,就让它自动关掉,你可以把时间设的短一点啊,如果是你自己手动停的话,这块可以不选,然后呢,计费模式,此处选择按量计费,大家可以看一下,价格非常优惠,呃,每小时啊不到1元钱。
09:06
然后呢,存储计费模式,按量存储即可啊,然后点击下一步。下面呢,就会进行我们的信息的相关配置,首先呢,在这里边啊,我们可以为当前的这个服务器设置一个名称啊,我们。虽然它默认设置即可选择创建后命名,然后呢,管理员账号儿root这个不需要改动啊,也改不了,密码这块儿的话,我们自己进行一个设置即可,需要大家注意把密码记住了,以免到时候忘记密码再重回来重新修改就比较麻烦。好,我们在此处将密码进行一个复制啊,我们选择的是腾讯的全拼加上下划线TDSQ输入重复密码啊,然后呢,确认两次密码输入一致,默认字符集这块啊,选择第一个u ti8 MD4即可,自定义端口的话,选择的是3306,这也是MYSQL的默认端口,下面的配置啊,暂时不需要进行调整,然后呢,OK, 大小写敏感还是不敏感,我们选择不敏感。
10:09
好,然后呢,没有其他B选项了,点击已同意啊,然后点击立即购买。然后呢,点击立即购买。好,这个时候呢,提示我们集群创建成功,就是说明我们刚刚的TD CQ service服务已经创建成功了,点击前往管理页面。也就是说去进行数据库的管理操作,好大家可以看到在此处多了一个数据库,是我们刚刚选取的上海二区的MYSQ8.0名字它是自定义的啊,我们也可以后期再修改。创建依然需要一定的时间,所以我们在此稍等即可。好,当大家看到这个亮起绿点此处啊,显示运行中,就表示当前的数据库已经创建成功,那么大家需要点击登录连接到数据库当中去啊,点击登录。
11:18
好,登录之后呢,大家可以在左上角看到当前数据库当中已经存在的库,这些都是系统库,然后呢,我们需要自己新建一个数据库,那么来存放我们的数据,所以点击新建啊数据库。然后呢,数据库名字的话,我们再点击新建数据库,输入一个名称,比如说我们叫他shop,因为我们要做的是一个电商相关数据库,起一个shop比较应景一些,然后下面的这个字符集和排序规则不需要调整,点击确定。OK, 大家看到这里边儿多了一个shop数据库,同时呢,在这边儿拉开的话,也可以看到一个新的数据库shop,点击shop大家会进来,当然当前数库里边是没有任何数据的,所以呢,需要我们把提前准备好的数据导到当前的表当中来,那么导入数据库的话,点击导入导出。
12:15
好,点击数据导入,然后呢,文件类型选择SQL类型,数据库就选择我们刚刚的售,然后选择本地上传,点击选择文件来到我们的文稿当中来。选择操作手册当中的备份SQL文件,点击打开。然后点击开始,他就会教我们刚刚备份的搜Q数据进行导入,我们只需要再次稍等即可。看任务状态啊,他任务如果完成的话,状态会发生变化。大家也可以点刷新啊,来实时监控一下它的状态是否改变啊,你看执行成功,执行成功了之后,大家就会看到在当前售库当中导入了3张表啊,一张是这张数据表,我们可以点击查看里边的数据,点击order也可以看到里边的数据,这些数据都是我们搜取文件当中备份好的数据,也是我们后面要做开发的一些DEMO数据。
13:27
好,那么到此呢,我们的CQ数据库就算建立成功了,但是从外部依然无法访问当前数据库,原因很简单,因为数据库它默认是不开放外部访问的,所以呢,只能在局域网内部访问。如果我们想在外部,也就是说在你的电脑里边通过文件连接我们的服务器的话,需要点击服务器的右侧有一个内与外鼠标,放在旺上会显示一个开启文字,点击开启,它会告诉你需要注意的事项,然后点击创建并授权。
14:04
这个时候儿呢,他就会给我们提供一个远程访问的端口儿以及地址。好,大家也可以看到啊,上面的主机和端口是指呃,局域网内部访问地址,下面给我们开的则是外部访问地址,它需要一定的时间开启,我们稍等即可。好的,大家来看,现在在外这个区域显示了主机地址以及一个端口号儿,这就是我们将来啊,在外部访问当前数据库的一个地址和端口啊,大家一定要谨记,后期的话,如果忘记,我们可以回来继续查找。那好了,感谢大家收听本小节内容,下一小节我们继续为大家讲解。
15:01
数据库的分析。
我来说两句