前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >用NAS搭建一站式的AI解决方案,商用级项目—Chat Nio - 熊猫不是猫QAQ

用NAS搭建一站式的AI解决方案,商用级项目—Chat Nio - 熊猫不是猫QAQ

作者头像
熊猫不是猫
发布2024-03-21 11:09:02
1890
发布2024-03-21 11:09:02
举报

AI在24年越来越完善了,但目前大部分都是在使用文字聊天项目,而扩展下去也就是GPT项目。但目前市面上的AI其实已经很多了,例如我们常用到的dell-3绘图、MJ绘图以及国内比较出名的文心一言、讯飞星火、遵义千问等等。将这一系列AI集成到一个项目,同时拥有不错的用户管理、支付机制以及完善的前后台管理,便能形成一个 完全可商用的AI集成项目,也就是我们网上经常看到的别人网站上需要付费购买那种,而今天我们也可以用NAS来搭建这样一个项目。

功能介绍

Chat Nio作为一个一站式的AI解决服务项目 ,能使用的模型很多,从传统的文字到绘图一共涉及52个模型可供选择使用。同时这些模型都不需要一一去配置,只需要设置好上游地址(项目原地址)后直接同步上游的设置即可。同时上游有新增模型后,也方便我们及时更新。

模型同步

除此之外,Chat Nio拥有完善的后台管理。在后台界面,可以看到有用户管理、模型市场、公告通知、渠道设置、价格设定、订阅管理、系统设置等一系列设置项。完善的体系使你完全可以将该网站用于商用,你可以设置好自己的定价体系,对接好支付平台。

后台

除此之外,在AI的使用上,Chat Nio也还不错。和其他的AI项目一样,也拥有预设的设定,通过预设可以快速的根据自己需求来获得内容。

预设

除了预设,Chat Nio在我看来强大的一点是支持联网搜索内容以及上传内容解析。不过文件解析服务以及联网搜索服务需要自部署对接好。

联网与上传文件服务

在你所有设置好之后,我们在聊天窗口打开模型市场就能看到你选择的模型,同时你设置的定价以及图标等等都会展示。个人觉得界面UI还是蛮不错的。

模型选择

最后,我这边尝试一下MJ的绘图,看看效果吧。

画一只熊猫

部署过程

项目的部署其实很简单,毕竟作者给到了完整的中文文档。如果我们使用docker部署mysql与redis服务,那么就需要根据官方的docker-compose文件修改(需要映射的文件夹需要一一对应新建好)。例子如下:

代码语言:javascript
复制
version: '3'
services:
  mysql:
    image: mysql:latest
    container_name: db
    restart: always
    environment:
      MYSQL_ROOT_PASSWORD: root
      MYSQL_DATABASE: chatnio
      MYSQL_USER: chatnio
      MYSQL_PASSWORD: chatnio123456!
    expose:
      - "3306"
    volumes:
        - ./db:/var/lib/mysql
    networks:
      - chatnio-network

  redis:
    image: redis:latest
    container_name: redis
    restart: always
    expose:
      - "6379"
    volumes:
      - ./redis:/data
    networks:
      - chatnio-network

  chatnio:
      image: programzmh/chatnio
      container_name: chatnio
      restart: always
      ports:
          - "8000:8094"
      depends_on:
          - mysql
          - redis
      links:
          - mysql
          - redis
      ulimits:
        nofile:
          soft: 65535
          hard: 65535
      environment:
          MYSQL_HOST: mysql
          MYSQL_USER: chatnio
          MYSQL_PASSWORD: chatnio123456!
          MYSQL_DATABASE: chatnio
          REDIS_HOST: redis
          REDIS_PORT: 6379
          REDIS_PASSWORD: ""
          REDIS_DB: 0
          SERVE_STATIC: "true"
      volumes:
        - ./config:/config
        - ./logs:/logs
        - ./storage:/storage
      networks:
        - chatnio-network

networks:
  chatnio-network:
    driver: bridge

如果我们使用NAS内置的sql服务,那么就不需要去部署,这时候就可以删掉其中的mysql去群晖自带的sql中新建数据库命名为chatnio。随后我们命令行启动项目:docker-compose up -d。

启动项目

这时候咱们只是常规的部署项目,如果需要文档解析以及联网搜索,我们还需要部署chatnio-blob-service以及duckduckgo-api,并在部署好项目之后获取到API填入chatnio系统设置中。

文件解析

联网搜索

此时项目就部署完成了,默认的用户名与密码为root/chatnio123456。这时候只需要设置好对应的模型以及渠道就可以了。这里chatnio的渠道设置可以去项目原地址购买他的服务,然后同步到你这里,也可以自行填写你自己的KEY使用。

多渠道

渠道设置

渠道设置中的密钥便是你要使用的智能模型的KEY,而接入点则是中转地址。例如我们常用的GPT在国内无法使用,就需要用到接入点来中转服务。

写在最后

有粉丝已经用这一套程序搭建好了完整的商用流程,项目不错,且作者更新狂魔。从上周我使用时还不能在mj模型下使用中文,现在已经可以了,同时也修复了很多问题。且有问题的issues反馈特别及时,为作者点赞。

以上便是本期的全部内容了,如果你觉得还算有趣或者对你有所帮助,不妨点赞收藏,最后也希望能得到你的关注,咱们下期见!三连

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 功能介绍
  • 部署过程
  • 写在最后
相关产品与服务
容器服务
腾讯云容器服务(Tencent Kubernetes Engine, TKE)基于原生 kubernetes 提供以容器为核心的、高度可扩展的高性能容器管理服务,覆盖 Serverless、边缘计算、分布式云等多种业务部署场景,业内首创单个集群兼容多种计算节点的容器资源管理模式。同时产品作为云原生 Finops 领先布道者,主导开源项目Crane,全面助力客户实现资源优化、成本控制。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档