当前位置: 首页 > news >正文

fastgpt本地详细部署以及配置

目录

  • 一、Docker部署
    • 1、docker安装
    • 2、docker启动
    • 3、添加用户到 docker 组:
    • 4、验证 Docker 安装:
  • 二、one_api 本地部署
    • 1、linux系统部署
    • 2、windows系统部署
  • 三、向量模型部署(m3e)
  • 四、chatglm2模型本地部署
  • 五、fastgpt模型本地部署
    • 1、下载配置文件
    • 2、文件配置--docker-compose配置和config配置
    • 3、fastgpt启动
    • 4、事务配置
  • 六、问题
    • 问题1

一、Docker部署

在 CentOS 上,如果您想让普通用户安装和使用 Docker,您需要执行以下步骤。请注意,这需要管理员权限(通常需要 sudo 或 root 访问权限)才能完成一些步骤。

1、docker安装

# 安装 Docker
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker
# 安装 docker-compose
curl -L "https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose
# 验证安装
docker -v
docker-compose -v
# 如失效,自行百度~

2、docker启动

一旦安装完成,您可以启动 Docker 服务并设置它在系统启动时自动启动:

sudo systemctl start docker 
sudo systemctl enable docker

3、添加用户到 docker 组:

为了允许普通用户运行 Docker 命令,您需要将用户添加到 docker 用户组。假设您的普通用户名是 yourusername:

sudo usermod -aG docker yourusername

请注意,用户必须注销并重新登录才能在不使用 sudo 的情况下运行 Docker 命令。

4、验证 Docker 安装:

您可以使用以下命令验证 Docker 是否正确安装:

docker --version
docker-compose -v

二、one_api 本地部署

oneapi中的通用key,如果配置的是本地chatglm或者m3e向量模型,填以下key即可
sk-aaabbbcccdddeeefffggghhhiiijjjkkk

1、linux系统部署

# 使用 SQLite 的部署命令(不用安装mysql):
docker run --name one-api -d --restart always  -p 4000:4000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api
# 使用 MySQL 的部署命令,在上面的基础上添加 `-e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi"`,请自行修改数据库连接参数,不清楚如何修改请参见下面环境变量一节。
# 例如:
docker run --name one-api -d --restart always 

相关文章:

  • Spring boot 集成netty实现websocket通信
  • Android 二维码相关(一)
  • 微信小程序修改placeholder样式
  • Java必须掌握的B树知识点(含面试大厂题含源码)
  • PyTorch搭建LeNet训练集详细实现
  • C语言:内存函数
  • 向ChatGPT高效提问模板
  • DAY by DAY 史上最全的Linux常用命令汇总----命令格式
  • 微信小程序返回上一页刷新组件数据
  • NVMFS5A160PLZT1G汽车级功率MOSFET P沟道60 V 15A 满足AEC-Q101标准
  • 【Logback】Logback 中的 Appenders
  • C#使用Stack<T>类进行堆栈设计
  • Mybatis Plus + Spring 分包配置 ClickHouse 和 Mysql 双数据源
  • 【零基础学习04】嵌入式linux驱动中信号量功能基本实现
  • 网工内推 | 国企、上市公司网工、运维,CCNA即可,补贴福利多
  • 「译」Node.js Streams 基础
  • 【162天】黑马程序员27天视频学习笔记【Day02-上】
  • 【mysql】环境安装、服务启动、密码设置
  • ES学习笔记(10)--ES6中的函数和数组补漏
  • JavaScript 是如何工作的:WebRTC 和对等网络的机制!
  • js
  • LeetCode541. Reverse String II -- 按步长反转字符串
  • node学习系列之简单文件上传
  • RedisSerializer之JdkSerializationRedisSerializer分析
  • 手机端车牌号码键盘的vue组件
  • 思否第一天
  • 你对linux中grep命令知道多少?
  • ​软考-高级-信息系统项目管理师教程 第四版【第19章-配置与变更管理-思维导图】​
  • # 学号 2017-2018-20172309 《程序设计与数据结构》实验三报告
  • ###C语言程序设计-----C语言学习(3)#
  • #HarmonyOS:基础语法
  • #ifdef 的技巧用法
  • #我与Java虚拟机的故事#连载09:面试大厂逃不过的JVM
  • (007)XHTML文档之标题——h1~h6
  • (C++17) std算法之执行策略 execution
  • (十一)手动添加用户和文件的特殊权限
  • (转)Sublime Text3配置Lua运行环境
  • (转)人的集合论——移山之道
  • .NET Core 版本不支持的问题
  • .NET Core 成都线下面基会拉开序幕
  • .Net IE10 _doPostBack 未定义
  • .net 后台导出excel ,word
  • .Net多线程总结
  • .net访问oracle数据库性能问题
  • .NET基础篇——反射的奥妙
  • .one4-V-XXXXXXXX勒索病毒数据怎么处理|数据解密恢复
  • ??myeclipse+tomcat
  • @ 代码随想录算法训练营第8周(C语言)|Day53(动态规划)
  • [ solr入门 ] - 利用solrJ进行检索
  • [20140403]查询是否产生日志
  • [ActionScript][AS3]小小笔记
  • [android] 练习PopupWindow实现对话框
  • [BZOJ 4129]Haruna’s Breakfast(树上带修改莫队)
  • [Bzoj4722]由乃(线段树好题)(倍增处理模数小快速幂)
  • [CERC2017]Cumulative Code