张梦飞：【知识库】FastGPT+OneAPI+COW带有知识库的机器人完整教程

张梦飞：【知识库】FastGPT+OneAPI+COW带有知识库的机器人完整教程 张梦飞：【知识库】FastGPT+OneAPI+COW带有知识库的机器人完整教程 Modified June 3, 2024 1、地址输入浏览器：http://这里替换为你宝塔左上角的那一串:3000/ 4、上传文件，等待处理，最后文本状态是“已就绪”就是OK了。 七、安装并接入cow 1、回到宝塔，打开【终端】 继续，一行一行依次粘贴，依次回车： cd /root 2、这个注意一定要粘贴完整，这里容易粘贴不全。 git clone https://github.com/zhayujie/chatgpt on wechat 3、出现下方的样子，就是成功了。如果失败，或者没反应，刷新一下，重新再试一次 4、继续一行一行，依次输入： cd chatgpt on wechat/ pip install r requirements.txt 5、等待执行完成，如上图后，继续粘贴： pip install r requirements optional.txt 6、上边的都执行完成后。 现在我们到“文件”菜单中去执行，点击文件 找到root ，进入root文件夹 ,找到chatgpt on wechat文件夹，并进入。 7、点击文件夹上方功能栏中的【终端】（注意，不是左侧一级菜单里的终端，是文件夹上方那一行的终端电脑） 8、粘贴进入 ，点击回车。点击后，关闭此弹窗。 cp config template.json config.json 9、刷新页面。在当前目录下，找到config.json文件。如下图： 10、双击这个文件，我画红框的地方是需要修改的地方。 因为这个地方对格式和符合要求比较严格，如果是小白，建议你直接复制我下方的配置。 11、 ◦ 删除上图文件里的所有代码。 ◦ 复制下边的代码，粘贴到文件里。 ◦ 粘贴后，找到第4、5行，把刚才FastGPT里拿到API和key，根据要求粘贴到双引号里。 ◦ 这也是你唯一需要修改的地方。修改完之后，点击保存，关闭文件。 Code block JSON { "channel type": "wx", "model": "GPT 4", "open ai api key": "这里填入刚才在FastGPT保存的API key", "open ai api base": "这里替换成API根地址/v1", "text to image": "dall e 2", "voice to text": "openai", "text to voice": "openai", "proxy": "", "hot reload": false, "single chat prefix": [""], "single chat reply prefix": "", "group chat prefix": ["@bot"], "group name white list": ["ALL GROUP"], "image create prefix": ["画"], "speech recognition": true, "group speech recognition": false, "voice reply voice": false, "conversation max tokens": 2500, "expires in seconds": 3600, "character desc": "你是ChatGPT, 一个由OpenAI训练的大型语言模型, 你旨在回答并解决人们的任何问题，并且可以使用多种语言与人交流。", "temperature": 0.7, "subscribe msg": "感谢您的关注！\n这里是AI智能助手，可以自由对话。\n支持语音对话。\n支持图片输入。\n支持图片输出，画字开头的消息将按要求创作图片。\n支持tool、角色扮演和文字冒险等丰富的插件。\n输入{trigger prefix} help 查看详细指令。", "use linkai": false, "linkai api key": "", "linkai app code": "" } 12、依然在当前文件，【终端】里进行，依次复制粘贴进入： cd plugins/godcmd cp config.json.template config.json 1、地址输入浏览器：http://这里替换为你宝塔左上角的那一串:3000/ 4、上传文件，等待处理，最后文本状态是“已就绪”就是OK了。 七、安装并接入cow 1、回到宝塔，打开【终端】 继续，一行一行依次粘贴，依次回车： cd /root 2、这个注意一定要粘贴完整，这里容易粘贴不全。 git clone https://github.com/zhayujie/chatgpt on wechat 3、出现下方的样子，就是成功了。如果失败，或者没反应，刷新一下，重新再试一次 4、继续一行一行，依次输入： cd chatgpt on wechat/ pip install r requirements.txt 5、等待执行完成，如上图后，继续粘贴： pip install r requirements optional.txt 6、上边的都执行完成后。 现在我们到“文件”菜单中去执行，点击文件 找到root ，进入root文件夹 ,找到chatgpt on wechat文件夹，并进入。 7、点击文件夹上方功能栏中的【终端】（注意，不是左侧一级菜单里的终端，是文件夹上方那一行的终端电脑） 8、粘贴进入 ，点击回车。点击后，关闭此弹窗。 cp config template.json config.json 9、刷新页面。在当前目录下，找到config.json文件。如下图： 10、双击这个文件，我画红框的地方是需要修改的地方。 因为这个地方对格式和符合要求比较严格，如果是小白，建议你直接复制我下方的配置。 11、 ◦ 删除上图文件里的所有代码。 ◦ 复制下边的代码，粘贴到文件里。 ◦ 粘贴后，找到第4、5行，把刚才FastGPT里拿到API和key，根据要求粘贴到双引号里。 ◦ 这也是你唯一需要修改的地方。修改完之后，点击保存，关闭文件。 4、上传文件，等待处理，最后文本状态是“已就绪”就是OK了。 七、安装并接入cow 七、安装并接入cow 1、回到宝塔，打开【终端】 继续，一行一行依次粘贴，依次回车： cd /root 2、这个注意一定要粘贴完整，这里容易粘贴不全。 git clone https://github.com/zhayujie/chatgpt on wechat 3、出现下方的样子，就是成功了。如果失败，或者没反应，刷新一下，重新再试一次 4、继续一行一行，依次输入： cd chatgpt on wechat/ pip install r requirements.txt 5、等待执行完成，如上图后，继续粘贴： pip install r requirements optional.txt 6、上边的都执行完成后。 现在我们到“文件”菜单中去执行，点击文件 找到root ，进入root文件夹 ,找到chatgpt on wechat文件夹，并进入。 7、点击文件夹上方功能栏中的【终端】（注意，不是左侧一级菜单里的终端，是文件夹上方那一行的终端电脑） 8、粘贴进入 ，点击回车。点击后，关闭此弹窗。 cp config template.json config.json 9、刷新页面。在当前目录下，找到config.json文件。如下图： 10、双击这个文件，我画红框的地方是需要修改的地方。 因为这个地方对格式和符合要求比较严格，如果是小白，建议你直接复制我下方的配置。 11、 ◦ 删除上图文件里的所有代码。 ◦ 复制下边的代码，粘贴到文件里。 ◦ 粘贴后，找到第4、5行，把刚才FastGPT里拿到API和key，根据要求粘贴到双引号里。 ◦ 这也是你唯一需要修改的地方。修改完之后，点击保存，关闭文件。 12、依然在当前文件，【终端】里进行，依次复制粘贴进入： cd plugins/godcmd cp config.json.template config.json 13、操作完成后，退出窗口，刷新一下。进入/root/chatgpt on wechat/plugins/godcmd， 下边是依次进入窗口的路径， 20、双击config.json，进入后，设置下你的password和admin users 可以设置为和我一样的，后边再改，点击保存后关闭。 14、重新回到/root/chatgpt on wechat/这个文件路径下，点击终端， 继续依次粘贴： touch nohup.out nohup python3 app.py & tail f nohup.out 15、使用微信扫码（建议使用小号）。完成 六、其他 1、因为没有新服务器再去截图了，使用了Din教程中的部分截图（已获得授权），在此说明和表示感谢。 2、最后： 有做一次直播教程讲解，视频号第一个视频是回放 配合着看应该会有帮助。自取 有做一次直播教程讲解，视频号第一个视频是回放 配合着看应该会有帮助。自取 有做一次直播教程讲解，视频号第一个视频是回放 配合着看应该会有帮助。自取 一、注册云服务器和获取模型key ①、先去通义千问大模型注册并登录 再进入灵积控制台 点击创建API key。复制保存即可。 通义千问大模型 灵积控制台 ② 腾讯云需要是新用户，点击去注册腾讯云：轻量应用服务器 轻量应用服务器 1、进入腾讯云，微信扫码注册， 2、首次注册 会进入这个页面，选择一个。 推荐第一个/第二个都可以 3、点击立即试用后，会出现下图。 地域随便选择，镜像选择下拉框最上边的 宝塔8.1.0。然后点击“立即试用” 4、进入腾讯云服务台了，点击“登录”。 5、这里直接登录即可，后续也可以微信扫码登录 6、登录后，就在当前页面，复制sudo /etc/init.d/bt default，粘贴进入图示位置，然后点击回车。 此处输出的内容，也要保存好。 7、返回服务器控制台。点击图中，箭头指示的空白区域。 8、选择“防火墙”菜单栏，点击【添加规则】按钮 9、点击新增。把图中大红框内的内容，一模一样手动输入。点击确定 图中少了FastGPT的端口。 除了图中的，需要再添加一个 3000 备注 FastGPT ， 1、刚才在这里保存的“外网面板地址”，点击打开。 2、输入账号密码，既上图中的 username、password 3、第一次进入会让你绑定一下，点击免费注册，注册完成后，返回此页，登录账号。 4、首次会有个推荐安装，只安装第一个即可。其他的取消勾选。 5、点击“终端”，会让你关联，点击关闭就好。 二、环境配置 • 下边将出现代码，复制的时候，注意复制全。 • 代码我已经分好步骤，每次只需要粘贴一行，然后点击一次回车。 • 回车后，只有最左边显示[ ]中括号时，才是上一个命令执行完毕了。 没有出现[ ]中括号对话前缀时，不要操作。 • 如果你发现 ctrl+v 粘贴不进去，试试 shift+ctrl+v 粘贴。 1、第一步：cd /root || exit 1 2、第二步：下方两行粘贴进入，然后点击回车，等待下载完成。 （如果这里有了卡点，进行不下去，可能是因为服务器网络问题，去拉取的时候下载不全，可以复制网址，手动去下载到电脑上。然后 进入文件夹，找到root文件夹，把下载的文件上传进去就好了。） 2.2、再粘贴下方代码，出现下图，就代表在执行中了。 3、然后把下边这行粘贴进去，点击回车。 rm f Anaconda3 2021.05 Linux x86 64.sh 4、继续粘贴： /root/anaconda/bin/conda create y name AI python=3.8 5、继续，一行一行依次粘贴，依次回车： echo 'source /root/anaconda/bin/activate AI' /.bashrc 6、执行完成后。刷新一下，重新进入终端，你会看到，最左侧出现了（AI）的字符。 如果出现了，那么恭喜你。配置完成 三、安装FastGPT、OneAPI 1、回到宝塔，选择Docker （如果如图显示，就跟着我安装。 如果没显示“当前未安装”，就不需要这一步） 2、选择，点击确定。比较慢，等待安装完成。 3、安装完成后，刷新当前页面。看到下图的样子，则表示安装成功。 4、打开左侧【终端】，粘贴以下两行，再验证下Docker是否可用。看见版本号，就是没问题了。 5、一条一条复制以下命令，依次粘贴进入 6、一条一条复制以下命令，依次粘贴进入 7、完成安装。 四、配置OneAPI 1、访问OneAPI。 访问地址：http://这里改成你自己宝塔左上角的地址:3001/ （举例：http://11.123.23.454:3001/） 账号 默认root，密码 123456 2、点击【渠道】 2、类型选择阿里通义千问，名称随意，类型不用删减。 3、把千问里创建的API Key粘贴到秘钥里中。点击确认 4、点击【令牌】 【添加新令牌】 6、名称随意，时间设为永不过期、额度设为无限额度。 点击【提交】 7、点击【令牌】，会看到自己设置的。 点击复制，出现key，然后在标红那一行中，自己手动复制下来。 6、名称随意，时间设为永不过期、额度设为无限额度。 点击【提交】 7、点击【令牌】，会看到自己设置的。 点击复制，出现key，然后在标红那一行中，自己手动复制下来。 8、OneAPI 完成。保存好这个KEY 五、配置FastGPT 1、回到宝塔系统中，点击【文件】菜单。 2、找到 root fastgpt文件夹。 3、找到2个文件docker compose.yml 和config.json，这是要修改的对象。 4、首先修改docker compose.yml 打开文件， 在第53行找到OPENAI BASE URL ，填入http://这里替换为你宝塔左上角的那一串:3001/v1 （举例：http://11.123.23.454:3001/v1） 默认：root 密码 1234 在第54行找到CHAT API KEY ，填入刚刚让你在OneAPI复制的sk开头的令牌 5、点击保存，关闭。 6、打开config.json ，Ctrl+A全选删除全部代码 7、把以下内容，粘贴进入。点击保存 8、保存文件后，在当前文件夹，点击顶部的“终端”按钮，执行启动命令docker compose up d 六、创建知识库应用 2、进入后，点击应用并创建，选择qwen模型 3、创建知识库。 点击知识库 选择 qwen Embedding 1 点击确认创建。 5、回到刚刚创建的应用，关联上创建的知识库。 6、点击两个发布。之前第一个叫做保存 7、点击新建，创建key。创建后保存 同时 将 API根地址最后加上/v1 也保存下来。