当前位置: 首页 > news >正文

Chainlit接入DifyAI知识库接口快速实现自定义用户聊天界面

前言

由于dify只提供了一个分享用的网页应用,网页访问地址没法自定义,虽然可以接入NextWeb/ChatGPT web/open webui等开源应用。但是如果我们想直接给客户应用,还需要客户去设置配置,里面还有很多我们不想展示给客户的东西怎么办?于是,我使用Chainlit实现了一个无缝快速接入dify实现自定义用户使用界面的应用,代码清晰简单。还可以自定义logo、欢迎语、网站图标、语言输入、语音设别、文件上传等。

快速开始

获取dify的base_url和api_key

Dify官网地址 https://dify.ai/zh

登录Dify后台,在工作室里,选择一个你创建的应用,点击进入。
在这里插入图片描述
点击访问 API,点击API 密匙,创建一个,访问APIKEY. 复制服务器地址,后面需要配置到Chainlit的环境变量中
在这里插入图片描述
复制API密匙,后面需要配置到Chainlit的环境变量中
在这里插入图片描述

chainlit网页搭建

创建一个文件,例如“chainlit_chat”

mkdir chainlit_chat

进入 chainlit_chat文件夹下,执行命令创建python 虚拟环境空间(需要提前安装好python sdkChainlit 需要python>=3.8。,具体操作,由于文章长度问题就不在叙述,自行百度),命令如下:

python -m venv .venv
  • 这一步是避免python第三方库冲突,省事版可以跳过
  • .venv是创建的虚拟空间文件夹可以自定义

接下来激活你创建虚拟空间,命令如下:

#linux or mac
source .venv/bin/activate
#windows
.venv\Scripts\activate

在项目根目录下创建requirements.txt,内容如下:

chainlit~=1.1.306

在项目根目录下创建app.py文件,代码如下:

import osimport aiohttp
import chainlit as cl
import jsonimport requestsdify_base_url = os.environ["DIFY_BASE_URL"]
dify_api_key = os.environ["DIFY_API_KEY"]@cl.on_chat_start
def start_chat():cl.user_session.set("message_history", [])@cl.on_message
async def main(message: cl.Message):message_history = cl.user_session.get("message_history")message_history = message_history[-8:]message_history.append({"role": "user", "content": message.content, "content_type": "text"})msg = cl.Message(content="")url = f"{dify_base_url}/chat-messages"headers = {"Authorization": f"Bearer {dify_api_key}","Content-Type": "application/json"}print(headers)data = {"inputs": {},"query": message.content,"user": "tarzan","conversation_id": "","response_mode": "streaming","files": []}async for delta in fetch_sse(url, headers=headers, data=json.dumps(data)):task_id = delta.get("task_id", '')cl.user_session.set("task_id",task_id)await msg.stream_token(delta.get("answer", ''))await msg.send()# message_history.append({"role": "assistant", "type": "answer", "content": msg.content, "content_type": "text"})@cl.on_stop
def on_stop():print("The user wants to stop the task!")task_id = cl.user_session.get("task_id")print('task_id-------', task_id)if task_id:url = f"{dify_base_url}/chat-messages/{task_id}/stop"print('url', url)headers = {"Authorization": f"Bearer {dify_api_key}","Content-Type": "application/json"}print(headers)data = {"user": "tarzan"}with requests.post(url,headers=headers,data=data,) as resp:print('resp',resp.content)async def fetch_sse(url, headers, data):async with aiohttp.ClientSession() as session:async with session.post(url, headers=headers, data=data) as response:async for line in response.content:if line:  # 过滤掉空行data = line.decode('utf-8').rstrip('\n\r')print(f"Received: {line}")# 检查是否为事件类型行if data.startswith('data:'):data = data.split(':', 1)[1].strip()  # 提取数据内容# 如果数据包含换行符,可能需要进一步处理(这取决于你的具体需求)# 这里我们简单地打印出来# print(f"Received data for event 'conversation.message.delta': {data}")yield json.loads(data)

在项目根目录下创建.env环境变量,配置如下:

DIFY_BASE_URL="https://api.dify.ai/v1"
DIFY_API_KEY="app-key"
  • 如何是私有化部署,DIFY_BASE_URL替换成你私有化服务器的地址
  • DIFY_API_KEY 替换成你自己的API 密匙

执行以下命令安装依赖:

pip install -r .\requirements.txt
  • 安装后,项目根目录下会多出.chainlit.files文件夹和chainlit.md文件

运行应用程序

要启动 Chainlit 应用程序,请打开终端并导航到包含的目录app.py。然后运行以下命令:

 chainlit run app.py -w   
  • -w标志告知 Chainlit 启用自动重新加载,因此您无需在每次更改应用程序时重新启动服务器。您的聊天机器人 UI 现在应该可以通过http://localhost:8000访问。
  • 自定义端口可以追加--port 80

启动后界面如下:
在这里插入图片描述

  • chainlit 可以实现聊天的界面的完全自定义
  • chainlit 可以整理整合开源语音识别、语音播放、文件上传管理等功能
  • 本代码只整合了dify api的对话接口,后续可以接入文件图片上传的接口、历史会话记录等。

相关文章推荐

《Chainlit快速实现AI对话应用的界面定制化教程》
《Chainlit接入FastGpt接口快速实现自定义用户聊天界面》
《使用 Xinference 部署本地模型》
《Fastgpt接入Whisper本地模型实现语音输入》
《Fastgpt部署和接入使用重排模型bge-reranker》
《Fastgpt部署接入 M3E和chatglm2-m3e文本向量模型》
《Fastgpt 无法启动或启动后无法正常使用的讨论(启动失败、用户未注册等问题这里)》
《vllm推理服务兼容openai服务API》
《vLLM模型推理引擎参数大全》
《解决vllm推理框架内在开启多显卡时报错问题》
《Ollama 在本地快速部署大型语言模型,可进行定制并创建属于您自己的模型》

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • AI自动生成PPT怎么用?5大AI生成PPT技巧教会你
  • 基本数据类型 --- 浮点型
  • 面试中被问到各个测试阶段的具体工作,如何详细描述
  • 代码随想录训练营day42|动态规划part9
  • [C语言]-基础知识点梳理-文件管理
  • 软考高级科目怎么选?
  • 芯片后端之 PT 使用 report_timing 产生报告 之 -nets 选项
  • File的常见成员方法(创建,删除)
  • 【C++ Primer Plus习题】2.2
  • xss靶场 pwnfunction WW3
  • EMC学习之接地与平面
  • 表格解析调研
  • 【Python】函数进阶(下)
  • 写给大数据开发:在Databricks中自定义函数
  • 前端开发攻略---在Vue3项目中修改Element-Plus主题色
  • [LeetCode] Wiggle Sort
  • 【css3】浏览器内核及其兼容性
  • Angular 响应式表单之下拉框
  • CAP理论的例子讲解
  • Django 博客开发教程 16 - 统计文章阅读量
  • Java 23种设计模式 之单例模式 7种实现方式
  • mongo索引构建
  • PHP CLI应用的调试原理
  • react 代码优化(一) ——事件处理
  • SegmentFault 2015 Top Rank
  • storm drpc实例
  • 给Prometheus造假数据的方法
  • 极限编程 (Extreme Programming) - 发布计划 (Release Planning)
  • 聊聊redis的数据结构的应用
  • 小程序 setData 学问多
  • 与 ConTeXt MkIV 官方文档的接驳
  • linux 淘宝开源监控工具tsar
  • 直播平台建设千万不要忘记流媒体服务器的存在 ...
  • # Python csv、xlsx、json、二进制(MP3) 文件读写基本使用
  • #我与Java虚拟机的故事#连载09:面试大厂逃不过的JVM
  • #我与虚拟机的故事#连载20:周志明虚拟机第 3 版:到底值不值得买?
  • (02)Cartographer源码无死角解析-(03) 新数据运行与地图保存、加载地图启动仅定位模式
  • (2)从源码角度聊聊Jetpack Navigator的工作流程
  • (6)STL算法之转换
  • (附源码)spring boot公选课在线选课系统 毕业设计 142011
  • (附源码)springboot 房产中介系统 毕业设计 312341
  • (规划)24届春招和25届暑假实习路线准备规划
  • (黑马出品_高级篇_01)SpringCloud+RabbitMQ+Docker+Redis+搜索+分布式
  • (回溯) LeetCode 77. 组合
  • (转)可以带来幸福的一本书
  • .NET Core使用NPOI导出复杂,美观的Excel详解
  • .NET 读取 JSON格式的数据
  • .NET 同步与异步 之 原子操作和自旋锁(Interlocked、SpinLock)(九)
  • .NET处理HTTP请求
  • .net连接oracle数据库
  • .Net中wcf服务生成及调用
  • @Bean, @Component, @Configuration简析
  • @RestController注解的使用
  • [ 渗透工具篇 ] 一篇文章让你掌握神奇的shuize -- 信息收集自动化工具
  • [ 物联网 ]拟合模型解决传感器数据获取中数据与实际值的误差的补偿方法