AI实施赋能-设计思路
本文档详细描述了搭建公司级AI知识库与智能咨询系统的设计思路,包括场景分析、技术选型、成本预估等,适用于AI agent与知识库构建的实践参考。
设计思路promot
设计流程思维导图
newsee知识库架构
https://cdn.nlark.com/yuque/__mermaid_v3/4963bbacc93f45ba8d164dd68345cbe1.svg
应用层设计
https://cdn.nlark.com/yuque/__mermaid_v3/f7e03690765a85f089c4c8873230ee92.svg
成本预估
…
请你帮我解决我目前的困惑,帮我补充完善的设计思路和方案、可行性、大纲、相关AI模型成本报价(私有部署或者商业API版本token使用成本,无需关注人力成本)
### 任务目标
我现在有一项任务:
主要是为了输出一套AI场景的设计方案和思路:
应用场景的设计、技术可行性分析、AI工具调研选型、开发成本与计划
### 场景
面相的具体场景是:
1.搭建公司级别的咨询问题知识库
2.咨询单的智能回复(基于jira提单和钉钉回复)
3.钉钉智能咨询机器人
### 困惑和设想
我现在是一头雾水,想法和思路很多,但是比较凌乱,不知道该如何整理我的方案和思路。
- 我给你讲一讲:我觉的核心问题还是在于搭建公司级别的知识库,只有有了知识库才可以面向咨询单做RAG检索、然后再配合llm大模型进行智能化的回复,然后钉钉的智能咨询机器人感觉有了开放接口,自然也就水到渠成了。
- 公司目前的知识库是采用本地部署的开源版本的 wiki confluence、项目管理提单工具是 本地化部署的开源版本的jira
系统
我目前的思路是:
思路一:直接连接公司的confluence的数据库,通过接口的形式进行调用,查询已经存在的公司级别的文档结构。然后定时或者批量的调用利用dify平台的开放知识库构建api参数,配合embeding模型进行向量化分片构建知识库、最终采用混合检索的模式权重+rerank 的形式构建AI agent作为通用的知识机器人。然后再去对接到钉钉平台
思路二:通过爬虫工具、直接递归深层次的爬取公司的confluence的页面结构数据,然后和方案一的后续做法一些,将数据对接给公司私有化部署的dify平台的知识库 (采用的爬虫工具暂定为:Firecrawl、Spider 选型)
这里我有一些问题,公司知识库人为的在维护的、一般都是在实时更新的,我如何解决定时增量构建知识库的问题?我不能每次都全量构建吧。
然后就是模型工具选型:
1. 直接使用商业平台的开放embeding模型api进行构建,类似与通义千问gte的embeding和rerank模型api、智谱平台的等等。尽量以国内平台优先,国外的不太好结算,而且中文模型应该是国内较好一些,如果有其他更好的选择,也可以向我推荐
2. 本地化部署embeding和rerank模型,部署后开放出来的标准的API进行重复上述的dify平台的对接(暂定:gte-Qwen2-1.5B-instruct、gte-multilingual-reranker-base),如果你有其他更好的思路,可以给我更好的意见
### 不确定因素
下面的是暂时还没有思路的,有一些想法不知道是否可行
咨询单的智能回复:场景就是我司的实施人员进行提单的时候,会手动创建jira运维单,给到指定的经办人。此时我的想法是 看看jira系统是否存在运维单的创建的钩子函数或者其他之类的方案,然后根据提出的jira问题,包含了标题、提单内容信息,对接到刚刚已经建立好的RAG检索知识库平台。通过llm大语言模型再次整理问题,通过企业钉钉进行提单人的信息识别,然后进行消息推送。
钉钉智能机器人:建立公司级别的智能咨询机器人,通过刚刚搭建好的知识库检索接口进行触发,这个思路我觉的是可以的。
### 开发成本与计划
这个需要你帮我详细的整理出来,我的思路、或者你有更好的建议构想。把全流程的成本也需要整理出来