读后感-帆软ChatBI历程

ChatBI 核心思想总结

这篇文章的核心思想是：ChatBI 不是简单地将 LLM 应用于数据查询，而是一个复杂的企业级应用，需要周密的规划、准备和运营才能成功落地并创造价值。盲目迷信 LLM 或缺乏配套工作会导致项目失败。

一、LLM 在 SQL 生成方面的局限性

LLM 并非万能，尤其在 SQL 生成方面存在以下主要问题：

• 精度： LLM 生成的 SQL 容易出错（幻觉），例如时间理解错误、排序错误、子查询错误、表关联错误等，难以达到业务用户所需的 75%-80% 精度。 + 性能： LLM 生成 SQL 速度较慢，难以满足用户对快速响应（3 秒以内）的需求。 + 可信性： 用户难以理解和调试 LLM 生成的复杂 SQL，导致问题排查和修复困难。

FineChatBI 的解决方案： 使用 LLM 进行语义解析，将用户问题转换为清晰的查询语言，然后调用成熟的 BI 底座（FineBI）以模拟人工拖拉拽的方式生成图表，提高精度、性能和可信性。

二、ChatBI 落地所需准备

ChatBI 落地需要充分的准备和组织驱动力，包括：

• 真场景： 找到业务的真实痛点和需求，避免为了使用 ChatBI 而强行应用。根据用户数、使用频率和场景选择合适的用户群体。 + 底层准备：

• 数据侧： 保证数据质量，避免字段歧义、数据冗余和类型错误。建议使用宽表或指标管理平台。
• 知识侧： 进行知识配置，包括同义词和企业特有知识的映射，而不是简单地使用语料库。FineChatBI 通过算法匹配相似语义和字段，减少配置工作。

• 组织驱动力： 明确角色分工和协作：

• 产品经理： 负责项目规划、需求收集、推广和运营，循序渐进地推广项目。
• 领导： 负责决策、资源保障和目标设定。
• IT： 负责数据准备、底层设计和配置。
• 业务代表和 ITBP： 分别提供业务需求和协助 IT 进行配置和维护。

三、正式上线 ChatBI 的关注点

正式上线 ChatBI 需要关注以下方面：

• 安全性： 企业级权限控制和 LLM 本地化部署能力。 + 算力成本： 选择合适的 LLM 尺寸，FineChatBI 使用小尺寸开源 LLM 精调以降低成本。 + 持续运营： 需要专门的资源进行运营优化，并建立相应的方法论和产品功能支持。

四、对 LLM 的正确认识

• 本质： ChatBI 首先是企业级应用，其次才是 AI。LLM 只是 AI 的一部分。 + 应用： 应根据实际需求和成本效益选择合适的实现方法，并非所有功能都必须由 LLM 完成。 + 目标： 商业化 ChatBI 的目标是解决实际问题，而不是炫技。

总结： 成功的 ChatBI 项目需要结合实际业务场景，做好充分准备，建立有效的组织驱动力，并正确认识 LLM 的能力。盲目追求技术会导致失败。FineChatBI 强调以用户需求为中心，通过技术解决实际问题，最终实现“帮助 100% 业务用户用好数据”的目标。