FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

FastGPT 特点

  • 项目开源:FastGPT 遵循附加条件 Apache License 2.0 开源协议,你可以 Fork 之后进行二次开发和发布。FastGPT 社区版将保留核心功能,商业版仅在社区版基础上使用 API 的形式进行扩展,不影响学习使用。
  • 独特的 QA 结构:针对客服问答场景设计的 QA 结构,提高在大量数据场景中的问答准确性。
  • 可视化工作流:通过 Flow 模块展示了从问题输入到模型输出的完整流程,便于调试和设计复杂流程。
  • 无限扩展:基于 API 进行扩展,无需修改 FastGPT 源码,也可快速接入现有的程序中。
  • 便于调试:提供搜索测试、引用修改、完整对话预览等多种调试途径。
  • 支持多种模型:支持 GPT、Claude、文心一言等多种 LLM 模型,未来也将支持自定义的向量模型。

FastGPT 能力

  1. 专属 AI 客服
    通过导入文档或已有问答对进行训练,让 AI 模型能根据你的文档以交互式对话方式回答问题。
    22190342-2024-06-22T11:04:11.png
  2. 简单易用的可视化界面
    FastGPT 采用直观的可视化界面设计,为各种应用场景提供了丰富实用的功能。通过简洁易懂的操作步骤,可以轻松完成 AI 客服的创建和训练流程。
    22190351-2024-06-22T11:04:20.png
  3. 自动数据预处理
    提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径,其中“直接分段”支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割,节省手动训练时间,提升效能。
    22190401-2024-06-22T11:04:30.png
  4. 工作流编排
    基于 Flow 模块的工作流编排,可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等。
    22190407-2024-06-22T11:04:36.png
  5. 强大的 API 集成
    FastGPT 对外的 API 接口对齐了 OpenAI 官方接口,可以直接接入现有的 GPT 应用,也可以轻松集成到企业微信、公众号、飞书等平台。
    22190415-2024-06-22T11:04:44.png

代码:https://github.com/labring/FastGPT