• 时间:
  • 分类: AI应用
  • 标签: None
  • 阅读(776)
  • 👍推荐(0)
  • 评论(0)

这是一位开发者分享的工具清单，可以提供从开发到部署、从数据管理到应用监控的全方位支持，大幅度节约你的探索成本~

LLM 应用开发框架 (开源 )

  1. Langflow：无代码编排工具，用于拼接不同的模块。
    https://github.com/logspace-ai/langflow
  2. Deepset Haystack：基于Hugging Face Transformers的开源框架，用于查询和理解文本数据。
    https://haystack.deepset.ai
  3. LlamaIndex：数据框架，便于将大型语言模型连接到自定义数据源。
    https://www.llamaindex.ai
  4. LangChain：对于LLM应用开发入门者来说的必选工具。
    https://www.langchain.com
  5. Prompt flow：微软开源的一套开发工具，旨在简化基于LLM的应用开发。
    https://microsoft.github.io/promptflow

LLM 驱动的知识库和聊天机器人平台

  1. FastGPT：基于LLM大语言模型的知识库问答系统，提供开箱即用的功能。
    https://fastgpt.run
  2. Dify：集成第三方API插件能力的平台，提供数据准备、Prompt Engineering等功能。
    https://dify.ai/zh
  3. 毕昇：基于大语言模型的应用开发运维一体化平台。
    https://github.com/dataelement/bisheng

国外版商业化闭源产品

  1. Baseplate：为LLM应用优化的后端，简化数据管理和应用构建。
    https://www.baseplate.ai
  2. Stack AI：无代码工具，允许设计、测试和部署AI工作流程。
    https://www.stack-ai.com
  3. Relevance AI：服务企业级客户的平台，提供多模态交互的AI应用构建。
    https://relevanceai.com/blog

LLMOps 平台

  1. 星环科技：国内的LLMOps平台，提供提示管理和评估等功能。
    https://www.transwarp.cn/subproduct/sophon-llmops
  2. Humanloop：帮助开发者在大型语言模型上构建高性能应用程序。
    https://humanloop.com
  3. HoneyHive：监控和评估工具，提供版本控制和日志记录。
    https://honeyhive.ai

LLMOps 工具包

  1. traceloop：提高LLM应用可观察性的工具。
    https://www.traceloop.com
  2. Helicone：开源的可观测性平台，记录请求到OpenAI的日志。
    https://www.helicone.ai
  3. Portkey：提供模型管理和可观测性功能的工具。
    https://portkey.ai

提示词交流社区和交易平台

  1. PromptBase
    https://promptbase.com
  2. FlowGPT
    https://flowgpt.com
  3. PromptHero
    https://prompthero.com