deepset-aihaystack：用于构建生产级LLM应用的开源AI编排框架

deepset-ai/haystack：用于构建生产级LLM应用的开源AI编排框架

deepset-ai 开源的 AI 编排框架 Haystack，累计获得 25,123 个 Star：

Haystack 是基于 Python 开发的开源 AI 编排框架，用于构建可投入生产环境的 LLM 应用。开发者可以设计模块化的流水线和代理工作流，对检索、路由、内存、生成环节实现明确控制。框架支持构建可扩展的 RAG 系统、多模态应用、语义搜索、问答系统和自主代理，整体架构透明，支持深度定制，可稳定部署。

Haystack 具有以下核心特性：

• 面向上下文工程设计，开发者可以灵活控制系统对信息的检索、排序、过滤、组合、结构化和路由流程。流水线和代理工作流中的检索、内存、工具、生成环节均透明可追溯。
• 模型和厂商无关，支持集成 OpenAI、Mistral、Anthropic、Cohere、Hugging Face、Azure OpenAI、AWS Bedrock、本地模型等多种来源。切换模型或基础设施组件无需重写系统代码。
• 模块化可定制，内置检索、索引、工具调用、内存、评估等组件，开发者也可以创建自定义组件。支持添加循环、分支和条件逻辑，精确控制上下文在流水线和代理工作流中的流转。
• 生态可扩展，开发者可以通过统一接口构建和分享自定义组件，支持第三方扩展，形成开放生态。

项目还提供 Hayhooks 工具，支持将 Haystack 流水线和代理封装为 REST API 或 MCP 服务器，对外暴露 HTTP 端点，兼容 OpenAI 聊天补全接口，可对接 open-webui 等聊天界面。

Haystack 提供企业级支持方案，包含专家技术支持、企业级模板、云环境和本地环境部署指南。企业版平台提供可观测性、协作、治理和访问控制功能，支持托管云服务或自托管部署。

安装 Haystack 可以直接通过 pip 命令执行：

pip install haystack-ai

如需体验最新功能，可以安装 nightly 预发布版本：

pip install --pre haystack-ai

框架还支持 Docker 镜像等多种安装方式，官方文档提供完整的安装指南。

入门使用可以参考官方的"什么是 Haystack"介绍和快速入门指南，开发者可以在数分钟内构建第一个 LLM 应用。官方文档还提供教程和示例代码库，覆盖多种使用场景。

目前 Haystack 被数千支团队用于构建各行业的生产级 AI 系统，使用企业包括 Apple、Meta、Databricks、NVIDIA、Intel、欧洲委员会、德国联邦研究技术与航天部、Airbus、汉莎工业解决方案、英飞凌、乐高、康卡斯特、埃森哲、Netflix、牛津大学出版社等。

开源地址：https://github.com/deepset-ai/haystack