人工智能编排框架，用于构建可定制的、生产就绪的LLM应用。将组件(模型、矢量数据库、文件转换器)连接到可以与您的数据交互的管道或代理。凭借先进的检索方法，它最适合构建RAG、问答、语义搜索或对话代理聊天机器人。一个端到端的LLM框架，允许您构建由LLM、Transformer模型、vector search等支持的应用程序。无论您想要执行检索增强生成(RAG)、文档搜索、问题回答还是答案生成，Ha / 2025-03-21 20:14:34 / 查看 329 次

Mastra : 专为 TS 开发者设计的 AI 应用开发框架技术亮点现代技术栈：基于 Next.js/Vercel 生态，天然适配前后端一体化开发生产就绪：工作流支持持久化状态，适合需要中断/恢复的长任务模块化设计：可单独使用 RAG 或 Agents，也能组合成复杂系统透明可观测：每个 AI 决策步骤都可追溯，符合企业合规需求适用场景· 快速搭建智能客服、文档助手等 AI 应用· 现有系统添加 / 2025-03-26 02:00:15 / 查看 276 次

## LangManus：智能 AI 自动化框架，助力高效任务执行- https://github.com/langmanus/langmanus- https://github.com/langmanus/langmanus-webLangManus 是一款开源 AI 自动化框架，结合大语言模型与智能工具，支持网页搜索、数据爬取、代码执行等多种任务。它专注于多智能体协作，让 AI 更具自主性，实 / 2025-03-21 19:57:12 / 查看 262 次

##Vectrix Graphs 是一个强大的图形化框架，为AI应用开发提供流式处理、本地推理和API集成功能，支持实时交互和高效工作流。核心功能1. 多种推理方式 • 本地推理：使用开源LLMs进行本地处理。 • API推理：集成Claude 3.5和OpenAI模型，实现高级AI能力。 • 流式响应：支持动态实时交互，提供流畅的用户体验。2. 基于图的架构 • 可视化表示：通过Mermaid生 / 2025-03-21 18:50:42 / 查看 223 次

## dynamo一个数据中心规模的分布式推理服务框架NVIDIA Dynamo是一个高吞吐量、低延迟的推理框架，旨在为多节点分布式环境中的生成式人工智能和推理模型提供服务。Dynamo被设计为与推理引擎无关(支持TRT-LLM、vLLM、SGLang或其他语言),并捕获LLM特定的功能，例如:分解预填充和解码推理–最大化GPU吞吐量，并促进吞吐量和延迟之间的平衡。动态GPU调度–根据波动的需求优 / 2025-03-21 19:44:44 / 查看 201 次

## atomic-agents```cd atomic-agentsconda create -n atomic-agents python=3.12 -yconda activate atomic-agentscd /data/site/htmltoo.labs/atomic-agentspoetry installpip install -r requirements.txtpip in / 2025-03-21 19:04:31 / 查看 154 次

Eko(发音像“echo”)是一个生产就绪的JavaScript框架，它使开发人员能够创建可靠的代理，从简单命令到复杂工作流程。它为在两者中运行代理提供了统一的界面计算机和浏览器环境. / 2025-03-21 20:12:45 / 查看 141 次

Mahilo 是一个灵活的多智能体（Multi-Agent）框架，可创建多个相互协作的智能体，每个智能体既能独立与人交互，又能在内部共享相关上下文信息。核心特点： • 多智能体协作：允许多个智能体互相沟通、共享信息，并根据对话上下文自主决定是否联系其他智能体。 • 实时交互：支持 WebSocket API，可进行多用户同时在线语音和文本交互。 • 灵活的通讯模式：支持点对点（P2P）和集中式（层 / 2025-03-21 18:28:06 / 查看 126 次

- https://github.com/microsoft/autogenAutoGen 提供了一个强大而全面的框架，用于构建复杂的、可定制的多智能体 AI 应用。其分层架构、丰富的 API 和开发者工具，使得无论是快速原型验证还是构建生产级应用都变得高效便捷。AutoGen Studio: 提供无需代码的图形用户界面 (GUI)，简化多智能体应用的构建过程。AutoGen Bench: 用于评 / 2025-03-21 18:10:34 / 查看 116 次

一个开源的低代码 RAG 框架：Cognita。基于 LangChain/LlamaIndex 构建，简单易用，提供数据上传、模型管理、联网和提示词模板等功能。同时无需编写代码，即可轻松构建、调试和发布 RAG 应用。可 Docker 快速部署，支持主流模型或通过 Ollama 使用本地模型。Langchain/LlamaIndex提供了易于使用的抽象，可用于在jupyter笔记本上进行快速实验 / 2025-03-26 00:32:25 / 查看 1 次