- https://github.com/lm-sys/FastChat- https://github.com/ModelTC/lightllmFastChat是一个开放平台，用于培训、服务和评估基于大型语言模型的聊天机器人。pip3 install -U "fschat[model_worker,webui]"python3 -m fastchat.serve.model_worker --m / 2025-03-21 18:19:45 / 查看 599 次

Mahilo 是一个灵活的多智能体（Multi-Agent）框架，可创建多个相互协作的智能体，每个智能体既能独立与人交互，又能在内部共享相关上下文信息。核心特点： • 多智能体协作：允许多个智能体互相沟通、共享信息，并根据对话上下文自主决定是否联系其他智能体。 • 实时交互：支持 WebSocket API，可进行多用户同时在线语音和文本交互。 • 灵活的通讯模式：支持点对点（P2P）和集中式（层 / 2025-03-21 18:28:06 / 查看 261 次

🚀 无缝运行有状态函数与 AI 工作流，支持无服务器、服务器端及边缘计算🌟 什么是 Inngest？Inngest 是一个强大的工作流编排平台，提供 可靠、可扩展的有状态（Stateful）函数执行，让开发者无需关注基础设施，即可构建 持久化、可恢复的工作流。💡 核心能力：✅ 取代队列、状态管理与任务调度，让开发者专注于业务逻辑✅ 支持多种编程语言（TypeScript、Python、Go、Jav / 2025-03-21 19:20:03 / 查看 201 次

## dynamo一个数据中心规模的分布式推理服务框架NVIDIA Dynamo是一个高吞吐量、低延迟的推理框架，旨在为多节点分布式环境中的生成式人工智能和推理模型提供服务。Dynamo被设计为与推理引擎无关(支持TRT-LLM、vLLM、SGLang或其他语言),并捕获LLM特定的功能，例如:分解预填充和解码推理–最大化GPU吞吐量，并促进吞吐量和延迟之间的平衡。动态GPU调度–根据波动的需求优 / 2025-03-21 19:44:44 / 查看 201 次

TTSFM：兼容 OpenAI TTS 的文本转语音 API 服务器❓ 什么是 TTSFM？TTSFM 是一个反向工程的 API 服务器，它模拟 OpenAI 的 TTS（文本转语音）服务，并提供兼容接口，支持多种语音选项。开发者可以使用 TTSFM 轻松实现文本转语音功能，无需依赖官方 API。OpenAI TTS 文档🚀 TTSFM 的核心特点✅ 兼容 OpenAI TTS：API 设计与 O / 2025-03-28 09:07:11 / 查看 339 次

ollama-deep-researcher——基于ollama的本地的网络研究助手ollama-deep-researcher是一个基于ollama的本地网络研究助手，使用任何由ollama托管的LLM。它可以为用户提供一个Markdown总结，包含所有使用的来源。1. 下载ollama 首先，需要从ollama拉取一个本地LLM。2. 克隆代码库 然后，将代码库克隆到本地。3. 启 / 2025-03-29 03:32:00 / 查看 2091 次

最大的 MCP 服务器集合，包括优秀的 MCP 服务器和 Claude MCP 集成。 / 2025-04-07 12:58:21 / 查看 560 次

在当今数字化时代，API（应用程序接口）是连接不同软件和服务的桥梁，对于开发者来说，找到可靠、高效的API资源是项目成功的关键。然而，面对海量的API选项，开发者往往需要花费大量时间进行调研和筛选。今天，我们要介绍的public-apis项目，正是为了解决这一痛点而生。这个GitHub上拥有331K Star的开源项目，堪称API开发领域的“瑞士军刀”，一站式满足所有API开发需求。public- / 2025-04-07 13:13:24 / 查看 550 次

FastAPI-MCP，将FastAPI应用轻松转型为MCP服务器FastAPI-MCP，极简配置工具快速实现FastAPI接口与MCP工具的无缝对接例如，只需简单指令"发送提醒邮件给用户ID 12345"Claude即可直接调用邮件发送API无需编写代码，无需手动操作简单几行代码，即可完成配置AI自动发现并调用所有API亦可限制AI访问特定功能提升开发效率，享受智能生活 / 2025-04-19 07:03:34 / 查看 339 次