ollama-deep-researcher——基于ollama的本地的网络研究助手ollama-deep-researcher是一个基于ollama的本地网络研究助手，使用任何由ollama托管的LLM。它可以为用户提供一个Markdown总结，包含所有使用的来源。1. 下载ollama 首先，需要从ollama拉取一个本地LLM。2. 克隆代码库 然后，将代码库克隆到本地。3. 启 / 2025-03-29 03:32:00 / 查看 1885 次

TTSFM：兼容 OpenAI TTS 的文本转语音 API 服务器❓ 什么是 TTSFM？TTSFM 是一个反向工程的 API 服务器，它模拟 OpenAI 的 TTS（文本转语音）服务，并提供兼容接口，支持多种语音选项。开发者可以使用 TTSFM 轻松实现文本转语音功能，无需依赖官方 API。OpenAI TTS 文档🚀 TTSFM 的核心特点✅ 兼容 OpenAI TTS：API 设计与 O / 2025-03-28 09:07:11 / 查看 123 次

## dynamo一个数据中心规模的分布式推理服务框架NVIDIA Dynamo是一个高吞吐量、低延迟的推理框架，旨在为多节点分布式环境中的生成式人工智能和推理模型提供服务。Dynamo被设计为与推理引擎无关(支持TRT-LLM、vLLM、SGLang或其他语言),并捕获LLM特定的功能，例如:分解预填充和解码推理–最大化GPU吞吐量，并促进吞吐量和延迟之间的平衡。动态GPU调度–根据波动的需求优 / 2025-03-21 19:44:44 / 查看 201 次

🚀 无缝运行有状态函数与 AI 工作流，支持无服务器、服务器端及边缘计算🌟 什么是 Inngest？Inngest 是一个强大的工作流编排平台，提供 可靠、可扩展的有状态（Stateful）函数执行，让开发者无需关注基础设施，即可构建 持久化、可恢复的工作流。💡 核心能力：✅ 取代队列、状态管理与任务调度，让开发者专注于业务逻辑✅ 支持多种编程语言（TypeScript、Python、Go、Jav / 2025-03-21 19:20:03 / 查看 201 次

Mahilo 是一个灵活的多智能体（Multi-Agent）框架，可创建多个相互协作的智能体，每个智能体既能独立与人交互，又能在内部共享相关上下文信息。核心特点： • 多智能体协作：允许多个智能体互相沟通、共享信息，并根据对话上下文自主决定是否联系其他智能体。 • 实时交互：支持 WebSocket API，可进行多用户同时在线语音和文本交互。 • 灵活的通讯模式：支持点对点（P2P）和集中式（层 / 2025-03-21 18:28:06 / 查看 126 次

- https://github.com/lm-sys/FastChat- https://github.com/ModelTC/lightllmFastChat是一个开放平台，用于培训、服务和评估基于大型语言模型的聊天机器人。pip3 install -U "fschat[model_worker,webui]"python3 -m fastchat.serve.model_worker --m / 2025-03-21 18:19:45 / 查看 344 次