## dynamo一个数据中心规模的分布式推理服务框架NVIDIA Dynamo是一个高吞吐量、低延迟的推理框架，旨在为多节点分布式环境中的生成式人工智能和推理模型提供服务。Dynamo被设计为与推理引擎无关(支持TRT-LLM、vLLM、SGLang或其他语言),并捕获LLM特定的功能，例如:分解预填充和解码推理–最大化GPU吞吐量，并促进吞吐量和延迟之间的平衡。动态GPU调度–根据波动的需求优 / 2025-03-21 19:44:44 / 查看 201 次

Axolotl-AI-Cloud/Axolotl 是一个开源的、基于云计算的 AI 平台，用于构建和部署人工智能模型。Axolotl 的目标是提供一个简单、灵活和可扩展的平台，用于开发和部署 AI 应用程序。Axolotl 的主要特点包括：云计算：Axolotl 基于云计算技术，提供了一个可扩展和灵活的平台，用于构建和部署 AI 模型。AI 框架：Axolotl 支持多种 AI 框架，包括 Ten / 2025-03-21 19:40:50 / 查看 478 次

LLaMA-Factory 是一个开源的语言模型工厂，用于创建和训练大规模语言模型。LLaMA-Factory 由 Meta AI 开发，旨在提供一个灵活、可扩展和高效的平台，用于构建和训练语言模型。LLaMA-Factory 的主要特点包括：大规模语言模型：LLaMA-Factory 支持创建和训练大规模语言模型，具有数十亿个参数。灵活性：LLaMA-Factory 提供了多种语言模型架构，包括 / 2025-03-21 19:38:38 / 查看 167 次

KTransformers 是一个开源的 Transformer 库，用于自然语言处理（NLP）任务。它是基于 PyTorch 框架开发的，提供了一个简单易用的 API，用于构建和训练 Transformer 模型。Transformer 是一种自注意力机制（Self-Attention Mechanism）的神经网络模型，最初由 Google 提出，用于机器翻译任务。它的主要特点是可以并行化处理 / 2025-03-21 19:36:02 / 查看 401 次

- https://github.com/thu-pacman/chitugit clone --recursive https://github.com/thu-pacman/chitu && cd chitupip install -r requirements-build.txtpip install -U torchTORCH_CUDA_ARCH_LIST=8.6 CHITU_SETUP_ / 2025-03-21 19:34:32 / 查看 1 次

- https://github.com/agno-agi/agno- https://docs.agno.com/## Agno：轻量级多模态智能体框架，打造极速 AI 代理在 AI 时代，智能体（Agents）正在改变人机交互方式。然而，传统的 AI 代理构建方式往往复杂、受限、性能低，难以满足现代应用的需求。Agno 作为一款轻量级、多模态、高性能的智能体开发框架，让你可以快速创建可扩展、跨 / 2025-03-21 19:11:15 / 查看 3250 次

PlayAI隆重推出其AI语音工具PlayNote，利用其革命性的PlayDialog技术，实现情感丰富的对话生成，让用户能够将任何文本轻松转换成自然、流畅的播客、旁白和故事内容。PlayNote工具的优势：• 支持将PDF、文本、视频等多种格式的媒体转换成对话形式• 快速制作播客、演讲、旁白以及儿童故事• 提供API接口，便于自动化内容生成• 能够在两种不同的声音间创建播客• 为长篇文 / 2025-03-21 19:00:36 / 查看 133 次

一个开源的实时AI图像生成器。由通过Together.ai的通量驱动。- https://loras.dev/技术堆栈通量发展来自BFL的形象模特在一起AI为了推论Next.js带顺风的app路由器可观测性螺旋锥对网站分析来说似乎合理 / 2025-03-21 18:46:11 / 查看 266 次

QuantaLogic 是一个基于 ReAct（Reasoning & Action） 的框架，专为构建高级 AI 代理而设计。它将 大语言模型（LLM） 与 强大的工具系统 无缝集成，使 AI 代理能够通过自然语言理解、推理并执行复杂任务。CLI 版本支持 强大的代码能力，可与 Aider 相媲美。 主要特性• 🔍 ReAct 框架：结合 LLM 推理能力与执行能力，实现智能任务处理。• 🛠️ / 2025-03-21 18:39:21 / 查看 246 次

- 无需联网的智能文档处理工具RLAMA无需联网的智能文档处理工具RLAMA发布啦！基于本地Ollama模型打造，轻松实现文档智能问答，全程保障数据隐私安全～✨核心亮点：√ 支持文本/代码/办公文档等格式√ 本地LLM模型运行，数据不出门√ 命令行一键管理多个RAG系统√ 高效向量检索精准问答√ 跨平台单文件轻量部署 / 2025-03-21 18:36:21 / 查看 153 次