KTransformers 是一个开源的 Transformer 库，用于自然语言处理（NLP）任务。它是基于 PyTorch 框架开发的，提供了一个简单易用的 API，用于构建和训练 Transformer 模型。Transformer 是一种自注意力机制（Self-Attention Mechanism）的神经网络模型，最初由 Google 提出，用于机器翻译任务。它的主要特点是可以并行化处理 / 2025-03-21 19:36:02 / 查看 401 次

人工智能编排框架，用于构建可定制的、生产就绪的LLM应用。将组件(模型、矢量数据库、文件转换器)连接到可以与您的数据交互的管道或代理。凭借先进的检索方法，它最适合构建RAG、问答、语义搜索或对话代理聊天机器人。一个端到端的LLM框架，允许您构建由LLM、Transformer模型、vector search等支持的应用程序。无论您想要执行检索增强生成(RAG)、文档搜索、问题回答还是答案生成，Ha / 2025-03-21 20:14:34 / 查看 329 次

Eko(发音像“echo”)是一个生产就绪的JavaScript框架，它使开发人员能够创建可靠的代理，从简单命令到复杂工作流程。它为在两者中运行代理提供了统一的界面计算机和浏览器环境. / 2025-03-21 20:12:45 / 查看 313 次

PlayAI隆重推出其AI语音工具PlayNote，利用其革命性的PlayDialog技术，实现情感丰富的对话生成，让用户能够将任何文本轻松转换成自然、流畅的播客、旁白和故事内容。PlayNote工具的优势：• 支持将PDF、文本、视频等多种格式的媒体转换成对话形式• 快速制作播客、演讲、旁白以及儿童故事• 提供API接口，便于自动化内容生成• 能够在两种不同的声音间创建播客• 为长篇文 / 2025-03-21 19:00:36 / 查看 302 次

Ollama 是一款命令行工具，可在 macOS 和 Linux 上本地运行 Llama 2、Code Llama 和其他模型。目前适用于 macOS 和 Linux，并计划支持 Windows。Ollama 目前支持近二十多个语言模型系列，每个模型系列都有许多可用的 "tags"。Tags 是模型的变体，这些模型使用不同的微调方法以不同的规模进行训练，并以不同的级别进行量化，以便在本地良好运行。 / 2025-03-21 18:04:23 / 查看 300 次

一个开源的实时AI图像生成器。由通过Together.ai的通量驱动。- https://loras.dev/技术堆栈通量发展来自BFL的形象模特在一起AI为了推论Next.js带顺风的app路由器可观测性螺旋锥对网站分析来说似乎合理 / 2025-03-21 18:46:11 / 查看 266 次

Mahilo 是一个灵活的多智能体（Multi-Agent）框架，可创建多个相互协作的智能体，每个智能体既能独立与人交互，又能在内部共享相关上下文信息。核心特点： • 多智能体协作：允许多个智能体互相沟通、共享信息，并根据对话上下文自主决定是否联系其他智能体。 • 实时交互：支持 WebSocket API，可进行多用户同时在线语音和文本交互。 • 灵活的通讯模式：支持点对点（P2P）和集中式（层 / 2025-03-21 18:28:06 / 查看 261 次

Chipper: 开源智能知识检索和对话增强工具概述: 一个专注于本地化部署的智能对话增强工具，通过 RAG 技术，帮助用户实现私密、安全的 AI 对话与知识管理，支持网页界面和命令行两种使用方式核心功能：· 支持本地模型运行（通过 Ollama）和云端模型接入（通过 HuggingFace）· 提供 Web 界面和命令行两种使用方式· 集成了 ElasticSearch 做向量存储· 支持文档分 / 2025-03-26 00:49:18 / 查看 256 次

QuantaLogic 是一个基于 ReAct（Reasoning & Action） 的框架，专为构建高级 AI 代理而设计。它将 大语言模型（LLM） 与 强大的工具系统 无缝集成，使 AI 代理能够通过自然语言理解、推理并执行复杂任务。CLI 版本支持 强大的代码能力，可与 Aider 相媲美。 主要特性• 🔍 ReAct 框架：结合 LLM 推理能力与执行能力，实现智能任务处理。• 🛠️ / 2025-03-21 18:39:21 / 查看 246 次

## dynamo一个数据中心规模的分布式推理服务框架NVIDIA Dynamo是一个高吞吐量、低延迟的推理框架，旨在为多节点分布式环境中的生成式人工智能和推理模型提供服务。Dynamo被设计为与推理引擎无关(支持TRT-LLM、vLLM、SGLang或其他语言),并捕获LLM特定的功能，例如:分解预填充和解码推理–最大化GPU吞吐量，并促进吞吐量和延迟之间的平衡。动态GPU调度–根据波动的需求优 / 2025-03-21 19:44:44 / 查看 201 次