TGI（Text Generation Inference）是一个由HuggingFace开发的开源框架，专注于高效处理大型语言模型（LLM）的推理任务。它支持GPT、LLaMA和Falcon等多种模型，以其高吞吐量和低延迟的特点著称，并优化了KV缓存，使得长文本推理更加流畅。TGI的应用场景广泛，包括：1. 聊天机器人和AI助手：显著降低响应时间，提升互动体验。2. 文本生成：支持流式输出，适用 / 2025-03-26 01:40:35 / 查看 969 次

OpenAvatarChat 是一个模块化的实时交互数字人系统，通过整合语音识别（ASR）、多模态语言模型（LLM）和语音合成（TTS）技术，在本地PC上实现低延迟的数字人对话与音视频交互。消费级PC也能部署，i9-13900KF + RTX 4090平台下平均响应延迟仅2.2秒。项目概述目标：实现模块化的交互数字人对话系统，支持在单台PC上运行完整功能。核心功能：音频处理：整合SenseVoic / 2025-04-07 16:14:15 / 查看 743 次

Local Deep Research：本地深度 AI 研究助手Local Deep Research 是一款强大的 AI 驱动研究助手，能够执行深度、迭代式分析，结合 多个 LLM（大语言模型）与网络搜索，提供全面的研究支持。用户可选择 本地运行 以确保隐私，或使用 云端 LLM 以获得更强的计算能力。✨ 核心功能🔍 高级研究能力 • 自动化深度研究，智能生成后续问题，挖掘更完整的信息。 • 引 / 2025-03-26 01:46:20 / 查看 698 次

Khoj是一个个人人工智能应用程序，以扩展您的能力。它可以顺利地从设备上的个人人工智能扩展到云规模的企业人工智能。与任何本地或在线LLM聊天(例如llama3、qwen、gemma、mistral、gpt、claude、gemini)。从互联网和你的文档中获得答案(包括图片、pdf、markdown、org-mode、word、概念文件)。从你的浏览器、Obsidian、Emacs、桌面、手机或W / 2025-04-07 16:03:53 / 查看 651 次

如何高效检索商品信息并进行智能语音交互？📌 工具简介Oliva 是一个多代理（Multi-Agent）智能助手，结合 LangChain 和 Superlinked，通过 Qdrant 矢量数据库提供高效的商品检索能力。同时，它支持 语音交互，借助 Deepgram 语音识别和 LiveKit 实时通讯，打造智能化的 AI 语音助手，适用于电商、搜索引擎等场景。✨ 主要特点✅ 多代理架构（Mult / 2025-03-26 02:36:16 / 查看 623 次

OpenAI Agents SDK：轻量级多智能体工作流框架OpenAI Agents SDK 是一个高效、灵活的多智能体（multi-agent）工作流框架，专为构建基于大型语言模型（LLM）的智能系统而设计。它提供智能体交互、任务分配、安全检查等核心能力，使多个 AI 代理能够协同工作，完成复杂任务。🔹 核心概念 • 智能体（Agents）：LLM 代理，具备指令、工具、规则和任务交接能力 • / 2025-03-28 09:07:19 / 查看 607 次

AI as Workspace（AIaW） 是一款面向开发者、创作者及普通用户的 全功能、轻量级、可扩展的AI对话客户端，项目基于 TypeScript 和 Vue 框架构建，以 “本地优先+实时云同步” 为核心设计理念，支持跨平台运行（Web、桌面端、移动端），并整合了 OpenAI、Anthropic、Google 等主流 AI 服务商的模型，同时内置丰富的插件系统与助手市场，目标是为用户打造 / 2025-03-26 02:09:17 / 查看 551 次

Sparka AI 是一个开源、生产可用的多模型 AI 聊天平台，由 vercel/ai-chatbot 演化而来。它让开发者和用户能够在一个界面中，轻松访问 Claude、ChatGPT、Gemini、Grok 等主流大模型，并具备完整的扩展能力。💡 核心功能 • 多模型接入：支持 100+ 模型，包括 GPT-5、Claude、Gemini、Grok 等 • 文件解析：直接上传图片、PDF、文 / 2025-08-31 01:56:40 / 查看 472 次

在做垂直领域知识库的逻辑推理和问答系统时，你是不是也遇到过 传统RAG模型 的限制？比如： • 相似度召回不精准，语义模糊； • GraphRAG 里噪声过多，答案可信度不高。👉 这时候就可以看看 KAG (Knowledge Augmented Generation)！它基于 OpenSPG 引擎 + 大语言模型，带来： • 逻辑推理 + 多跳问答，远超普通RAG； • 知识与文本的互索引结构， / 2025-08-31 02:30:02 / 查看 375 次

- https://github.com/badboysm890/ClaraVerse # Pull the imagedocker pull claraverse/clara-ollama:latest# Run with auto-restartdocker run -d --restart always -p 8069:8069 claraverse/clara-ollama:latestC / 2025-03-22 16:23:00 / 查看 338 次