TGI（Text Generation Inference）是一个由HuggingFace开发的开源框架，专注于高效处理大型语言模型（LLM）的推理任务。它支持GPT、LLaMA和Falcon等多种模型，以其高吞吐量和低延迟的特点著称，并优化了KV缓存，使得长文本推理更加流畅。TGI的应用场景广泛，包括：1. 聊天机器人和AI助手：显著降低响应时间，提升互动体验。2. 文本生成：支持流式输出，适用 / 2025-03-26 01:40:35 / 查看 489 次

核心功能 1. 智能文档处理 - 自动提取PDF文本，清理格式错误和冗余内容 - 支持处理含数学公式的学术论文 - 智能分块处理大文件（最大支持10万字） 2. 多模式内容生成 - 支持15种输出格式（播客/访谈/辩论/讲座等） - 8种内容风格（专业/学术/轻松/搞笑等） - 4种内容长度（短篇10分钟到长篇100+分钟） 3. 灵活模型支持 - 支持6种 LLM 服务（OpenAI/Groq/ / 2025-03-26 00:41:01 / 查看 1 次

Gemma3-OCR：完全本地运行的计算机视觉应用，特别适合需要离线文本识别能力的场景，或者对数据隐私有较高要求的用户项目核心功能· 图像文本识别：从上传的图片中识别并提取文本内容· 本地运行：无需依赖云服务，全部在本地设备上处理· 结构化输出：以结构化的 Markdown 格式展示识别结果技术组件· Gemma-3：Google 开发的视觉语言模型，通过 Ollama 在本地运行· Stream / 2025-03-26 00:35:15 / 查看 116 次

一个开源的低代码 RAG 框架：Cognita。基于 LangChain/LlamaIndex 构建，简单易用，提供数据上传、模型管理、联网和提示词模板等功能。同时无需编写代码，即可轻松构建、调试和发布 RAG 应用。可 Docker 快速部署，支持主流模型或通过 Ollama 使用本地模型。Langchain/LlamaIndex提供了易于使用的抽象，可用于在jupyter笔记本上进行快速实验 / 2025-03-26 00:32:25 / 查看 1 次

在AI领域，大型语言模型（LLM）已经展现出了强大的语言理解和生成能力，但其知识通常是固定的，无法实时更新。尽管检索增强生成（RAG）技术能帮助模型获取最新信息，但传统搜索引擎的横向搜索方式限制了对信息的深度挖掘。为了解决这一问题，阿里和东南大学共同研发了WebWalker，一个多智能体框架，专注于模拟人类的网络浏览和搜索行为，让LLM能够自动点击链接、阅读网页、理解信息，最终给出更精准、更深层次 / 2025-03-25 22:28:34 / 查看 1 次

Gurubase - 开源 RAG 问答助手Gurubase 是一款开源的 检索增强生成（RAG） 系统，支持创建 AI 驱动的问答助手（“Guru”），可索引 网页、PDF 文档、YouTube 视频、GitHub 代码库，帮助用户快速获取精准答案。🚀 功能特点 • 🤖 AI 问答助手：基于先进的大语言模型（LLM），提供高质量问答，并具备即时评估机制，减少幻觉现象。 • 🔄 RAG 技术：结合 / 2025-03-22 16:40:35 / 查看 1 次

- https://github.com/badboysm890/ClaraVerse # Pull the imagedocker pull claraverse/clara-ollama:latest# Run with auto-restartdocker run -d --restart always -p 8069:8069 claraverse/clara-ollama:latestC / 2025-03-22 16:23:00 / 查看 338 次

🚀 无缝运行有状态函数与 AI 工作流，支持无服务器、服务器端及边缘计算🌟 什么是 Inngest？Inngest 是一个强大的工作流编排平台，提供 可靠、可扩展的有状态（Stateful）函数执行，让开发者无需关注基础设施，即可构建 持久化、可恢复的工作流。💡 核心能力：✅ 取代队列、状态管理与任务调度，让开发者专注于业务逻辑✅ 支持多种编程语言（TypeScript、Python、Go、Jav / 2025-03-21 19:20:03 / 查看 201 次

Next.js AI Chatbot 是一个 基于 Next.js 和 Vercel AI SDK 构建的 开源 AI 聊天机器人模板，支持 多种大语言模型（LLM），并可快速部署到 Vercel。该模板提供了 强大的 AI API、现代化 UI 组件、数据持久化、身份验证 等功能，适用于 AI 对话、内容生成、智能客服 等应用场景。 / 2025-03-21 19:11:50 / 查看 1 次

- https://github.com/stanford-oval/stormcd /data/site/htmltoo.labsgit clone https://github.com/stanford-oval/stormcd stormconda create -n storm -y python=3.11conda activate stormpip install -r requ / 2025-03-21 18:58:19 / 查看 89 次