- https://github.com/lm-sys/FastChat- https://github.com/ModelTC/lightllmFastChat是一个开放平台，用于培训、服务和评估基于大型语言模型的聊天机器人。pip3 install -U "fschat[model_worker,webui]"python3 -m fastchat.serve.model_worker --m / 2025-03-21 18:19:45 / 查看 344 次

Ollama 是一款命令行工具，可在 macOS 和 Linux 上本地运行 Llama 2、Code Llama 和其他模型。目前适用于 macOS 和 Linux，并计划支持 Windows。Ollama 目前支持近二十多个语言模型系列，每个模型系列都有许多可用的 "tags"。Tags 是模型的变体，这些模型使用不同的微调方法以不同的规模进行训练，并以不同的级别进行量化，以便在本地良好运行。 / 2025-03-21 18:04:23 / 查看 300 次

Mastra : 专为 TS 开发者设计的 AI 应用开发框架技术亮点现代技术栈：基于 Next.js/Vercel 生态，天然适配前后端一体化开发生产就绪：工作流支持持久化状态，适合需要中断/恢复的长任务模块化设计：可单独使用 RAG 或 Agents，也能组合成复杂系统透明可观测：每个 AI 决策步骤都可追溯，符合企业合规需求适用场景· 快速搭建智能客服、文档助手等 AI 应用· 现有系统添加 / 2025-03-26 02:00:15 / 查看 276 次

🚀 无缝运行有状态函数与 AI 工作流，支持无服务器、服务器端及边缘计算🌟 什么是 Inngest？Inngest 是一个强大的工作流编排平台，提供 可靠、可扩展的有状态（Stateful）函数执行，让开发者无需关注基础设施，即可构建 持久化、可恢复的工作流。💡 核心能力：✅ 取代队列、状态管理与任务调度，让开发者专注于业务逻辑✅ 支持多种编程语言（TypeScript、Python、Go、Jav / 2025-03-21 19:20:03 / 查看 201 次

DistillFlow：简化和扩展大语言模型蒸馏的开源工具包DistillFlow 是一个开源工具包，旨在简化和扩展将大型语言模型（LLMs）蒸馏成更小、更高效模型的过程。它提供了一个灵活的管道，支持多GPU的蒸馏、微调和实验，具备动态资源分配的能力，并且能够轻松集成自定义技术。什么是蒸馏？蒸馏是将大规模机器学习模型的知识迁移到小型模型的过程。在这个过程中，大型模型被称为“教师模型”，而小型模型则 / 2025-03-26 00:52:27 / 查看 190 次

LLaMA-Factory 是一个开源的语言模型工厂，用于创建和训练大规模语言模型。LLaMA-Factory 由 Meta AI 开发，旨在提供一个灵活、可扩展和高效的平台，用于构建和训练语言模型。LLaMA-Factory 的主要特点包括：大规模语言模型：LLaMA-Factory 支持创建和训练大规模语言模型，具有数十亿个参数。灵活性：LLaMA-Factory 提供了多种语言模型架构，包括 / 2025-03-21 19:38:38 / 查看 167 次

Story Flicks 是一款基于多模态AI大模型的开源工具，用户只需输入故事主题，即可自动生成包含 高清图像、动态分镜、多语言配音、智能字幕 的完整短视频。项目完全免费，代码公开于GitHub，支持灵活配置和二次开发，真正实现“输入文字，输出电影”的零门槛创作体验。二、核心功能与技术架构全流程AI生成能力文本生成：调用GPT-4o、阿里云Bailian等模型，自动生成故事脚本并拆解为分镜逻辑。 / 2025-03-21 18:56:37 / 查看 148 次

- https://github.com/argilla-io/argilla- https://docs.argilla.ioArgilla 是一款专为 AI 工程师和领域专家 设计的协作工具，帮助团队高效构建高质量数据集，优化 AI 模型的训练与改进。✅ 适用于多种 AI 任务Argilla 可用于收集人工反馈，支持以下 AI 领域： • 自然语言处理（NLP）：文本分类、命名实体识别（NER / 2025-03-21 19:13:10 / 查看 135 次

ZO2：低显存环境下的 175B LLM 全参数微调解决方案📌 工具简介ZO2 (Zeroth-Order Offloading) 是一种创新的 零阶优化（ZO）+ 离载（Offloading） 技术框架，使大规模语言模型（LLM） 的 全参数微调（Full Fine-Tuning） 在低显存环境下成为可能。例如，它可以在仅 18GB 显存的 GPU 上微调 OPT-175B，极大降低硬件门槛。✨ / 2025-03-26 02:30:08 / 查看 123 次

什么是GraphRAG？GraphRAG是一种基于图的知识检索增强技术，它结合了知识图谱的广泛知识表示能力和大语言模型（LLM）的生成能力。与传统的RAG方法相比，GraphRAG通过构建知识图谱和社区层次结构，显著提升了复杂信息处理的能力。具体来说，GraphRAG的工作流程包括以下几个步骤：从原始文本中提取知识图谱：使用自然语言处理技术从非结构化文本中提取实体和关系。构建社区层次结构：利用图统 / 2025-03-26 01:50:12 / 查看 123 次