最近，我们做了一件看起来“不太可能”的事：把一个 LoRA 微调后的 Qwen-7B 意图识别模型，压缩到 1.8GB 以内 ，在生产环境里跑到 P99 延迟 82ms ，并且还能做到 5 秒级热更新 / / 查看 2438 次

大模型无非就这点东西…LLM基础知识分成了十个部分1️⃣ Transformer结构2️⃣ 主流大模型3️⃣ 预训练 Pre-train4️⃣ 后训练 Post-train5️⃣ 模型压缩与量化6️⃣ / / 查看 2675 次

大家好！今天为各位关注大模型开发与应用的朋友带来一款革命性的微调工具 - Unsloth。作为一名深耕大模型应用的技术博主，之前我介绍了RAG和Agent设计，今天要分享这款极具潜力的微调工具，它支持最新的开源模型，并且效率惊人。之所以推荐这个工具，是因为它支持最新的大部分大模型，而且给出了很多代码案例以及教程。可以一键在Colab和Ka... / / 查看 395 次

快速对QWen2.5大模型进行微调_模型微调可视化工具-CSDN博客前言在当今人工智能领域，大模型（如LLaMA、[GPT]等）的微调已成为提升模型性能和适应特定任务的关键技术。LLaMA-Factory是一个强大的工具，可以帮助开发者高效地进行大模型的微调。本文将详细介绍如何使用LLaMA-Factory快速进行大模型的微调。什么是LL... / / 查看 2686 次

Easy Dataset 简介Easy Dataset 是一个专为创建大型语言模型（LLM）微调数据集而设计的应用程序。上周刚开源。它提供了直观的界面，让用户可以轻松上传特定领域的文件，智能分割内容，自动生成问题，并为模型微调生成高质量的训练数据。通过 Easy Dataset，我们可以将领域知识高效转化为结构化数据集，兼容所有遵循 Op... / / 查看 482 次

如何微调（Fine-tuning）大语言模型 / / 查看 857 次

如何打造属于你的定制化大模型聊天机器人 / / 查看 642 次

大模型的Base版本模型、Chat版本模型和4Bit版本模型有什么区别 / / 查看 1464 次

用LLaMA-Factory，训练一个你的专属大模型！超简单易懂教程 / / 查看 999 次

一文搞懂AI关键术语：LLM、RAG、Prompt、Embedding等 / / 查看 1197 次

AI大模型中 .safetensors 文件、.ckpt文件、.gguf和.pth以及.bin文件区别、加载和保存以及转换方式 / / 查看 968 次

本篇文章，我们聊聊如何使用 Docker 容器快速上手 Meta AI 出品的 LLaMA2 开源大模型。写在前面昨天特别忙，早晨申请完 LLaMA2 模型下载权限后，直到晚上才顾上折腾了一个 Docker 容器运行方案，都没来得及写文章来... / / 查看 512 次