- https://github.com/lm-sys/FastChat
- https://github.com/ModelTC/lightllm
pip3 install -U "fschat[model_worker,webui]"
python3 -m fastchat.serve.model_worker --model-path lmsys/vicuna-7b-v1.5
python3 -m fastchat.serve.gradio_web_server
上篇:
没有了
下篇:
Open-Sora - 高效视频制作
1 KAG - 知识库 2 Hexabot - AI 聊天机器人 / 智能代理构建 3 Stand-In - 身份保持型视频生成框架 4 sparka - 多模型 AI 聊天平台 5 FastAPI-MCP - 将FastAPI应用轻松转型为MCP服务器 6 DevDocs - 免费开源文档处理平台 7 AI Agent?Google 出品的 智能体 8 OmAgent - 为快速原型和生产构建多模态语言代理 9 OpenAvatarChat - 实时交互数字人系统 10 Khoj - 个人人工智能应用程序 11 public-apis - 可靠、高效的API资源 12 mcp.so - 最大的 MCP 服务器集合