Gemma3-OCR：完全本地运行的计算机视觉应用，特别适合需要离线文本识别能力的场景，或者对数据隐私有较高要求的用户项目核心功能· 图像文本识别：从上传的图片中识别并提取文本内容· 本地运行：无需依赖云服务，全部在本地设备上处理· 结构化输出：以结构化的 Markdown 格式展示识别结果技术组件· Gemma-3：Google 开发的视觉语言模型，通过 Ollama 在本地运行· Stream / 2025-03-26 00:35:15 / 查看 116 次

## dynamo一个数据中心规模的分布式推理服务框架NVIDIA Dynamo是一个高吞吐量、低延迟的推理框架，旨在为多节点分布式环境中的生成式人工智能和推理模型提供服务。Dynamo被设计为与推理引擎无关(支持TRT-LLM、vLLM、SGLang或其他语言),并捕获LLM特定的功能，例如:分解预填充和解码推理–最大化GPU吞吐量，并促进吞吐量和延迟之间的平衡。动态GPU调度–根据波动的需求优 / 2025-03-21 19:44:44 / 查看 201 次