日志是系统很重要的一个组成部分,通过日志可以及时发现系统中存在的问题,也可以为修复问题提供线索。Docker提供了多种插件方式管理日志,本文就对使用MongoDB存储Docker日志的过程做个记录。
数据流
Docker产生的日期 发送到 FluentD,然后FluentD在转存到MongoDB。
配置Fluentd
前提:操作系统是CentOS7,已安装MongoDB3.4
1.安装Fluentd
CentOS 7的软件库并没有包含Fluentd的安装包,所以需要手动安装。在CentOS使用的软件td-agent。
上面命令会在/etct/yum.repo.d/目录中,创建一个td-agent的安装库 td.repo,然后自动安装td-agent。安装完毕后设为自动启动。
如果在启动过程中出现问题,可以查看位于/var/log/td-agent/下日志文件td-agent.log
2. 配置将docker日志转存到MongoDB
转存到MongoDB需要插件支持,但是默认情况下td-agent是没有安装该插件的,需要安装。
编辑/etc/td-agent/td-agent.conf,增加
重启td-agent。
3.启动容器
启动容器的命令改为:
运行完毕后,可以到MongoDB中查看日志。
解决写入延迟
上面我们完成了Docker + Fluentd + MongoDB的基本配置。但是在实际的使用过程中,却发现Docker生成的日志并不会立即写入到MongoDB中,有大概1分钟左右的延迟。
查阅Fluentd的文档得知,有一个flush参数可以控制日志的写入频率,默认的是60s。更改flush_interval参数就可以提高写入频率,具体更改如下:
刚开始对文档理解不太透彻,增加了flush_interval参数后,并没有发挥作用,第一次更改时,并没有将flush_mode和flush_interval放在buffer结构中。也就是:
从日志中也可以看出上面的配置,并没有发挥作用:
上面说flush_mode并没有起作用。
好了,操作步骤以及实际案例就介绍到这里,希望今天的内容对你所帮助!
上篇:
美团点评Docker容器管理平台
下篇:
基于Docker搭建Percona XtraDB Cluster数据库集群
1 从 0 到 1:使用 Loki + Promtail + Grafana 搭建日... 2 Unsloth:大模型微调的革命性工具,支持DeepSeek QwQ Gemma... 3 一文图解Agent智能体:60张图、14个技术点回顾Agent的基本认知 4 SFT 指令微调数据 如何构建? 5 快速对QWen2.5大模型进行微调 6 ImagePrompt:一款 AI 图片提示词工具,使用图片 7 DeepseekR1+ollama+dify1.0.0搭建企业/个人知识库 8 使用Easy Dataset为大模型准备训练数据,在线部署 9 Kubernetes集群日志-使用Loki实现高效日志分析和查询 10 静态路由:使用静态让所有主机实现相互通信,并都可以访问公网_采用静态路由方式,实... 11 链路聚合:二层和三层设备都使用链路聚合(实现负载均衡),并使所有vlan可以相互... 12 使用 OSPF 协议(多区域)实现不同路由器间互通