前言
日志是系统很重要的一个组成部分,通过日志可以及时发现系统中存在的问题,也可以为修复问题提供线索。Docker提供了多种插件方式管理日志,本文就对使用MongoDB存储Docker日志的过程做个记录。
数据流
Docker产生的日期 发送到 FluentD,然后FluentD在转存到MongoDB。
配置Fluentd
前提:操作系统是CentOS7,已安装MongoDB3.4
1. 安装Fluentd
CentOS 7的软件库并没有包含Fluentd的安装包,所以需要手动安装。在CentOS使用的软件td-agent。
# curl -L https://toolbelt.treasuredata.com/sh/install-redhat-td-agent3.sh | sh
上面命令会在/etct/yum.repo.d/目录中,创建一个td-agent的安装库 td.repo,然后自动安装td-agent。安装完毕后设为自动启动。
# systemctl start td-agent # systemctl enable td-agent
如果在启动过程中出现问题,可以查看位于/var/log/td-agent/下日志文件td-agent.log
2. 配置将docker日志转存到MongoDB
转存到MongoDB需要插件支持,但是默认情况下td-agent是没有安装该插件的,需要安装。
# yum -y install td-agent-gemt # td-agent-gem install fluent-plugin-mongo
编辑/etc/td-agent/td-agent.conf,增加
## match tag=docker.* and dump to mongodb ## 在docker启动容器时,日志的tag要符合docker.*的形式 <match docker.*> @type mongo # 数据库地址 host 127.0.0.1 # 数据库端口 port 22017 # 存储日志的数据库和数据集名称 database docker collection log </match>
重启td-agent。
启动容器
启动容器的命令改为:
$ docker run --mount type=bind,source=/home/demo/app,destination=/app --log-driver=fluentd --log-opt tag="docker.log" python3:latest python3 /app/test.py
运行完毕后,可以到MongoDB中查看日志。
后续
但是在实际的使用过程中,却发现Docker生成的日志并不会立即写入到MongoDB中,有大概1分钟左右的延迟。
查阅Fluentd的文档得知,有一个flush参数可以控制日志的写入频率,默认的是60s。更改flush_interval参数就可以提高写入频率,具体更改如下:
## match tag=docker.* and dump to console <match docker.*> @type mongo host 127.0.0.1 port 22017 database docker collection log <buffer> flush_mode interval flush_interval 1s </buffer> </match>
刚开始对文档理解不太透彻,增加了flush_interval参数后,并没有发挥作用,第一次更改时,并没有将flush_mode和flush_interval放在buffer结构中。也就是:
## match tag=docker.* and dump to console <match docker.*> @type mongo host 127.0.0.1 port 22017 database docker collection log flush_mode interval flush_interval 1s </match>
从日志中也可以看出上面的配置,并没有发挥作用:
2018-01-19 14:33:32 +0800 [warn]: parameter '**flush_mode**' in <match docker.*> @type mongo host "1270.0.0.1" port 22017 database "docker" collection "log" flush_mode interval flush_interval 1s buffer_chunk_limit 8m time_key time <inject> time_key time time_format %Y-%m-%d %H:%M:%S.%L </inject> </match> is not used.
上面说flush_mode并没有起作用。
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对的支持。
参考文档:
- https://docs.treasuredata.com/articles/td-agent
- https://docs.docker.com/engine/admin/logging/fluentd/
- https://docs.fluentd.org/v1.0/articles/out_mongo
更新日志
- 小骆驼-《草原狼2(蓝光CD)》[原抓WAV+CUE]
- 群星《欢迎来到我身边 电影原声专辑》[320K/MP3][105.02MB]
- 群星《欢迎来到我身边 电影原声专辑》[FLAC/分轨][480.9MB]
- 雷婷《梦里蓝天HQⅡ》 2023头版限量编号低速原抓[WAV+CUE][463M]
- 群星《2024好听新歌42》AI调整音效【WAV分轨】
- 王思雨-《思念陪着鸿雁飞》WAV
- 王思雨《喜马拉雅HQ》头版限量编号[WAV+CUE]
- 李健《无时无刻》[WAV+CUE][590M]
- 陈奕迅《酝酿》[WAV分轨][502M]
- 卓依婷《化蝶》2CD[WAV+CUE][1.1G]
- 群星《吉他王(黑胶CD)》[WAV+CUE]
- 齐秦《穿乐(穿越)》[WAV+CUE]
- 发烧珍品《数位CD音响测试-动向效果(九)》【WAV+CUE】
- 邝美云《邝美云精装歌集》[DSF][1.6G]
- 吕方《爱一回伤一回》[WAV+CUE][454M]