日志 - 团子的小窝

前段时间发现某些机器磁盘空间报警，使用 du 命令（慎重使用）查询后发现部分日志文件非常大，例如 secure 日志，差不多有 10G 左右。

$ ls -lh /var/log/secure
-rw-r----- 1 root adm 9.7G Mar 24 20:44 /var/log/secure

我们发现 secure 日志已经超过一周没有滚动了，按照 logrotate 的配置，secure 日志应该按周滚动一次，最多滚动 4 次：

$cat /etc/logrotate.d/syslog-ng
/var/log/messages /var/log/secure /var/log/maillog /var/log/spooler /var/log/boot.log /var/log/cron {
    sharedscripts
    postrotate
        /etc/rc.d/init.d/syslog-ng reload 2>/dev/null || true
    endscript
}

$cat /etc/logrotate.conf
# see "man logrotate" for details
# rotate log files weekly
weekly

# keep 4 weeks worth of backlogs
rotate 4

# create new (empty) log files after rotating old ones
create

# uncomment this if you want your log files compressed
compress

# RPM packages drop log rotation information into this directory
include /etc/logrotate.d

# system-specific logs may be also be configured here.

看起来应该是日志滚动过程出现了问题，然后通过 logroate debug 了一把，发现中间出错：

$ logrotate -dv /etc/logrotate.conf 
reading config file /etc/logrotate.conf
including /etc/logrotate.d
reading config file acpid
reading config info for /var/log/acpid 
reading config file balloond
reading config info for /var/log/xen/balloond.log 
reading config file conman
error: error accessing /var/log/conman: No such file or directory
error: conman:5 glob failed for /var/log/conman/*

看最后两行 error，因为 /var/log/conman 目录找不到，导致滚动过程出错，所以就没有触发 secure 日志滚动处理。

那么最直接的解决方法是，手工创建 /var/log/conman 目录，这个问题就可以跳过了。但是，这种方法毕竟不完美，如果哪天另外一个目录不存在，仍然会出现这个问题。而且，logrotate 对这种场景的处理本来就不合理，然后去翻了下它的 changelog，发现这个 bug 已经在 3.7.4-12 以后的版本中 fixed：

* Thu Mar 31 2011 Jan Kaluza <jkaluza@redhat.com> - 3.7.4-12
- fix #540119 - fixed missingok problem with globs

所以，根本的解决方法是更新 logrotate 包。

Python 日志模块使用

Python内置了很多非常使用的模块，logging 模块是用于控制和输出日志的，它是一个非常强大的日志模块，可以按照不同的需求配置。它的官方文档地址是在这里。

我自己也用过几次logging模块，但是前面用的时候都把它用得太复杂了，还自己封装了下。其实，有些代码越是简单越好，写得复杂得反而不容易扩展和使用。

以下是我在脚本中用到的一段代码：

def init_log(log_file):
    '''Initialize logging module.
    '''
    logger = logging.getLogger()
    logger.setLevel(logging.DEBUG)

    formatter = logging.Formatter('[%(levelname)s] %(message)s')

    # Create a file handler to store error messages
    fhdr = logging.FileHandler(log_file, mode = 'w')
    fhdr.setLevel(logging.ERROR)
    fhdr.setFormatter(formatter)

    # Create a stream handler to print all messages to console 
    chdr = logging.StreamHandler()
    chdr.setFormatter(formatter)

    logger.addHandler(fhdr)
    logger.addHandler(chdr)

    return logger

代码的意思很简单，这里就不多加解释了，需要注意的是第5行不能少,要不然会出现问题。因为当logging模块输出的日志分成多个级别，例如DEBUG、INFO、WARN、ERROR等。当没有通过setLevel方法设置日志级别的话，系统默认的日志级别是WARN，也就是说只胡日志级别大于等于WARN的日志才会输出可见，例如ERROR，而日志级别比它低的则被过滤掉了，例如DEBUG。

那为什么这一行不能少呢？因为当一条日志要打印输出时，首先会看这条日志的级别是否大于logging.setLevel设置的级别或者默认的WARN，如果不是则直接过滤掉；如果大于，则会发送给Logger对象绑定的各个handler对象，交由它们进一步处理日志，或者输出到屏幕，或者写入到文件中。而每个handler对象也会有它自己设置的日志级别，然后再进一步地过滤。所以如果不包含第5行，然后StreamHandler对象设置的日志级别是DEBUG的话，其实是没有意义的。

使用方法：

logger = init_logger('test.log')
logger.debug('%s, %s', 'hello', 'world');
logger.info(...)
logger.warn(...)
logger.error(...)

含标签 "日志" 的文章

logrotate 没有滚动日志

Python 日志模块使用