AmazingCounters.com

linux的日志管理和服务项目构建

日志对于系统和服务安全来说非常重要,它记录了系统每天发生的各种各样的事情,你可以通过他来检查并排除错误发生的原因,或者受到攻击时攻击者留下的痕迹。日志主要的功能有:审计和监测。他还可以实时的监测系统状态,监测和追踪侵入者等等。本篇会比较详细的介绍有关Linux日志管理相关的基础介绍和技巧、工具,帮助Linux系统管理员们掌握日志的使用,用好日志可以更好的进行日常的工作的处理。

日志管理rsyslog介绍

C/S架构:通过TCP或UDP协议的服务完成日志记录传送, 将分布在不同主机的日志实现集中管理

rsyslog特性:

  • 多线程
  • UDP, TCP, SSL, TLS, RELP
  • MySQL, PGSQL, Oracle实现日志存储
  • 强大的过滤器,可实现过滤记录日志信息中任意部分
  • 自定义输出格式

(ELK:elasticsearch, logstash, kibana :非关系型分布式数据库 ,Elasticsearch是个开源分布式搜索引擎,功能更加强大Logstash对日志进行收集、分析,并将其存储供以后使用 ,并且kibana 可以提供的日志分析友好的 Web 界面,后面会详细介绍)

日志类型(facility)

日志优先级(优先级由高到低,资源耗费由高到低)

程序包:rsyslog ,端口默认514

主程序:/usr/sbin/rsyslogd 

配置文件:/etc/rsyslog.conf,/etc/rsyslog.d/*.conf  库文件: /lib64/rsyslog/*.so

配置文件格式:由三部分组成

  • MODULES:相关模块配置
  • GLOBAL DIRECTIVES:全局配置
  • RULES:日志记录相关的规则配置

RULES配置格式:  facility . priority;  facility.priority… target

facility:

  • *: 所有的 facility  
  • facility1,facility2,facility3,...:指定的facility列表

priority:

  • *: 所有级别
  • none:没有级别,即不记录
  • PRIORITY:指定级别(含)以上的所有级别
  • =PRIORITY:仅记录指定级别的日志信息

target: 文件路径:通常在/var/log/

  • 文件路径前的"-"表示异步写入
  • user(如root  heiye):将日志事件通知给指定的用户
  • * 表示登录的所有用户
  • 日志服务器:@host,把日志送往至指定的远程服务器记录(udp),@@表示tcp协议传输
  • 管道: | COMMAND,转发给其它命令处理

配置rsyslog成为日志服务器

#### MODULES #### 

#Provides UDP syslog reception

$ModLoad imudp

$UDPServerRun 514

# Provides TCP syslog reception

$ModLoad imtcp

$InputTCPServerRun 514  (打开模块注释即可启用)

其它的日志文件

  • /var/log/secure:系统安装日志,文本格式,应周期性分析
  • /var/log/btmp:当前系统上,用户的失败尝试登录相关的日志信息,二进制格式,lastb命令进行查看 
  • /var/log/wtmp:当前系统上,用户正常登录系统的相关日志 信息,二进制格式,last命令可以查看
  • /var/log/lastlog:每一个用户最近一次的登录信息,二进制格 式,lastlog命令可以查看
  • /var/log/dmesg:系统引导过程中的日志信息,文本格式文本,可用查看工具查看或专用命令dmesg查看
  • /var/log/messages :系统中大部分的信息
  • /var/log/anaconda : anaconda的日志

Systemd 统一管理所有 Unit 的启动日志。只用journalctl一个命令查看所有日志(内核日志和 应用日志)。配置文件/etc/systemd/journald.conf

journalctl用法 

查看所有日志(默认情况下 ,只保存本次启动的日志) journalctl

查看内核日志(不显示应用日志) journalctl -k

查看系统本次启动的日志 journalctl -b journalctl -b -0

查看上一次启动的日志(需更改设置) journalctl -b -1

查看指定时间的日志

journalctl --since="2017-10-30 18:10:30"
journalctl --since "20 min ago"
journalctl --since yesterday
journalctl --since "2017-01-10" --until "2017-01-11 03:00"
journalctl --since 09:00 --until "1 hour ago"
显示尾部的最新10行日志 journalctl -n

显示尾部指定行数的日志 journalctl -n 20

实时滚动显示最新日志 journalctl -f

查看指定服务的日志 journalctl /usr/lib/systemd/systemd

查看指定进程的日志 journalctl _PID=1

查看某个路径的脚本的日志 journalctl /usr/bin/bash

查看指定用户的日志 journalctl _UID=33 --since today

查看某个 Unit 的日志 journalctl -u nginx.service journalctl -u nginx.service --since today

实时滚动显示某个 Unit 的最新日志 journalctl -u nginx.service -f

合并显示多个 Unit 的日志 journalctl -u nginx.service -u php-fpm.service --since today 13 日志管理journalctl

查看指定优先级(及其以上级别)的日志,共有8级 0: emerg 1: alert 2: crit 3: err 4: warning 5: notice 6: info 7: debug journalctl -p err -b

日志默认分页输出,--no-pager

改为正常的标准输出 journalctl --no-pager

以 JSON 格式(单行)输出 journalctl -b -u nginx.service -o json

以 JSON 格式(多行)输出,可读性更好 journalctl -b -u nginx.serviceqq -o json-pretty

显示日志占据的硬盘空间 journalctl --disk-usage

指定日志文件占据的最大空间 journalctl --vacuum-size=1G

指定日志文件保存多久 journalctl --vacuum-time=1years
View Code

日志管理实战应用

rsyslog将日志记录于MySQL中

(1) 准备MySQL Server(172.18.64.106)

(2) 在mysql server上授权rsyslog能连接至当前服务器 mysql> GRANT ALL ON Syslog.* TO 'USER'@'HOST' IDENTIFIED BY 'PASSWORD';

(3) 在rsyslog服务器(172.18.64.7)上安装mysql模块相关的程序包 yum install rsyslog-mysql

(4) 为rsyslog创建数据库及表; mysql -uUSERNAME -hHOST -pPASSWORD < /usr/share/doc/rsyslog-7.4.7/mysql-createDB.sql

5) 配置rsyslog将日志保存到mysql中

#### MODULES ####

$ModLoad ommysql

#### RULES ####

facility.priority :ommysql:DBHOST,DBNAME,DBUSER, PASSWORD

重启日志服务后测试:

在rsyslog日志服务器上loggger  -p local2.info  "hahahaha,hello"

在数据库服务器上USE Syslog

可见数据库由原来空表已经由内容了,logger一次,数量增加一个。

通过loganalyzer展示数据库中的日志

(1).yum install httpd php php-mysql php-gd (172.18.64.17)

(2).tar xf loganalyzer-4.1.5.tar.gz

(3)cp  -a  loganalyzer-4.1.5/src   /var/www/html/loganalyzer

(4.)cd   /var/www/html/loganalyzer && touch config.php && chmod 666 config.php

(5)配置loganalyzer    systemctl start httpd.service   http://HOST/loganalyzer MySQL Native, Syslog Fields, Monitorware

(6) 安全加强 cd  /var/www/html/loganalyzer  && chmod 644 config.php

补充:

logger命令:

Logrotate日志存储 

logrotate 程序是一个日志文件管理工具。用来把旧的日志文 件删除,并创建新的日志文件,称为日志转储或滚动。可以 根据日志文件的大小,也可以根据其天数来转储,这个过程 一般通过 cron 程序来执行

配置文件 /etc/logrotate.conf

主要参数如下

  • compress 通过gzip 压缩转储以后的日志
  • nocompress 不需要压缩时,用这个参数
  • copytruncate 用于还在打开中的日志文件,把当前日志备份 并截断
  • nocopytruncate 备份日志文件但是不截断
  • create mode owner group 转储文件,使用指定的文件模式 创建新的日志文件
  • nocreate 不建立新的日志文件
  • delaycompress 和 compress 一起使用时,转储的日志文件 到下一次转储时才压缩
  • nodelaycompress 覆盖 delaycompress 选项,转储并压缩
  • errors address 专储时的错误信息发送到指定的Email 地址
  • ifempty 即使是空文件也转储,是缺省选项。
  • notifempty 如果是空文件的话,不转储
  • mail address 把转储的日志文件发送到指定的E-mail 地址
  • nomail 转储时不发送日志文件
  • olddir directory 转储后的日志文件放入指定的目录,必须和 当前日志文件在同一个文件系统
  • noolddir 转储后的日志文件和当前日志文件放在同一个目录下
  • prerotate/endscript 在转储以前需要执行的命令可以放入这个对,这两个关键字必须单独成行
  • daily 指定转储周期为每天
  • weekly 指定转储周期为每周
  • monthly 指定转储周期为每月
  • size 大小 指定日志超过多大时,就执行日志转储
  • rotate count 指定日志文件删除之前转储的次数,0 指没有 备份,5 指保留5个备份
  • Missingok 如果日志不存在,提示错误
  • Nomissingok如果日志不存在,继续下一次日志,不提示错误

 

posted @ 2017-11-19 20:03  黑夜繁星  阅读(1571)  评论(0编辑  收藏  举报
AmazingCounters.com