Fork me on GitHub

使用LogParser分析日志

系统运维,少不了分析系统日志,微软有个工具Log Parser可以帮助你分析日志。它功能强大,使用简单,可以分析基于文本的日志文件、XML 文件、CSV(逗号分隔符)文件,以及操作系统的事件日志、注册表、文件系统、Active Directory。它可以像使用 SQL 语句一样查询分析这些数据,甚至可以把分析结果以各种图表的形式展现出来。

Log Parser可以到微软的网站下载,安装完后,就会有命令行的执行程序LogParser.exe,供API使用的LogParser.dll及说明文件LogParser.chm,里面还会有一些Sample Code可以供参考.

Log Parser支持的格式很多,输入格式如下:

logparseinput

输出格式如下:

logparseoutput

通过 .NET Framework 的 COM interop (COM 交互操作)特性,可以很方便地在 .NET 应用程序中使用 Log Parser,.NET Framework 的 COM interop 是通过 Runtime Callable Wrappers (RCW) 来实现对 COM 的操作的,RCW 是 .NET 中的一个类。

现在要玩的是,怎么用LogParser.dll来开发更适合的API,其实命令行的做法就可以满足大部份的需求,但有时有时特殊的判断,在命令行模式下就有难度了,比如说,我们需要用程序自动去处理大批量的日志文件分析等,所以这时用API就方便很多.

下面我们用.NET封装下LogParser的Com接口,从LogParser的操作流程来看,无非就是不同格式文件的日志文件的输入,通过类SQL的分析输出我们需要的结果,核心算法就是类似于

          // 初始化LogQuery 对象
            var logQuery = new LogQueryClass();

            // 缓存输入上下文
            if (myInputContext == null)
                myInputContext = GetInputContext();
            // 执行查询  
            var oRecordSet = logQuery.Execute(query, myInputContext);
          
             // 浏览记录
            for (; !oRecordSet.atEnd(); oRecordSet.moveNext())
            {
                // 获取当前的记录
                ILogRecord logRecord = oRecordSet.getRecord();             
            }
            oRecordSet.close();

使用OOP方式封装接口,大家很容易的就会得出类似下面的设计,类图如下:

ClassDiagram1

每一种类型的日志的分析主要是格式的不同,通过一个配置类去记录每种类型的不同配置,根据配置去生成相应的输入、输出格式类。下面我们就来做个简单的Demo来演示下IIS日志分析。

      private void QryData()
{

//构造查询语句
StringBuilder query = new StringBuilder("SELECT ");
if (txtRecord.Text.Trim().Length > 0)
{
int rec = 0;
if (int.TryParse(txtRecord.Text.Trim(), out rec))
{
if (rec > 0)
{//如果有值,而且数字大于0,则取数字取得Top n
query.Append(" TOP ");
query.Append(rec);
}
}
}
if (btnLocalTime.Checked)
{
query.Append("UserIP,Username,TO_LOCALTIME(TO_TIMESTAMP(date,time)) as LocalTime");
}
else
{
query.Append("UserIP,Username,TO_TIMESTAMP(date,time) as LocalTime");
}

query.Append(",ServiceInstance,HostName,ServerIP,TimeTaken,BytesSent,bytesReceived,StatusCode" +
",Win32StatusCode,RequestType,Target,Parameters " +
"FROM ");
query.Append(openFileDialog1.FileName);
if (txtWhere.Text.Trim().Length > 0)
{
query.Append(" Where ");
query.Append(txtWhere.Text.Trim());
}

IISLogParserConfig config = new IISLogParserConfig()
{
Codepage =936,

};
IISLogParser logParser = new IISLogParser(config);
DataTable dt = logParser.RunQuery(query.ToString());
dataGridView1.DataSource = dt;
}

这段Code就是把Log读进来,并用DataGrid去显示,如果IIS Log里的时间不是当地时间,还可用TO_LOCALTIME做时间转换,看这Script,还可以用 Select Top n from 文件路径,这里有一点要注意,路径不能有中文名称,Query有那些可以用,可以参考说明文件的Query Syntax章节.

LogParserQuerySyntax

注意:LogParser.dll是需要注册的,如果没有注册,是会抛出错误信息,注册的方式很简单,也就是注册Com组件,在命令行模式下 : C:\LogParser>regsvr32 LogParser.dll

代码下载:LogParser.zip

相关文章:

一个强大的LogParser的UI工具--logparserlizard简介

使用logparser做 房途网日志(Nginx)分析

Log Parser (分析多種 Log 格式的超強工具)

使用 Log Parser 將 IIS LOG 轉入 SQL 2005 Express

Examples (SQL) queries for IIS Analysis

用LogParser对IIS 日志进行分析

Log Parser: 功能強大且威名遠播的記錄分析器

欢迎大家扫描下面二维码成为我的客户,为你服务和上云

posted @ 2011-06-06 00:04  张善友  阅读(21138)  评论(5编辑  收藏  举报