摘要: 我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。以下是我在公司内部分享的关于分布式日志收集系统的PPT内容,现在与大家分享,希望对于需要使用的人能够起到基本的入门作用或是了解!1.分布式日志收集系统:背景介绍许多公司的平台每天会产生大量的日志(一般为流式数据,如,搜索引擎的pv,查询等),处理这些日志需要特定的日志系统,一般而言,这些系统需要具有以下特征:(1) 构建应用系统和分析系统的桥梁,并将它们之间的关联解耦;(2) 支持近实时的在线分析系统和类似于Hadoop之类的离线分析系统;(3) 具有高可扩展性。即:当数据量增加时 阅读全文
posted @ 2011-12-13 00:38 蔷薇理想人生 阅读(29791) 评论(5) 推荐(7) 编辑
摘要: 我的独立博客网址是:http://wuyouqiang.sinaapp.com/。我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。前面有几篇文章专门介绍了空间数据的导入,导入的目的是为了统一管理。今天介绍空间数据导出,导出的格式支持和导入的格式一样,导出的目的是为了方便数据的迁移。其实导入和导出用到的技术基本上都是相同的,不过为了介绍的完整性还是单独拿出来,因为这一部分的功能也是很重要而且是必不可少的!1.首先定义一个用于操作SDE数据库的工作空间并且在构造函数中初始化(调用工具类里面提供的静态方法初始化):1 ... 阅读全文
posted @ 2011-12-11 16:37 蔷薇理想人生 阅读(701) 评论(0) 推荐(1) 编辑
摘要: 我的独立博客网址是:http://wuyouqiang.sinaapp.com/。我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。自从我和我的一个同学都把自己的电脑搬到实验室以后,我们两个就变成了整个实验室、乃至整个学校里面最疯狂的人,我们除了洗漱回一趟寝室以外我们所有的时间都待在实验室,当然除了上课和吃饭。当时我们的课程管得比较严,每次辅导员都会亲自到场点名,如果发现谁没有到就可能找他谈话,所以很多人虽然不想去上课,但是还是会去把时间混满。虽然我和我的那个同学基本上都是在一起学习和吃饭,但是平时交流并不是很多,造成这种原因不能 阅读全文
posted @ 2011-12-11 15:47 蔷薇理想人生 阅读(2615) 评论(8) 推荐(3) 编辑
摘要: 我的独立博客网址是:http://wuyouqiang.sinaapp.com/。我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。 提前说明:我的博客文章在博客园与CSDN都是同步更新的,但是我用的GA只能监控博客园的访问,CSDN不能,是因为CSDN屏蔽了GA的脚本,应该是CSDN会自动过滤JS代码吧!这里在补充一点点现在自己正在从事的IT技术相关工作,我不喜欢谈论公司的任何事情,只是简单介绍一下自己从事哪些方面的技术,方便与同行交流和沟通!目前自己工作的内容主要三方面:云计算(hadoop生态系统相关:如hbase、hive 阅读全文
posted @ 2011-12-11 03:47 蔷薇理想人生 阅读(1904) 评论(5) 推荐(2) 编辑
摘要: 我的独立博客网址是:http://wuyouqiang.sinaapp.com/。我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。 上一篇博文介绍了自己初入大学的一些情况,看了几位博友的评论,有点觉得是流水账,有的觉得是真实的叙述。其实这些评论都是非常正确和到位的,同一件事情不同的人肯定有不同的看法,而且不同的人都有自己爱好和性格。包括自己爱好的文章,有的喜欢真真切切,有的喜欢夸张或者是描述得更加丰富一些。但是我既然选择最真实最平淡的描述我的大学生活,因为真实才对别人有真实的意义,因为这个不是小说,可能看起来并不是那么给人淋漓. 阅读全文
posted @ 2011-12-10 01:36 蔷薇理想人生 阅读(1736) 评论(8) 推荐(2) 编辑
摘要: 我的独立博客网址是:http://wuyouqiang.sinaapp.com/。我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。 本篇文章主要介绍本系统中的日志管理功能,由前面介绍的内容可以知道日志分为三类:分别是用户操作日志、数据表更新日志以及数据库监控日志,这些日志的写入可能遍布整个系统中的各个地方。这里提供一个统一的日志管理界面,可以对日志进行查询和删除,并没有提供修改的功能,因为日志是系统自动生成的,修改日志没有任何意义,而且还可能造成系统的漏洞,比如谁删除了数据然后把删除的日志记录修改了,就不能正确发现谁删除了数据! 阅读全文
posted @ 2011-12-08 23:55 蔷薇理想人生 阅读(1539) 评论(0) 推荐(2) 编辑
摘要: 我的独立博客网址是:http://wuyouqiang.sinaapp.com/。我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。 最近在北京出差一直没有时间继续写博客,主要是晚上上网的条件不好,而且和几个同事住在一起也不太方便写博客,因为随时我们都可能聊天交流!今晚还是决定继续写一遍比较简单的博客,就是继续写ArcGIS的项目,今天主要介绍的内容就是关于空间数据完整性、格式等地检查!1.首先定义一个用于操作的SDE空间数据库的工作空间。1 public IFeatureWorkspace pWorkspaceSDE;//SDE 阅读全文
posted @ 2011-12-07 22:08 蔷薇理想人生 阅读(1715) 评论(0) 推荐(1) 编辑
摘要: 我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。 终于下定决心要写关于自己大学期间学习IT技术的点点滴滴了,很久以前自己就一直构思写自己大学期间的IT技术生活。为什么一直想写这一系列的博客呢?因为大学生活期间自己改变的太多,改变自己的最大原因就是因为自己有幸读取自己最感兴趣的计算机专业,其实当时自己只是对计算机感觉到很神秘,兴趣那时可能还谈不上吧,因为接触不多。不过进入大学以后开始慢慢接触计算机,自己的兴趣就这样被计算机慢慢激发出来。还有一点就是我觉得自己的大学生活很算很励志吧(自己臭美了)。想多说一句的就是:在大学期间可能在我 阅读全文
posted @ 2011-11-26 17:26 蔷薇理想人生 阅读(2032) 评论(6) 推荐(2) 编辑
摘要: 我的独立博客网址是:http://wuyouqiang.sinaapp.com/。我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。 前面第九篇把Shape格式导入已经完成了,在这个以后我又陆续加入其他几篇这个项目相关知识介绍的博文,加入那些知识的目的是为了让博友们能够更加清楚这个项目的一切相关知识,以便更好的理解这个项目。现在开始完成MDB格式导入Oracle数据库。 和Shape相同的部分就不在讲解了,只讲解与Shape不同的实现部分!1.添加一个MDB格式的空间数据文件到导入列表,并显示其相关信息。 1 //... 阅读全文
posted @ 2011-11-26 00:31 蔷薇理想人生 阅读(1819) 评论(0) 推荐(1) 编辑
摘要: 我的独立博客网址是:http://wuyouqiang.sinaapp.com/。我的新浪微博:http://weibo.com/freshairbrucewoo。欢迎大家相互交流,共同提高技术。 本系统主要是针对已有的空间数据和属性数据进行统一的管理,包括数据的录入、导入、校核、入库、分发、同步等。同时要求对空间数据库进行适当的优化,确保软件运行的效率。需要实现的功能包括通用数据库管理、空间数据库管理、数据检索、数据备份与恢复、数据库监控与日志、数据字典管理子系统、元数据管理子系统、数据内容本地化、数据库优化、数据库运行维护系统及制度。下面具体分析每一个模块需要完成的功能。1 通用数据管理通 阅读全文
posted @ 2011-11-25 00:49 蔷薇理想人生 阅读(2279) 评论(0) 推荐(0) 编辑