01 2014 档案

摘要:基本需求分析完数据后,一般需要将数据以附件的形式发送处理,这个已经在《》中有介绍,如何用Python实现附件的发送。但不是所有人都关心附件的内容,一般邮件中需要有些概要的信息,如附件信息的统计信息等。这就需要以表格的形式发送出来。如何设计一个通用的产生Table的函数,对模块的复用性大有益处。一个表格必备的有表格名,表格各列的解释,数据。如下是我的尝试(代码说明问题)function GenerateTable(){ local header="$1" local title="$2" shift 2 awk -v header="$heade 阅读全文
posted @ 2014-01-23 22:35 westfly 阅读(1945) 评论(0) 推荐(0)
摘要:其实不知道该起什么题目。先说下需求,线上的log是按照五分钟为粒度切分的,即每五分钟产生一个文件,19:04的log写入到1900结尾的log文件中,19:05写入到1905结尾的log文件中。在实时分析log的时候,往往需要我们将log的后缀拼接出来,如下是我实现的函数function GenLogSuffixFromUnixTime() { local unix_time=$1 local minute=`date -d @$unix_time +%M` minute=$(((10 + minute)%10)) if [[ $minute -ge 5 ]]; then min... 阅读全文
posted @ 2014-01-23 22:19 westfly 阅读(2670) 评论(1) 推荐(0)
摘要:遇到 No module named BeautifulSoup 错误,但是的确从官方下载了BeautifulSoup,并安装成功。后来才发现,有两个BeautifulSoup的版本,一个是2012年停止维护的BeautifulSoup3,还有个是新起的BeautifulSoup4.BeautifulSoup3 是from BeautifulSoup import BeautifulSoup而BeautifulSoup4 中的语句是 from bs4 import BeautifulSoup但所引用的库代码依赖的为BeautifulSoup3,而非安装的BeautifulSoup4。安装好Be 阅读全文
posted @ 2014-01-14 09:13 westfly 阅读(863) 评论(0) 推荐(0)
摘要:参考《Cygwin的包管理器:apt-cyg》cygwin下安装每次需要启动set_up,比较蛋疼,还是debian的apt方便,在网上看到应该cygwin下的apt,觉得不错。从http://apt-cyg.googlecode.com/svn/trunk/apt-cyg中获取bash源码。由于参考文章发表时间,当前http://mirrors.163.com/cygwin 有x86和x86_64两个目录。所以在不修改源码的情况下,将mirror的地址设置为http://mirrors.163.com/cygwin/x86_64。如果想通用些,一个思路是将version获取下来,代码如下un 阅读全文
posted @ 2014-01-12 13:03 westfly 阅读(1968) 评论(0) 推荐(0)
摘要:安装Cygwin可以参考《如何在Windows中通过Cygwin来使用Linux命令》。在Win8下貌似有个bug,需要将cygwin\bin\mintty 修改为cygwin\bin\mintty.exe,否则会出现无效的快捷方式的问题。关于如何安装ssh服务,参考文章《使用Cygwin通过ssh命令行来访问Windows7》,文章里面说得很清楚。由于mintty缺少tab功能,所以最好是让cygwin能够支持xshell这样比较好的ssh客户端。只需要修改默认的Administrator(替换成你的登录名)密码$passwd Administrator使用XShell连接localshot 阅读全文
posted @ 2014-01-12 11:59 westfly 阅读(568) 评论(0) 推荐(0)
摘要:shell中有个&,表示该程序在后台执行,其实是fork了一个子进程,跟系统调用是一样的。在实际的操作过程中,有时需要控制后台程序的个数,毕竟启动太多的后台,会对服务的性能造成影响。所以需要控制后台程序的个数。在Shell中,可以利用管道技术来实现,如下是程序的模板及其注释,有需要人可以拿去。#!/bin/bashfifo="/tmp/$$.fifo" #建立管道$$表示shell分配的进程号mkfifo $fifoexec 6$fifo #将fifo的fd与6号fd绑定thread_num=8 #启动的进程个数count=0;#预分配资源while [[ $c.. 阅读全文
posted @ 2014-01-10 15:04 westfly 阅读(1479) 评论(0) 推荐(0)