python爬虫小结1

先看正则化,正则化就是描述命令和字符切分、查找、筛选等功能的方便方式。

http://www.cnblogs.com/fnng/archive/2013/05/20/3089816.html

 

一个游戏:https://alf.nu/RegexGolf

 

先谈谈有何用?初步理解:

各种网页、latex等杂乱的文档,如何整理有用的东西呢?比如很乱的一个文档中,定位user_id,然后提取相关的信息。设想没有这个“工具”,我们会写个函数,依次的滑动指针做匹配,也稍微有些烦人啊!更加复杂地,要是匹配一个:数字+任意3字母+某个固定字母+可重复2~4次的小单元字母,怎么做呢?直接用自己写的字符串处理函数,想想就心理发麻,四肢无力。好吧,爬虫就是要做这么枯燥的字符串处理,怎么办呢?挨个挨个保存网页图片?终究不是好办法,以后要是还要做数据集可不得了,想想还是学学爬虫,做一劳永逸的事。

 

1.简单模式:做匹配

在linux中,也用过*做拷贝的事,蛮方便的,哈哈。好!我们也试试怎么表达上面深蓝色的任务。首先看看这些关键的特殊地字符:

.^$*+?{[]\|()

(1)    . 表示任何东西,像linux里面的*

(2)  ^  求“非”该字符串  或者  匹配字符串的开头

(3)  $ 匹配字符串的末尾

(4) * 重复0次以上

(5) +重复1次以上

(6) ? 好像是选择

(7) {m,n} 重复m到n次

(8) []某个字符的范围,可列举,也可以指明区间,如[abc],或[a-c]

(9) () 是分组,是希望其他的符号对整块起作用。(ab)*和ab*区别在于abab...,和abbb...

(10) | 是或

(11) \ 转义

(12) \d 任何十进制数,相当于[0-9]

(13) \D 任何非数字字符,相当于[^0-9]

(14) \s 任何空白字符,相当于[\t\n\r\f\v]

(15)\S 任何非空白字符,相当于[^\t\n\r\f\v]

(16)\w 任何字母数字字符,相当于[a-zA-Z0-9_]

(17)\W 反之

 (18) \A 匹配句尾句首,无论是不是MULTILINE形式

(19) \Z 匹配句尾

(20) \b 单词边界。 只用以匹配单词的词首和词尾。单词被定义为一个字母数字序列,因此就是用空白符或者非字母数字符来标示。

(21)\B 则相反

 

2、使用正则表达式

实际中怎么用上面的东西呢?总得有个环境或者链接的“东西”告诉电脑,我表达的正则化的东西,不是一对乱数字啊。那直接写在python里面?str=xxx,还不行啊,只是个字符串,还没搞到正则化的“内核”\工具。好吧,答案是re 模块(包)来指明这一切的一切(小学喜欢写作文这么写,e.g., 他把自己一切的一切献给了祖国)。经过REs编译成为了“RegexObject”对象。对象可以有很多方法手段的哦。举个栗子:

import re

p = re.compile('ab*')    #编译

print p                        #看看是什么鬼

<re.RegexObject instance at 80b4150>

 再这里,先打个岔,转义符号的麻烦,我们知道要搞个\section的表达式(latex中最喜欢用\section来搞事情了。那么分析latex文档的小伙伴就要注意了),每当把“命令”当成字符串的时候就要加一个转义。第一次写成\\section作为字符串,以让第二个\保持。那如果把“命令+“\\section”当成字符串的时候,要削减两次,这时应该改成“命令+“\\\\section”,相当让人困惑。怎么办,早就有人注意到这个问题了。这样办:

 

ok,我们最后看看怎么执行匹配。这里,我们只看看最关键的几个方法:

(1) match()决定是否在字符串刚开始的位置匹配

(2) search()扫描字符串,找到这个RE匹配的位置

(3) findall() 找到RE匹配的所有子串,并把它们作为一个列表返回

(4) finditer() 找到RE匹配的所有子串,并把它们作为一个迭代器返回

match,search返回NONE如果没有匹配的话,反之返回Matchobject实例。查看实例相关,可以用这几个方法:

举个栗子:

栗子2:

栗子3:

栗子4:

有时候,不一定要先产生RegexObject对象,re模块提供顶级函数用match(), search(), sub()等等,可以将两步合成一步。这是RE字符串作为第一个参数,第二个则是相应RegexObject的方法参数相同。返回则要么是None要么就是一个MatchObject的实例。

编译标志:两种形式,一种是缩写,一种是字母

对于4,参考Page 13.

 

3. 更多模块功能

\b的栗子:

进一步地,看看r起的作用:

 

括号分组的栗子:

逆向引用没看到:

组:

命令组:?:

无捕捉组:?P<name>

 

界定符:

前向肯定界定符:(?=)

前向否定界定符:(?!)

4. 修改字符串

这里只是简单谈谈,不展开,因为现在还没用得上。(爬虫只要查找就行了吧?)

 

5. 常见问题

1)优化表达式

2)match()和search()

3)贪婪vs不贪婪:

 

posted on 2017-08-25 22:01  一动不动的葱头  阅读(171)  评论(0编辑  收藏  举报

导航