5-正则匹配获取数据

4,正则匹配-数据获取

https://docs.python.org/zh-cn/3/library/re.html

正则表达式是对字符串操作的一种逻辑公式，事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符”，这个“规则字符” 来表达对字符的一种过滤逻辑

常见的正则表达式符号和特殊符号

\w      匹配字母数字及下划线
\W      匹配f非字母数字下划线
\s      匹配任意空白字符，等价于[\t\n\r\f]
\S      匹配任意非空字符
\d      匹配任意数字
\D      匹配任意非数字
\A      匹配字符串开始
\Z      匹配字符串结束，如果存在换行，只匹配换行前的结束字符串
\z      匹配字符串结束
\G      匹配最后匹配完成的位置
\n      匹配一个换行符
\t      匹配一个制表符
^       匹配字符串的开头
$       匹配字符串的末尾
.       匹配任意字符，除了换行符，re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符
[....]  用来表示一组字符，单独列出：[amk]匹配a,m或k
[^...]  不在[]中的字符：[^abc]匹配除了a,b,c之外的字符
*       匹配0个或多个的表达式
+       匹配1个或者多个的表达式
?       匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式
{n}     精确匹配n前面的表示
{m,m}   匹配n到m次由前面的正则表达式定义片段，贪婪模式
a|b     匹配a或者b
()      匹配括号内的表达式，也表示一个组

匹配一个或多个表达式

匹配字符或单词边界

字符集

星号或者星号操作符（*）将匹配其左边的正则表达式出现零次或者多次的情况（在计算机编程语言和编译原理中，该操作称为 Kleene 闭包）。加号（+）操作符将匹配一次或者多次出现的正则表达式（也叫做正闭包操作符），问号（？）操作符将匹配零次或者一次出现的正则表达式

字符集特殊字符

分组

圆括号表示分组

扩展表示法

Python操作

re模块

re 模块：核心函数和方法

一些理论

1,原子
原子是正则表达式(模式pattern)中最基本的组成方式,每个正则表达式中,至少要包含一个原子,常见的原子分类:
普通字符作为原子 : 数字,大小写字母,下划线
非打印字符作为原子 : 用于格式控制的字符 \n
通用字符作为原子 : \w \d
原子表 : [adb] [^adgk]

2,元字符
表达式中具有一些特殊含义的字符
任意匹配元字符 .
边界限制元字符 ^$
限定符 * ? + {n} {n,} {n,m}
模式匹配选择
"python|c"

模式单元符
() 将一些原子组成一个大原子使用,小扩号里的部分会被当做一个整体去使用

3,模式修正
模式修正符，即可以在不改变正则表达式的情况下，通过模式修正符,改变正则表达式的含义，从而实现一些匹配结果的调整等功能,比如可以使用模式修正符I让对于模式在匹配时不区分大小写

4, 贪婪模式与懒惰模式
贪婪模式是尽可能的匹配
懒惰模式是尽可能的少匹配

示例:

# 正则表达式pattern1中，cd被看成一个大原子，此时的含义代表“cd”整体至少出现一次，当然会尽量多的匹配，所以此时，可以从源字符串"abcdcdcdcdfphp 345pythony_py"中匹配出结果'cdcdcdcd'；
# 而在正则表达式pattern2中，其含义是d原子至少出现1次，而不会把cd看为一个整体，所以此时只能匹配到结果'cd'。
pattern1="(cd){1,}"
pattern2="cd{1,}"
string="abcdcdcdcdfphp345pythony_py"
result1=re.search(pattern1,string)
result2=re.search(pattern2,string)
print(result1)
print(result2)

<re.Match object; span=(2, 10), match='cdcdcdcd'>
<re.Match object; span=(2, 4), match='cd'>

result1.group(0)

'cdcdcdcd'

import re
pattern1="py.*n"
pattern2="cd{2}"
pattern3="cd{3}"
pattern4="cd{2,}"
string="abcdddfphp345pythony_py"
result1=re.search(pattern1,string)
result2=re.search(pattern2,string)
result3=re.search(pattern3,string)
result4=re.search(pattern4,string)
print(result1)
print(result2)
print(result3)
print(result4)

<re.Match object; span=(13, 19), match='python'>
<re.Match object; span=(2, 5), match='cdd'>
<re.Match object; span=(2, 6), match='cddd'>
<re.Match object; span=(2, 6), match='cddd'>

print(result2.group())
# 返回整个匹配对象
print(result2.groups())
#返回一个匹配所有子组的元组,如果没有匹配成功,则返回一个空元组

cdd
()

import re
pattern1="(cd){1,}"
pattern2="cd{1,}"
string="abcdcdcdcdfphp345pythony_py"
result1=re.search(pattern1,string)
result2=re.search(pattern2,string)
print(result1)
print(result2)

<re.Match object; span=(2, 10), match='cdcdcdcd'>
<re.Match object; span=(2, 4), match='cd'>

result1.group()

'cdcdcdcd'

result2.group()

'cd'

result1.groups()

('cd',)

result2.groups()

()

import re
pattern1="python"
pattern2="python"
string="abcdfphp345Pythony_py"
result1=re.search(pattern1,string)
result2=re.search(pattern2,string,re.I)
print(result1)
print(result2)

None
<re.Match object; span=(11, 17), match='Python'>

# 贪婪模式与懒惰模式
import re
pattern1="p.*y"  #贪婪模式
pattern2="p.*?y" #懒惰模式
string="abcdfphp345pythony_py"
result1=re.search(pattern1,string)
result2=re.search(pattern2,string)
print(result1)
print(result2)

<re.Match object; span=(5, 21), match='php345pythony_py'>
<re.Match object; span=(5, 13), match='php345py'>

# 懒惰模式采用的是就近匹配原则，可以让匹配结果更为精确,过贪婪模式匹配，已经找到了一个结尾y字符了，但仍然不会停止搜索，直到找不到结尾字符y为止才停止搜索，
# 用懒惰模式，一旦搜索到了结尾字符y,就立即停止

# 怎么设置贪婪模式和懒惰模式呢,通常情况下，如果我们想在某些字符间匹配任意字符，像“p.*y”这样写没有任何的语法错误，这个时候默认是使用贪婪模式的
# 如果要转化为懒惰模式，需要在对应的“.*”后面加上“？”，方可转化为懒惰模式

##re.match()函数: 从头开始匹配

import re
string="apythonhellomypythonhispythonourpythonend"
pattern=".python."
result=re.match(pattern,string)
result2=re.match(pattern,string).span()
# .span() 设置过滤不必需要的信息,只留下匹配成功的结果在源字符串中的位置
print(result)
print(result2)

<re.Match object; span=(0, 8), match='apythonh'>
(0, 8)

# re.search（）函数会在全文中进行检索并匹配
import re
string="hellomypythonhispythonourpythonend"
pattern=".python."
result=re.match(pattern,string)
result2=re.search(pattern,string)
print(result)
print(result2)

None
<re.Match object; span=(6, 14), match='ypythonh'>

# re.match() 和 re.search() 函数,即使原字符串中有多个结果符合模式,也只会匹配一个结果,如何将符合模式的内容全部匹配出来??
# 方式:
# 1,使用re.compile()对正则表达式预编译
# 2,编译后使用findall() 根据正则表达式从源字符串中将匹配的结果全部找出来

import re
string="hellomypythonhispythonourpythonend"
pattern=re.compile(".python.")#预编译
result=pattern.findall(string)#找出符合模式的所有结果
print(result)

['ypythonh', 'spythono', 'rpythone']

## 或者
import re
string="hellomypythonhispythonourpythonend"
pattern=".python."
result=re.compile(pattern).findall(string)
print(result)

['ypythonh', 'spythono', 'rpythone']

## re.sub(pattern,rep,string,max)
# 第一个参数为对应的正则表达式，第二个参数为要替换成的字符串，第三个参数为源字符串，第四个参数为可选项，代表最多替换的次数，如果忽略不写，则会将符合模式的结果全部替换
# re.sub（）这个函数，会根据正则表达式pattern，从源字符串string查找出符合模式的结果，并替换为字符串rep，最多可替换max次。
import re
string="hellomypythonhispythonourpythonend"
pattern="python."
result1=re.sub(pattern,"php",string) #全部替换
result2=re.sub(pattern,"php",string,2) #最多替换两次
print(result1)
print(result2)

hellomyphpisphpurphpnd
hellomyphpisphpurpythonend

## 匹配示例
# 匹配.com  .cn 后缀的url
import re
pattern="[a-zA-Z]+:// [^\s]*[.com|.cn]"
string="<a href='http:// www.baidu.com'>百度首页</a>"
result=re.search(pattern,string)
print(result)


# 匹配电话号码
import re
pattern="\d{4}-\d{7}|\d{3}-\d{8}" #匹配电话号码的正则表达式
string="021-6728263653682382265236"
result=re.search(pattern,string)
print(result)

# 匹配邮件地址
import re
pattern="\w+([.+-]\w+)*@\w+([.-]\w+)*\.\w+([.-]\w+)*" #匹配电子邮件的正则表达式
string="<a href='http:// www.baidu.com'>百度首页</a><br><a href='mailto:c-e+o@iqi-anyue.com.cn'>电子邮件地址</a>"
result=re.search(pattern,string)
print(result)

re.match()

尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配的话，match（）就会返回None
语法格式：
re.match(pattern,string,flags=0)

import re

content= "hello 123 4567 World_This is a regex Demo"
result = re.match('^hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$',content)
print(result)
print(result.group())
print(result.span())

result.group()获取匹配的结果
result.span()获去匹配字符串的长度范围

泛匹配

import re

content= "hello 123 4567 World_This is a regex Demo"
result = re.match("^hello.*Demo$",content)
print(result)
print(result.group())
print(result.span())

匹配目标

如果为了匹配字符串中具体的目标，则需要通过（）括起来

import re
content= "hello 1234567 World_This is a regex Demo"
result = re.match('^hello\s(\d+)\sWorld.*Demo$',content)
print(result)
print(result.group())
print(result.group(1))
print(result.span())

通过re.group()获得结果后，如果正则表达式中有括号，则re.group(1)获取的就是第一个括号中匹配的结果

贪婪匹配

import re

content= "hello 1234567 World_This is a regex Demo"
result= re.match('^hello.*(\d+).*Demo',content)
print(result)
print(result.group(1))

只匹配到了7，并没有匹配到1234567，出现这种情况的原因是前面的.* 给匹配掉了，.*在这里会尽可能的匹配多的内容，也就是我们所说的贪婪匹配.

#如果我们想要匹配到1234567则需要将正则表达式改为：

result= re.match('^he.*?(\d+).*Demo',content)

匹配模式

很多时候匹配的内容是存在换行的问题的，这个时候的就需要用到匹配模式re.S来匹配换行的内容

import re


content = """hello 123456 world_this
my name is zhaofan
"""

result =re.match('^he.*?(\d+).*?zhaofan$',content,re.S)
print(result)
print(result.group())
print(result.group(1))

转义

import re

content= "price is $5.00"

result = re.match('price is \$5\.00',content)
print(result)
print(result.group())

对上面的一个小结：
尽量使用泛匹配，使用括号得到匹配目标，尽量使用非贪婪模式，有换行符就用re.S
强调re.match是从字符串的起始位置匹配一个模式

re.search

re.search扫描整个字符串返回第一个成功匹配的结果

import re

content = "extra things hello 123455 world_this is a Re Extra things"

result = re.search("hello.*?(\d+).*?Re",content)
print(result)
print(result.group())
print(result.group(1))

这个时候我们就不需要在写^以及$，因为search是扫描整个字符串
注意：所以为了匹配方便，我们会更多的用search，不用match,match必须匹配头部，所以很多时候不是特别方便

匹配练习

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''

result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>',html,re.S)
print(result)
print(result.groups())
print(result.group(1))
print(result.group(2))

re.findall

搜索字符串，以列表的形式返回全部能匹配的子串

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''

results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
print(results)
print(type(results))
for result in results:
    print(result)
    print(result[0], result[1], result[2])

例子2:

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''

results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>',html,re.S)
print(results)
for result in results:
    print(result[1])

总结:

\s*? 这种用法其实就是为了解决有的有换行，有的没有换行的问题

(<a.*?>)? 这种用法是因为html中有的有a标签，有的没有的，？表示匹配一个或0个，正好可以用于匹配

re.sub re.subn

搜索和替换功能
subn()和 sub()一样，但 subn()还返回一个表示替换的总数，替换后的字符串和表示替换总数的数字一起作为一个拥有两个元素的元组返回。

import re

content = "Extra things hello 123455 World_this is a regex Demo extra things"

content = re.sub('\d+','',content)
print(content)

例子2:
在有些情况下我们替换字符的时候，还想获取我们匹配的字符串，然后在后面添加一些内容

import re

content = "Extra things hello 123455 World_this is a regex Demo extra things"

content = re.sub('(\d+)',r'\1 7890',content)
print(content)

#\1是获取第一个匹配的结果，为了防止转义字符的问题，我们需要在前面加上r

split()分隔字符串

re.compile

将正则表达式编译成正则表达式对象，方便复用该正则表达式

import re
content= """hello 12345 world_this
fan
"""

pattern =re.compile("hello.*fan",re.S)

result = re.match(pattern,content)
print(result)
print(result.group())

实验:

import requests
import re
html = requests.get("http://www.iphai.com/free/wg")
find_tr = re.compile('<tr>(.*?)</tr>', re.S)
trs = find_tr.findall(html.text)  #需要获取的是网页的文本string   trs为列表
print(trs[2])  #出现不规则的一行
protocol = re.compile('<td>\s+HTTPS\s+</td>', re.S)
pp = protocol.findall(trs[3]) #匹配的是具有HTTPS的一行
['<td>\n                            HTTPS                        </td>']

protocol = re.compile('<td>\s+(HTTPS)\s+</td>', re.S)  #仅仅匹配分组,获取分组
pp = protocol.findall(trs[3])  
print(pp)
['HTTPS']