Python正则表达式总结

原创

精神抖擞王大鹏 2023-02-06 16:16:05 博主文章分类：Python爬虫 ©著作权

文章标签 python 爬虫正则表达式 python正则表达式 match 文章分类 Spark 大数据

©著作权归作者所有：来自51CTO博客作者精神抖擞王大鹏的原创作品，请联系作者获取转载授权，否则将追究法律责任

| 模式| 描述|
|----|----|
| \w  | 匹配字母数字及下划线 |
| \W  | 匹配非字母数字下划线 |
| \s  | 匹配任意空白字符，等价于 [\t\n\r\f]. |
| \S  | 匹配任意非空字符 |
| \d  | 匹配任意数字，等价于 [0-9] |
| \D  | 匹配任意非数字 |
| \A  | 匹配字符串开始 |
| \Z  | 匹配字符串结束，如果是存在换行，只匹配到换行前的结束字符串 |
| \z  | 匹配字符串结束 |
| \G  | 匹配最后匹配完成的位置 |
| \n | 匹配一个换行符 |
| \t | 匹配一个制表符 |
| ^ | 匹配字符串的开头 |
| $ | 匹配字符串的末尾。|
| . | 匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符。|
| [...] | 用来表示一组字符,单独列出：[amk] 匹配 'a'，'m'或'k' |
| [^...]  | 不在[]中的字符：[^abc] 匹配除了a,b,c之外的字符。| 
| * | 匹配0个或多个的表达式。|
| + | 匹配1个或多个的表达式。|
| ? | 匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式| 
| {n} | 精确匹配n个前面表达式。|
| {n, m} | 匹配 n 到 m 次由前面的正则表达式定义的片段，贪婪方式| 
| a|b | 匹配a或b |
| ( ) | 匹配括号内的表达式，也表示一个组 |

re.match

re.match 尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，match()就返回none。

#常规匹配

import re

content = 'Hello 123 4567 World_This is a Regex Demo'
print(len(content))
result = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$', content)
print(result)
print(result.group())
print(result.span())

#泛匹配
import re

content = 'Hello 123 4567 World_This is a Regex Demo'
result = re.match('^Hello.*Demo$', content)
print(result)
print(result.group())
print(result.span())

.*可以匹配除换行符之外的任意字符，$表示匹配一行字符串的结尾

#匹配目标

import re

content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^Hello\s(\d+)\sWorld.*Demo$', content)
print(result)
print(result.group(1))
print(result.span())

可以使用()将想提取的子字符串括起来，并指定左端点,右端点。()实际上标记了一个子表达式的开始和结束位置，被标记的每个子表达式都会对应每一个分组，调用group()方法传入分组的索引即可获取提取的结果。

使用group(1)，最后输出的结果为第一个被()包围的结果，如果后面还有()包括的内容,那么可以依次用group(2),group(3)来获取；

#贪婪模式
import re

content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*(\d+).*Demo$', content)
print(result)
print(result.group(1))

在这里,只得到了一个数字7，在贪婪匹配下， .*会匹配尽可能多的字符,而表达式中.*后面是\d+，即给后面就尽可能少的留数字，于是最后只输出7

#非贪婪匹配

import re

content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*?(\d+).*Demo$', content)
print(result)
print(result.group(1))

非贪婪匹配的写法是.*? ,即尽可能匹配少的字符，故.*?就尽可能少的匹配后面的数字\d,故后面显示的是全部的数字；

在做匹配的时候，字符串中间尽量使用非贪婪匹配，以免出现匹配结果缺失的情况；

#匹配字符

import re

content = '''Hello 1234567 World_This
is a Regex Demo
'''
result = re.match('^He.*?(\d+).*?Demo$', content, re.S)
print(result.group(1))

.匹配的是除换行符之外的任意字符，当遇到换行符时, .*?就不能匹配了，所以导致匹配失败。这里只需要加一个修饰符re.S

这个修饰符的作用是使.匹配包括换行符在内的所有字符。

(注:re.S经常在网页匹配中用到，因为html源码经常会换行)

#转义
import re

content = 'price is $5.00'
result = re.match('price is $5.00', content)
print(result)



import re

content = 'price is $5.00'
result = re.match('price is \$5\.00', content)
print(result)

总结：尽量使用泛匹配、使用括号得到匹配目标、尽量使用非贪婪模式、有换行符就用re.S

match方法匹配是从第一个开始，如果第一个没有，很容易造成匹配失误

re.search

#re.search 扫描整个字符串并返回第一个成功的匹配

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.match('Hello.*?(\d+).*?Demo', content)
print(result)


import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.search('Hello.*?(\d+).*?Demo', content)
print(result)
print(result.group(1))

总结：为匹配方便，能用search就不用match； match更适合用来检测某个字符串是否符合某个正则表达式的规则

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a>
        </li>
    </ul>
</div>'''
result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))

#齐秦 往事随风

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))

#任贤齐 沧海一声笑


import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
if result:
    print(result.group(1), result.group(2))

#beyond 光辉岁月

re.findall
搜索字符串，以列表形式返回全部能匹配的子串

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
print(results)
print(type(results))
for result in results:
    print(result)
    print(result[0], result[1], result[2])

#找出第一个不带a标签的歌
results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>', html, re.S)
print(results)
for result in results:
    print(result[1])

re.sub
替换字符串中每一个匹配的子串后返回替换后的字符串。

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
content = re.sub('\d+', '', content)
print(content)

#带原来的值，再续加

import re

content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
content = re.sub('(\d+)', r'\1 8910', content)
print(content)

#Extra stings Hello 1234567 8910 World_This is a Regex Demo Extra stings

也可以使用sub先将字符串简化，再使用findall进行查找：

#刚才的歌词字符串

html = re.sub('<a.*?>|</a>', '', html)
print(html)
results = re.findall('<li.*?>(.*?)</li>', html, re.S)
print(results)
for result in results:
    print(result.strip())

re.compile
将正则字符串编译成正则表达式对象

将一个正则表达式串编译成正则对象，以便于复用该匹配模式

import re

content = '''Hello 1234567 World_This
is a Regex Demo'''
pattern = re.compile('Hello.*Demo', re.S)
result = re.match(pattern, content)
#result = re.match('Hello.*Demo', content, re.S)
print(result)