正则表达式:这是用来简洁表达一组字符串的表达式字符和操作符
优势:简洁
PY+表示以P开头后面有一个乃至无穷多个Y的表达式
“PY”开头,后续存在不多于10个字符,后续字符不能是“P”或“Y”
PY[^PY]{0,10}
正则表达式在文本处理中十分常用
表达文本类型的特征(病毒,入侵)
同时查找或替换一组字符串
匹配字符串的全部或部分
正则表达式的语法
re库的Match对象
match对象是一次运行的结果
match对象的方法:group(0),start(),end()
re库贪婪匹配和最小匹配
re库默认使用贪婪匹配,即最长匹配
最小匹配则需要加?
.表示任何单个字符,表示字符表上出现的任何字符。
[]是字符集,它对单个字符给出取值范围。如:[abc]表示a或b或c
[^]表示非字符集,给单个字符给出排除范围。如
[^abc]为非a或b或c的单个字符
表示前面一个字符0次到无数次扩展,如abc表示ab,abc,abc,abcc等
+表示前面一个字符1次到无数次扩展,如abc+表示abc,abc,abcc等
?表示前面一个字符0次或1次扩展,如abc?表示ab,abc
|表示左右表达式任一个,如abc|def表示abc或def
{m}表示扩展前面一个字符m次,如ab{2}c表示abbc
{m,n}表示扩展前面一个字符m到n次,如ab{1,2}c表示abc,abbc
匹配字符串的开头,如abc表示abc且在一个字符串的开头
匹配字符串的结尾,如abc匹配字符串的结尾,如abc匹配字符串的结尾,如abc表示abc且在一个字符串的结尾
()分组标记,内部只能使用|
\d 等价于 {0-9}
\w 等价于 {A-Za-z0-9_}
例子
1
P(Y|YT|YTH|YTHO)?N
这个正则表达式的意义是从Y,YT,YTH,YTHO四个中任选一个,这个被选到的数出现0次或1次所构成的表达式
PN,PYN,PYTN,PYTHON
2
PY[TH]ON 这个正则表达式的意义是从从T和H两个字符中任选一个,那么它对应的字符串为:
PYTON,PYHON
3
PY[[^TH]?ON这个正则表达式很有意思,它是否定的,而且这个否定可出现一次也可不出现
那么它对应的字符串就知道了
PYON,PY和ON间只要不是TH都可以
4整数形式的字符串
^-?\d+KaTeX parse error: Expected 'EOF', got '\d' at position 11: 这个表达式的意义为:\̲d̲表示数字0-9,+表示0-9出…表示匹配该数的前段和后端
5 IP地址表达的正则表达式
(([1-9]?\d|1\d{2}|2[0-4]\d|25[0-5]).){3}([1-9]?\d|1\d{2}|2[0-4]\d|25[0-5])
而在我们爬取淘宝商品的代码中,同样也遇到了正则表达式
plt = re.findall(r’“view_price”:"[\d.]*"’,html)
import requests
import re
def getHTMLText(url):#这个函数的意义是从淘宝界面爬取源代码
try:
r = requests.get(url, timeout = 30)
r.raise_for_status()
r.encoding = r.apparent_encoding#有时apparent属性和apparent_encoding属性不一致,此时要用encoding
return r.text
except:
return ""
def parserPage(ilt, html):#这是从爬取的源代码分析出价格和名称两个属性,这里的ilt表示获得结果的列表类型,html是获得的页面内容
try:
plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"',html)#我们通过分析页面的源代码,即我们爬取到的内容,可以看到,view_price对应着价格
#而raw_title对应着名称
#我们使用了正则表达式的findall方法,用\引入了一个"和view_price,用\引入了一个"这里的意义是在获取的页面中提取出来veiw_price之后的内容
#中数字和小数点混合的部分
tlt = re.findall(r'\"raw_title\"\:\".*?\"',html)# *?是最小匹配的意义,这里就是匹配键值对,也就是键"raw_price"对应着值"的最小匹配
for i in range(len(plt)):
price = eval(plt[i].split(':')[1])#此处用[1]的原因是python的下标从0开始,而这里的plt和tlt都有两个属性,键和值
title = eval(tlt[i].split(':')[1])
ilt.append([price , title])
except:
print("")
def printGoodsList(ilt):#这个是进行输出
tplt = "{:4}\t{:8}\t{:16}"
print(tplt.format("序号","价格","商品名称"))
count = 0
for g in ilt:
count = count +1
print(tplt.format(count, g[0], g[1]))
def main():
goods = '书包'#搜索关键词定义为goods
depth = 3#此处是设定爬取的深度,在淘宝界面上,每四十四个商品为一页,此处深度为3就是爬取120个商品
start_url = 'https://s.taobao.com/search?q=' + goods#此处可以对淘宝页面进行分析可知
infoList = []
for i in range(depth):
try:
url = start_url + '&s=' + str(44*i)
html = getHTMLText(url)#
parserPage(infoList, html)#处理每个页面的解析过程
except:
continue
printGoodsList(infoList)
main()
.