python爬虫—正则表达式的使用

Python网络爬虫和正则表达式学习总结 阅读目录 1.利用urllib2对指定的URL抓取网页内容 2. 使用正则表达式过滤抓取到的网页信息 2.1 正则表达式介绍 2.2 Python的re模块 2.3 Python正则表达式汇总   以前在学校做科研都是直接利用网上共享的一些数据,就像我们经常说的dataset、beachmark等等。但是,对于实际的工业需求来说,爬取网络的数据是必须的并且是首要的。最近在国内一家互联网公司实习,我的mentor交给我的第一件事就是去网络上爬取数据,并对爬取的数据进行相关的分析和解析。 很多人学习 阅读详情

python爬虫—正则表达式的使用
“”"
^匹配字符串的开头
$匹配字符串的结尾
.匹配任意字符除了换行符,当re.DOTALL标记被指定时,则可以匹配包括换行的任意字符
[…]用来表示一组字符,单独列出,[adas]匹配’a’‘d’;‘a’‘s’
[^…]匹配不在[]中的字符
re* 匹配0和或多和表达式
re+ 匹配一个或多个的表达式
re? 匹配0或1个由前面的正则表达式定义的片段,非贪婪方式
re{n}
re{n,} 精确匹配N个前面表达式
re{n,m} 匹配n到m次由前面的正则表达式定义的片段,贪婪方式
a b
(re) G匹配括号内的表达式,也表示一个组
(?imx) 正则表达式包含三种可选标志:i,m或x 之影响括号内的区域
(?#.)注释
\w 匹配字母数字及下划线
\W 匹配非字母数字及下划线
\s 匹配任意空白字符,等价于【\t\n\r\f】
\S 匹配任意非空字符
\d 匹配任意数字,等价于[1-9]
\D 匹配任意非数字
\A 匹配字符串开始
\Z 匹配字符串结束,如果是存在换行,只匹配到换行前的结束字符串
\z 匹配字符串结束
\G 匹配最后完成匹配的位置
\b 匹配一个单词边界,也就是之单词和空格键的位置例如:er\b 可以匹配never 中的er 但是不可以匹配verb的er
\n,\t 匹配一个换行符,匹配一个制表符
\1…\9 匹配第n个分组的内容、
\10 匹配第n个分组的内容,如果经匹配,否则指的是八进制字符码的表达式
[\u4e00-\u9fa5] 中文

贪婪模式:总是匹配尽量多的字符】默认是贪婪的,非贪婪模式加个?
例如:正则表达式ab如果用于查找"abbbc" ,将找到’abbb’3而如果使用非贪婪模式ab?,将找到’a’

常用方法:
re.match() 尝试从字符串的起始位置
re.search
re.search扫描整个字符串并成功返回第一个成功的匹配
函数语法:re.search(pattern,string,flags=0)
re.sub
re.sub替换字符串re.sub(pattern,replace,string)
re.findall
re.findall查找全部 re.findall(pattern,string,flags=0)
“”"

实例演示:

import re
str1  = "I Study Python3.7 Everyday "
print("*****match****")
m1 = re.match(r'I',str1)
m2 = re.match(r"\w",str1)
m3 = re.match(r".",str1)
m4 = re.match(r"\D",str1)
m5 = re.match(r"i",str1,re.I)
m6 = re.match(r"\S",str1)
print(m1.group())
print(m4.group())
print(m5.group())
m = re.match(r"Study",str1)#匹配不到,因为match是从左开始匹配
print(m)
print("****re.search()*******")
m1 = re.search(r"Study",str1)
m3 = re.search(r"S\w+",str1)
m2 = re.findall(r"Study",str1)

print(m2[0])
m1 = re.search(r"P\w+.\d",str1)
print(m1.group())


f1 = re.findall(r"y",str1)#findall是一个列表
print(f1)
import re
str2 = '<div><a herf ="https://www.baidu.com/">bjsxt百度</a></div>'
# f1 = re.findall(r"[\u4e00-\u9fa5]\w+",str2)
# f2 = re.findall(r'<a herf ="https://www.baidu.com/">(.+)</a>',str2)
f3 = re.findall(r'a herf ="(.+)">',str2)
print(f3)
str2 = '<div class = "info" id = "info"><a herf ="https://www.baidu.com/">bjsxt百度</a></div>'
import re
str2 = '<div><a herf ="https://www.baidu.com/">bjsxt百度</a></div>'
sul = re.sub(r"<div>(.+)</div>",r"<span>\1</span>",str2)#\1一个分组
print(sul)

Python网络爬虫案例实战:解析网页:正则表达式解析网页 正则表达式并不是Python的一部分。正则表达式是用于处理字符串的强大工具,拥有自己独特的语法以及一个独立的处理引擎,效率上可能不如str自带的方法,但功能十分强大。得益于这一点,在提供了正则表达式的语言中,正则表达式的语法都是一样的,区别只在于不同的编程语言实现支持的语法数量不同;但不用担心,不被支持的语法通常是不常用的部分。图5-1展示了使用正则表达式进行匹配的流程。正则表达式的大致匹配过程是:依次拿出表达式和文本中的字符比较,如果每一个字符都能匹配,则匹配成功;一旦有匹配不成功的字符则匹配失败。 阅读详情

相关推荐

[Python从零到壹] 四.网络爬虫之入门基础及正则表达式抓取博客案例

欢迎大家来到“Python从零到壹”,在这里我将分享约200篇Python系列文章,带大家一起去学习和玩耍,看看Python这个有趣的世界。所有文章都将结合案例、代码和作者的经验讲解,真心想把自己近十年的编程经验分享给大家。第四篇文章将开启网络爬虫之旅,首先介绍基础知识及正则表达式的爬虫,希望对您有所帮助,文章中不足之处也请海涵。

杨秀璋的专栏 2万+

Python网络爬虫—字符串实例

Python网络爬虫,首先我们得知道最笨的方法,通过字符串匹配。 以下实例,找到对应网页,爬取图片并保存 # 字符格式查找,网络爬虫爬取图片 import urllib.request import os def url_open(url): req = urllib.request.Request(url) req.add_header('User-Agen...

麦小洛 743

【Python入门】速成Python网络爬虫高手,正则表达式从零基础到实战只需一篇

恭喜你,已经完成了Python网络爬虫中使用正则表达式提取数据的基础学习!通过今天的讲解,你应该已经掌握了如何使用正则表达式匹配各种模式、提取网页中的链接、电话号码、电子邮件地址、日期和价格。这些技能不仅能够帮助你在工作中提高效率,还能让你在朋友面前显得特别酷。所以,赶紧动手试试吧,也许你下一个爬虫项目就是用正则表达式开发的呢!

java专栏 1613

Python爬虫之正则表达式

Python爬虫之正则表达式 0.介绍 爬虫的分类:网络爬虫可分为 通用爬虫 和 聚焦爬虫 两种 通用爬虫:通用网络爬虫 是 捜索引擎抓取系统(Baidu、Google、Yahoo等)的重要组成部分。主要目的是将互联网上的网页下载到本地,形成一个互联网内容的镜像备份。 聚焦爬虫:聚焦爬虫,是"面向特定主题需求"的一种网络爬虫程序,它与通用搜索引擎爬虫的区别在于:聚焦爬虫在实施网页抓取时会对内容进行处理筛选,尽量保证只抓取与需求相关的网页信息。 1.操作符 \S:与 \s 相反 \w:

Harris-H的博客 2814

(十)python网络爬虫(理论+实战)——正则表达式再讨论、常用正则表达式整理

本节主要是介绍了如何编写正确的正则表达式,借助正则表达式在线检测工具,记住常用正则表达式的编写。

c1007857613的专栏 4035

(八)python网络爬虫(理论+实战)——html数据解析之“正则表达式”

我们这里主要介绍一些基本知识和常用的方法。本节主要是介绍了html数据的基本结构,正则表达式的规则和常用的方法,一开始学习的时候,正则表达式的规则不需要强记,在需要使用的时候再来查询相关文档也是可以的。

c1007857613的专栏 3862

Python爬虫之正则表达式的使用

Python之正则表达式在爬虫领域的使用

piaow_的博客 807

〖Python网络爬虫实战⑩〗- 正则表达式实战(一)

今天,我们先通过一个简单的小案例,来学习正则表达式是如何使用的,下一篇,我们继续讲一个案例,加深大家对正则表达式的理解。

爱吃饼干的小白鼠的博客 672

python爬虫正则表达式使用说明

Python 爬虫和正则表达式是自动化网络数据提取中常用的两种技术。本文将详细介绍如何使用 Python 编写爬虫,结合正则表达式提取网页中的数据。

yuwinter的博客 2990

四、SVN客户端tortoiseSVN的基本功能介绍

档案浏览器(Repo-browser) 鼠标右键–>tortoiseSVN->版本库浏览器 输入版本库URL地址,进入如菜单界面 版本库浏览器支持SVN及http两种最常用的通信协议 SVN服务器访问方式 方法 模式 访问方法 File:// 直接版本库访问(本地磁盘) http:// 通过配置subversion的WEB服务器的WEBDAV协议 http...

也许是我送你哦 1011

使用python获取同花顺免费版和同花顺远航版自选股数据用于量化交易

在做量化交易时,有时需要在盘中实时监控同花顺自选股的数量,以便灵活地自定义提醒、捕捉买卖时点等。那么,如何使用python获取同花顺自选股数据呢?

tzzqn2008的专栏 3682

爬虫入门(三)——正则表达式(用法+实操)

正则表达式的概念是使用单个字符串来描述、匹配一系列匹配某个句法规则的字符串。简单来说,正则表达式就是通过一定的匹配规则,从一个字符串中提取出我们想要的数据。虽然有时候会比较复杂,但无疑它是非常强的。

木木的博客 2562

Python实战:5分钟搞定抖音无水印视频下载(附完整代码)

本文系统介绍了抖音无水印视频下载的多种技术方案,重点解析了抖音视频的获取逻辑与去水印原理。文章提供了从零代码的浏览器插件到可编程的Python脚本的完整实现路径,并附带了详细的代码示例,帮助用户快速构建自己的抖音视频下载工具箱。

weixin_29089057的博客 847

【Python网络爬虫】python爬虫用正则表达式进行数据清洗与处理

在Python网络爬虫的数据清洗与处理过程中,正则表达式是一个非常强大的工具,它可以帮助我们从复杂的文本数据中提取出所需的信息。在Python中,re模块提供了对正则表达式的支持。

左手の明天的博客 1969

MathType公式使用技巧汇总——Mathtype怎么在word中编辑公式?论文中公式有哪技巧?有哪些注意事项?论文中的公式怎么写?

如果word中到公式编号(2-1)中间的符号如下图........ .......类似与省略号的,这是手动打的空格,公式和编号的位置都是手动敲空格操作的,这种就只是使用MathType写了公式而已,格式上还是很不方便的。**如果要修改公示,直接双击文档中的公式,就会自动弹出MathType公式编辑窗口,进行修改。如果要修改公示,直接双击文档中的公式,就会自动弹出MathType公式编辑窗口,进行修改。而第二种,是公式里面带的括号符号,他是可以随着公式结构自适应变化的。这时需要将公式插入到一行文字的某处,

程序员,他们想的是什么?他们想的永远都是技术,他们崇尚的也永远都是技术。 5万+

在 SAP Gateway 主机上把 SAML 2.0 配置为 Service Provider:从架构到落地的完整实战

本文详细介绍了在SAP Gateway主机上配置SAML 2.0作为Service Provider的全流程。从概念梳理到实际操作,涵盖了关键步骤:启用本地SP服务、通过反向代理导出元数据、在IdP侧完成对接、配置信任关系与Artifact绑定、设置NameID身份联合等核心环节。特别强调了HTTP Artifact绑定的背道通信机制和证书配置要点,并针对常见错误提供了排障指引。文章注重实操性,结合SAP官方文档与社区最佳实践,为运维团队提供了一套完整的SAML SSO实施框架。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 150

Python网络爬虫及正则表达式使用详解

Python网络爬虫及正则表达式使用详解 微信关注公众号:夜寒信息 致力于为每一位用户免费提供更优质技术帮助与资源供给,感谢支持!     相信大家都听说过正则表达式及其神奇的用法,正则表达式是用来简洁表达一组字符串的表达式,下面我们来介绍它的用法。 假设有如下的一组字符串,它由’PY’构成,首字母为P后续为一个或无穷多个Y: PY PYY PYYY PYYYY ... PYYYYY... ...

qq_35572368的博客 1466

YOLOv9实战:刀具磨损实时监控从摄像头到预测性维护(附车间落地代码)

摘要: 本文针对制造业刀具磨损监控痛点,提出基于YOLOv9的实时视觉检测方案。通过工业相机采集刀具图像,结合图像预处理(去油污、增强对比度)和深度学习模型,实现磨损等级分类与寿命预测。系统集成硬件选型(抗油污相机、红色环形光源)、数据增强(旋转、噪声模拟)及预测性维护(PLC联动),实测刀具利用率提升30%,工件报废率降至0.5%以下。详解车间部署、模型训练到系统落地的全流程,附代码与避坑指南,为工业视觉项目提供实战参考。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 541

【Python3网络爬虫】 正则表达式

正则表达式是处理字符串的强大工具,它有自己的特定语法结构,有了它,实现字符串的检索、替换、匹配 验证都不在话下。当然、对于爬虫而言,有了它,从HTML中提取信息就变得非常方便。1.正则表达式介绍开源中国的一个网站:http://tool.oschina.com/regex写好正则表达式之后,就可以拿他去一个长的字符串里面匹配查找了。不论这个字符串里面有什么,只要匹配符合我们所写的规则,统统可以查找...

搬砖者也 451

matlab处理las点云(1)——las/laz格式解析【2024最新版】

matlab中的las/laz格式解析。博客长期更新,本文最近一次更新时间为:2024年11月9日。

点云侠的博客 8460

电气:蒙特卡洛1000个风光场景并通过削减法|聚类法得到几个典型场景(matlab\python实现)

    个人电气目录传送门:学好电气全靠它,个人电气博文目录(持续更新中…)     本文内容包括22页(代码和一些自己对风光的观点) 提示:专栏解锁后,可以查看该专栏所有文章,划算。 文章目录一、理论依据1.风电DG出力概率模型1.2光伏DG出力概率模型1.3对风光的认识二、蒙特卡洛模拟1000个风光场景、并通过削减法得到5个典型风电场景 (Matlab 版程序)三、蒙特卡洛模拟1000个风光场景、并通过聚类法得到5个典型

总裁余(余登武)博客 7681

【Python入门】揭开数据的面纱:Python正则表达式在网络爬虫中的妙用

在这篇文章中,我们学习了正则表达式的基础知识,并通过实际的例子来演示了如何在网络爬虫中使用正则表达式来提取和分析数据。📋 正则表达式是Python编程中的一项基本技能,它让你能够高效地处理文本数据。

墨夶的博客 578

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

Python之网络爬虫---正则表达式

Python之网络爬虫 1.网络爬虫概念 说明:网络爬虫就是从互联网中定向或者不定向的采集信息的一种程序。网络爬虫有很多类型:通用网络爬虫、聚焦网络爬虫等等 应用: (1)搜索引擎 (2)采集金融数据 (3)采取商品信息 (4)自动过滤广告 (5)采集信息,进行相关数据分析 2.正则表达式 说明:要用正则表达式,要导入模块inport re (1)原子 说明:是正则表达式中最基本的单位,每个正则表...

渐渐的忘记,赶不上明天(读研ing,2024年毕业) 3222

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

Python网络爬虫开发(1)正则表达式

一、网络爬虫简介: 网络爬虫也被称为网络蜘蛛、网络机器人,是一个自动下载网页的计算机程序或自动化脚本。 网络爬虫就像一只蜘蛛一样再互联网上沿着URL的丝路爬行,下载每一个URL所指向的网页,并分析和获取页面内容。 网络爬虫的功能强大,可以进行收集数据(最直接、最常用的使用方法),尽职调查,刷流量和秒杀等功能。 爬虫再爬取数据时将会作为客户端模拟整个HTTP通信过程,该程序也需要通过HTTP协议实现。 HTTP请求方式的常用方法有以下四种: 请求方法 方法描述 GET 请求指定的页

qq_61822522的博客 994

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

python网络爬虫中最常用的正则表达式

【代码】python网络爬虫中最常用的正则表达式。

weixin_47476217的博客 563

Python网络爬虫四大选择器(正则表达式、BS4、Xpath、CSS)总结

Python网络爬虫四大选择器(正则表达式、BS4、Xpath、CSS)总结 0.前言 相关实战文章: 正则表达式、BeautifulSoup、Xpath、CSS选择器分别抓取京东网的商品信息。 网络爬虫:模拟客户端批量发送网络请求,批量接收请求对应的数据,按照一定的规则,自动抓取互联网信息的程序,进行数据采集,并进行持久化存储。其他用途:百度搜索, 12306抢票、各种抢购、投票、刷票、短信轰炸、网络攻击、Web漏洞扫描器 都是爬虫技术。 爬虫的用途 1.金融 金融新闻/数据 制定投资策

qq_35249586的博客 1315
上一篇: python爬虫—URLError的使用
健身的杰Ray
博客等级 码龄6年 3粉丝 24原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值