近期因工作需要,开始研究web端的自动化工具。经过多方查找资料,发现了微软出品的Playwright工具,比起其他自动化工具(比如Selenium)它最大的优势就是能通过录制自己生成自动化代码,而不需要费劲巴拉的人工去写,这功能值得吹捧~~Playwright支持Python、Java、Node.js、.Net,我们主要是在Python环境下使用,所以也以Python环境进行讲解,废话不多说,下面上干货。
一、安装及部署
1.安装
首先需要有Python3.7以上版本的环境,python环境的安装及部署这里就不多提了,下面直接按照已有python3.9环境的前提开始安装Playwright
# 通过下面的方法查询当前可以安装的版本
pip install playwright==
# 2022-01-20 最新版为1.18.0,故直接安装最新版
pip install playwright==1.18.0
2.部署
在playwright安装完后就需要安装对应的浏览器驱动了,因为这个库支持chromium、firefox、webkit三种浏览器,所以下载驱动的时候也会自动下载三个,至于ffmpeg是音视频库。
playwright install
通过上面的方法便可以自动化安装浏览器驱动,不过因为驱动都不小而且还是从外网下载,所以需要一定的时间,驱动默认会被下载到C:\Users\{用户名}\AppData\Local\ms-playwright\目录,若想要将驱动下载到其他目录,可以使用如下方法
set PLAYWRIGHT_BROWSERS_PATH=d:\pw-browsers
pip install playwright
playwright install
这样浏览器驱动便被安装到了d:/pw-browsers目录下
二、初步运用
1.通过记录生成自动化脚本
-
开始录制并打开浏览器
playwright codegen
-
开始录制并在浏览器中打开一个网址
playwright codegen www.baidu.com
-
开始录制并指定在谷歌浏览器中打开一个网址
playwright codegen -b chromium www.baidu.com
-
开始录制且在谷歌浏览器中打开一个网址并把录制生成的自动化脚本保存到record.py文件中
playwright codegen -o record.py -b chromium www.baidu.com
2.人工编写简单的自动化脚本
from playwright.sync_api import Playwright, sync_playwright
with sync_playwright() as playwright:
# 初始化一个有头模式的浏览器对象,chromium是指通过chromium浏览器操作
browser = playwright.chromium.launch(headless=False)
# 初始化一个匿名模式对话,不同context之间完全隔离,不用担心互相之间出现cookie、缓存干扰
context = browser.new_context()
# 初始化一个新标签页
page = context.new_page()
# 打开https://www.baidu.com/
page.goto("https://www.baidu.com/")
# 点击 input[name="wd"] 输入框
page.click("input[name=\"wd\"]")
# 在 input[name="wd"] 输入框中填入“abc”
with page.expect_navigation():
page.fill("input[name=\"wd\"]", "abc")
# 对当前页面截图
page.screenshot(path='screenshot.png')
# 关闭当前标签页
page.close()
# 关闭当前匿名模式对话
context.close()
# 关闭当前浏览器
browser.close()
3.添加cookie
有些时候在进行自动化操作的时往往需要用户处于登录状态,如果不想再把登录步骤也都进行一遍,那么最方便的便是直接将登录后的cookie添加到自动化步骤中,而playwright便可实现这个功能;但是需要注意的是这里的cookie并不是通过浏览器自带的“开发者工具”抓取的那种,是有一种严格的格式的(格式如下)
[
{
"domain": "",
"expirationDate": 1642646386.158396,
"hostOnly": True,
"httpOnly": True,
"name": "",
"path": "/",
"sameSite": "Lax",
"secure": False,
"session": False,
"storeId": "0",
"value": "",
"id": 1
}
]
不用担心这种cookie不好处理,仅需要在浏览器中安装一个EditThisCookie插件,然后通过这个插件将cookie导出便是这种格式,不过需要注意将里面的true和false改成python里面的True和False,samSite也需要改成Lax,操作如下
①点击EditThisCookie插件
②点击导出按钮
③在一个txt文件中Ctrl+v
④将内容修改为python中的格式
⑤复制改好的内容,粘贴赋值给context
当然,此步骤也可以通过文件加载的方式进行赋值
4.获取浏览器中的内容
# 定位到id=su的标签
element = page.query_selector("input[name=\"wd\"]")
# 输出标签内html内容
print(element.inner_html())
# 输出标签内文本
print(element.inner_text())
# 定位到class=t的所有h3标签
elements = page.query_selector_all("//h3")
for element in elements:
# 输出标签内html内容
print(element.inner_html())
# 输出标签内文本
print(element.inner_text())