Python爬虫Selenium使用

官方文档：

http://selenium-python.readthedocs.io/installation.html#introduction

声明浏览器对象

Seleninum支持很多浏览器，但是如果系统中浏览器不存在就会报错

from selenium import webdriver  # 引入webdriver包
browser = webdriver.Chrome()    # 声明chrome浏览器对象
browser = webdriver.Firefox()
browser = webdriver.Edge()
browser = webdriver.Safari()

访问页面

from selenium import webdriver    # 导入包

browser = webdriver.Chrome()    # 打开浏览器
browser.get('https://www.taobao.com')    # 进入网页
print(browser.page_source)    # 打印网页源代码
browser.close()    # 关闭浏览器

查找元素

单个元素 .find_element_*_*( )

browser = webdriver.Chrome()    # 打开浏览器
browser.get('https://www.taobao.com')    # 进入网页
input1 = browser.find_element_by_id('q')    # 查找id为'p'
input2 = browser.find_element_by_css_selector('#q')    # 通过css选择查找id为'p'
input3 = browser.find_element_by_xpath('//*[@id="q"]')    # 通过 xpath选择器查找id为'p'
print(input1, input2, input3)    # 打印出来的内容是一样的
<selenium.webdriver.remote.webelement.WebElement (session="3e230964450caa8b450fc5bfaf00bcaa", element="0.40898670165609774-1")> <selenium.webdriver.remote.webelement.WebElement (session="3e230964450caa8b450fc5bfaf00bcaa", element="0.40898670165609774-1")> <selenium.webdriver.remote.webelement.WebElement (session="3e230964450caa8b450fc5bfaf00bcaa", element="0.40898670165609774-1")>
browser.close()

其他获取单个节点的方法：

find_element_by_id
find_element_by_name
find_element_by_xpath
find_element_by_link_text
find_element_by_partial_link_text
find_element_by_tag_name
find_element_by_class_name
find_element_by_css_selector

其他用法

# 相当于 find_element_by_id(id)
input1 = browser.find_element(By.ID, 'q')

多个元素 .find_elements_*_*( )
和查找单个元素类似，只是在element后面加个了s
返回结果都是列表形式

元素交互操作

对获取的元素调用交互方法

from selenium import webdriver
import time

browser = webdriver.Chrome()
browser.get('https://www.taobao.com')
input1 = browser.find_element_by_id('q')    # 查找id为p的元素，这个元素是搜索输入框
input1.send_keys('iPhone')      # 发送内容 iPhone
time.sleep(1)
input1.clear()
input1.send_keys('iPad')    # 再次输入内容 iPad
button = browser.find_element_by_class_name('btn-search')   # 查找class为btn-search元素，为搜索按钮
button.click()  # 完成搜索动作

http://selenium-python.readthedocs.io/api.html#module-selenium.webdriver.remote.webelement

交互动作

将动作附加到动作链中串行执行
在网页代码中找到frame的位置

from selenium import webdriver
from selenium.webdriver import ActionChains　# 导入动作链对象

browser = webdriver.Chrome()
url = 'http://www.runoob.com/try/try.php?filename=jqueryui-api-droppable'
browser.get(url)
# 模拟拖拽
browser.switch_to.frame('iframeResult')     # 切换到 frame，传入ifrome的id
source = browser.find_element_by_css_selector('#draggable')     # 找到frame中被推拽对象
target = browser.find_element_by_css_selector('#droppable')     # 找到推拽目标
# 声明一个ActionChains的动作链传入
actions = ActionChains(browser)
actions.drag_and_drop(source, target)   # 传入动作开始和目标
actions.perform()   # 执行

执行JavaScript

使用execute_script(）实现进度条下拉

from selenium import webdriver

browser = webdriver.Chrome()
browser.get('https://www.zhihu.com/explore')
# 用execute_script执行script语句把滑动条拉到最下面
browser.execute_script('window.scrollTo(0, document.body.scrollHeight)')
browser.execute_script('alert("TO Bottom")')    # 执行JS提示

获取元素信息，文本值

from selenium import webdriver

browser = webdriver.Chrome()
url = 'https://www.zhihu.com/explore'
browser.get(url)
input = browser.find_element_by_id('zh-top-link-logo')

print(input.get_attribute('class'))  # 传入想要获取的属性名，可以它的值
zu-top-link-logo

print(input.text)    # 将文本值打印出来
知乎

获取ID、位置、标签名、大小

print(input.id)         # 获取ID
0.04737602037454258-1

print(input.location)   # 获取位置
{'x': 28, 'y': 0}

print(input.tag_name)   # 获取名字
a

print(input.size)       # 获取大小
{'height': 45, 'width': 61}

Frame

之前例子操作的节点是iframe是子Frame，相当于子页面，在子节点frame里面不能操作外面的frame，所以需要使用switch_to.parent_frame()

from selenium import webdriver
from selenium.common.exceptions import NoSuchElementException

browser = webdriver.Chrome()
url = 'http://www.runoob.com/try/try.php?filename=jqueryui-api-droppable'
browser.get(url)
browser.switch_to.frame('iframeResult') # 选择子frame
try:
    logo = browser.find_element_by_class_name('logo')   # 查找在父类位置的内容
except NoSuchElementException:        # 找不到时 提示的错误，打印NO LOGO
    print('NO LOGO')
browser.switch_to.parent_frame()    # 切换到父级frame
logo = browser.find_element_by_class_name('logo')   # 重新查找元素
print(logo)     # 成功输出内容
print(logo.text)
# 结果：
NO LOGO
<selenium.webdriver.remote.webelement.WebElement (session="1c1f828d79bea6676e5521e248e42449", element="0.7249380096596258-2")>
RUNOOB.COM

等待

Selenium中，get（）方法在网页框架加载结束之后就结束执行。此时如果获取page_source可能并不是浏览器完全加载完成的页面，如果某些页面有额外的Ajax请求，我们在网页代码中也不一定能成功获取到。因此我们需要延时等待一定时间区别节点加载出来。

隐式等待

当查找节点而节点并没有立即出现的时候，隐式等待将等待一段时间再查找 ，默认的时间是 0。

from selenium import webdriver

browser = webdriver.Chrome()
# implicitly_wait() 方法实现了隐式等待
browser.implicitly_wait(10)    # 等待时间10秒
browser.get('https://www.zhihu.com/explore')
# 查找内容，如果找不到等待10秒
input = browser.find_element_by_class_name('zu-top-add-question')
print(input)

显式等待

它指定好要查找的节点，然后指定一个最长等待时间。如果在规定时间内加载出来这个节点，那么就返回查找的节点，如果没有则抛出超时异常

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
# as 别名，把EC当做expected_conditions使用
from selenium.webdriver.support import expected_conditions as EC

browser = webdriver.Chrome()
browser.get('https://www.taobao.com/')
wait = WebDriverWait(browser, 10)    # 传入浏览器对象，等待时间最长时间
# wait.until()，传入等待条件expected_conditions。
# EC.presence_of_element_located((By.ID, 'q')) 传入内容是元组
# presence_of_element_located 这个条件，就代表节点出现的意思，其参数是节点的定位元组
# 获取到元素就赋值，获取不到就抛出异常
input = wait.until(EC.presence_of_element_located((By.ID, 'q')))
# element_to_be_clickable 可点击
button = wait.until(EC.element_to_be_clickable((By.CSS_SELECTOR, '.btn-search')))
print(input, button)

http://selenium-python.readthedocs.io/api.html#module-selenium.webdriver.support.expected_conditions

前进后退

import time
from selenium import webdriver

browser = webdriver.Chrome()
browser.get('https://www.baidu.com/')
browser.get('https://www.taobao.com/')
browser.get('https://www.python.org/')
browser.back()    # 后退一页
time.sleep(1)    # 睡眠1秒
browser.forward()    # 前进一页   
browser.close()

Cookies

from selenium import webdriver

browser = webdriver.Chrome()
browser.get('https://www.zhihu.com/explore')
print(browser.get_cookies())    # 得到cookies
# 添加内容到 cookies中
browser.add_cookie({'name': 'name', 'domain': 'www.zhihu.com', 'value': 'germey'})                    
print(browser.get_cookies())    # 重新得到cookies
browser.delete_all_cookies()    # 删除cookies
print(browser.get_cookies())    # 再得到cookies，此时cookies为空

选项卡操作

import time
from selenium import webdriver

browser = webdriver.Chrome()
browser.get('https://www.baidu.com')
browser.execute_script('window.open()')    # 打开新的选项卡
print(browser.window_handles)        # 得到所有选项卡的引用
browser.switch_to_window(browser.window_handles[1])    # 切换到第二个选项卡
browser.get('https://www.taobao.com')    # 在第二个选项卡中打开网页
time.sleep(1) 
browser.switch_to_window(browser.window_handles[0])    # 切换到第一个选项卡
browser.get('https://python.org')    # 在第一个选项卡中打开网页

# 控制台：
['CDwindow-4efe7c9f-d21d-42c9-964b-1f7743b4fc58', 'CDwindow-d2940963-7686-4325-a5ca-f944eeb6a0b7']
# 打印的选项卡信息