- 博客(3)
- 收藏
- 关注
原创 python3 抓取西刺网免费代理IP并验证是否可用
爬取西祠网免费高匿代理IP并验证是否可用存到csv文件 #导入模块 import requests import chardet import random from scrapy.selector import Selector from telnetlib import Telnet #这是用来验证IP是否可用 import time...
2018-10-21 18:44:52
1033
1
原创 python3 使用BeautifulSoup爬取网页内容保存到csv
以爬取房天下的租房信息为例:需要爬取的字段有,户型,租金,面积,朝向,楼层,装修情况,标签,小区名称,地区因为这个网站没有反爬虫所以不需要用到代理IPfrom bs4 import BeautifulSoupimport requestsdef crawlFang(url,data,href): res = requests.get(url) html=res.text...
2018-10-21 15:58:36
5758
1
原创 python3 使用requests获取网页内容
在命令行里输入命令安装模块pip install requests以获取豆瓣网页内容为例#导入需要用到的模块import requests#准备一个urlurl='https://movie.douban.com/top250'res=requests.get(url) #requests模块会自动解码来自服务器的内容,可以使用res.encoding来查看编码html=res.t...
2018-10-21 12:42:51
10219
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人