- 博客(14)
- 收藏
- 关注
原创 使用Python发送自动向数据库发送POST请求并保存(使用Python向数据库写入数据)
基于Springboot和Mybatis-Plus,需要往数据库里插入数据,由于一条一条插入太慢了,所以写了个简单的脚本,生成随机Json数据并发送到Springboot,保存到后台。可以看到,SpringBoot构造的可以接收请求链接为:http://localhost:9090/facilities1,一般使用第三方工具发送Post请求,如postman,但是无法实现大规模的数据请求,所以用Python可以连续快速发送请求。...
2022-07-10 15:07:24
1519
原创 SpringBoot + Vue + MySql项目快速上手(前后端分离项目)(一)
基于SpringBoot+Vue+MySql的前后端分离项目(一)
2022-07-10 14:35:28
2539
原创 使用python爬取天气信息(包括历史天气数据)
使用Python爬虫获取城市天气信息(包括历史天气数据)使用python爬取历史天气数据文章目录使用Python爬虫获取城市天气信息(包括历史天气数据)一、准备工作二、完整代码一、准备工作python环境3.6.7,需要用到的库主要有re,BeautifulSoup,requests以及pandas(用于保存数据)目标网站为四川省绵阳市天气网站分析目标网站的源码,部分源码如图:可以看到,所有数据都被封装在class为thrui的标签下,所以我们可以使用bs解析数据后使用find_all函数
2021-05-15 22:33:07
39122
78
原创 使用Selenium爬取豆瓣电影前100的爱情片相关信息
slenium入门小练手之使用Selenium爬取豆瓣电影前100的爱情片相关信息文章目录什么是Selenium1.准备工作1.1 安装Selenium1.2 浏览器驱动安装1.3 环境变量添加1.4 小试牛刀2.相关步骤2.1 引入相关模块2.2 获取信息2.3 设置等待时间2.3.1 显式等待2.3.2 隐式等待2.3.3 强制等待(补充)2.4 页面自动下滑2.5 保存文件3.完整代码什么是SeleniumSelenium是一个用于测试网站的自动化测试工具,支持各种浏览器包括Chrome、.
2021-03-19 13:15:44
2154
10
原创 用python爬取链家网成都房价信息(包括总价、均价、地址、描述等)
用python爬取链家网成都房价信息(包括总价、均价、地址、描述等)文章目录准备工作1、网页分析2、获取HTML信息3、获取数据4、保存文件到本地5、完整代码准备工作链家网作为互联网房屋销售信息的大平台之一,拥有大量的二手房源信息,以成都为例,他的房源信息有120000+条以上,如果人工浏览过滤信息,过程比较繁琐,所以可以先使用爬虫技术,将房源信息爬取后在进行数据分析等后期工作。本次爬虫使用的第三方库有requests,pandas,bs4等(re,time为python自带的库),如果没有,可以
2021-03-17 11:02:25
5309
19
原创 爬取猫眼上近期上映的电影及评分信息
爬取猫眼上近期上映的电影及评分信息文章目录爬取猫眼上近期上映的电影及评分信息1.网页分析2.相关代码3.总结本次爬虫使用的是re,requests和bs库,如果没有,可以使用pip命令安装1.网页分析目标网址为:https://maoyan.com/films?showType=2&offset= 右键点击审查元素,可以看到,电影的信息是被存放在名为‘movie-item-hover’的标签下,图片信息存放在‘moive-poster’的标签下2.相关代码代码如下:import
2021-03-14 12:23:04
1400
4
原创 (爬取猫眼电影TOP100的电影信息(含图片、评分等))
爬取猫眼电影TOP100的电影信息(含图片、评分等)让我们直接进入正题一、导入需要的库2.获取页面3.分析页面4.保存文件全部代码让我们直接进入正题对猫眼电影的网站进行分析其链接为:https://maoyan.com/board/4?一、导入需要的库本次爬取任务主要依赖于python的requests、beautifulsoup等相关库,如果没有,可以使用pip命令安装import requestsimport reimport timefrom bs4 import Beauti
2021-03-14 11:57:25
5679
24
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人