如何利用python实现实时采集数据?一篇文章教你轻松学会!

【Python】使用Windows任务计划程序定时运行Python脚本! 在搭建了以后,如果我们想每天一次或者多次运行一个python 文件,推荐可以使用:Win的【任务计划程序】 +创建【批处理文件(.bat)】+运行Python脚本。 阅读详情

记得以前的Windows任务定时是可以正常使用的,今天试了下,发现不能正常使用了,任务计划总是挂起。接下来记录下Python爬虫定时任务的几种解决方法。

1.方法一、while True

首先最容易的是while true死循环挂起,不废话,直接上代码:

很多人学习python,不知道从何学起。
很多人学习python,掌握了基本语法过后,不知道在哪里寻找案例上手。
很多已经做案例的人,却不知道如何去学习更加高深的知识。
那么针对这三类人,我给大家提供一个好的学习平台,免费领取视频教程,电子书籍,以及课程的源代码!??¤
QQ群:232030553

import os  
import time  
import sys   
from datetime import datetime, timedelta  
def One_Plan():  
     # 设置启动周期  
     Second_update_time = 24 * 60 * 60  
    # 当前时间  
    now_Time = datetime.now()  
    # 设置 任务启动时间  
    plan_Time = now_Time.replace(hour=9, minute=0, second=0, microsecond=0)    
    # 设置差值,-1 day, 21:48:53.246576,类似于这样  
    # time.sleep()需要传入int,所以下面使用.total_seconds()   
    # 主要用来计算差值,返回int,具体功能可以自行查阅相关资料  
    delta = plan_Time - now_Time  
    first_plan_Time = delta.total_seconds() % Second_update_time  
    print("距离第一次执行需要睡眠%d秒" % first_plan_Time)  
    return first_plan_Time  
# while Ture代码块,挂起程序,睡眠时间结束后调用函数名进行执行  
while True:  
    s1 = One_Plan()  
    time.sleep(s1)  
    # 下面这里是自己定义的函数,想跑代码的可以换成hellow world函数或者注释掉这行测试下  
    exe_file(D_list)  
    print("正在执行首次更新程序") 

个人感觉使用这种方式进行定时计划的启动如果为单个程序,并且一天执行一次的话没什么问题,如果要考虑到一天执行多个任务并且一天需要执行多次,短板一下就凸显出来了。

在工作的情况中还需要考虑到很多因素,比如爬虫程序需要在晚上12点和早上6点、9点,下午3点执行四次,并且需要同时执行4个爬虫,还需要考虑到网络是否稳定,如果程序挂掉该怎么处理等等因素。

2.方法二、Timer模块

之前说了最简单的定时启动,可以说是最简单粗暴的,人生苦短,python优雅,有没有那种很简单很简单,几行代码就可以搞定的那种?必须有的哈!简单举个例子说一下,上一个方法的末尾提到过需要考虑到其他因素,这就来了:

现在需要启动一个selenium的爬虫,使用火狐驱动+多线程,大家都明白的,现在电脑管家显示CPU占用率20%,启动selenium后不停的开启浏览器+多线程,好,没过5分钟,CPU占用率直接拉到90%+,电脑卡到飞起,定时程序虽然还在运行,但是已经类似于待机状态,是不是突然感觉到面对电脑卡死,第一反应:卧槽,这个lj电脑,怎么程序都跑不起来,我还写这么多代码,*****!!

是吧,接下来上代码,具体功能,请自行查阅相关资料深造:

from datetime import datetime  
from threading import Timer  
import time  
# 定时任务  
def task():  
    print(datetime.now().strftime("%Y-%m-%d %H:%M:%S"))  
def timedTask():  
    '''  
    第一个参数: 延迟多长时间执行任务(秒)  
    第二个参数: 要执行的函数  
    第三个参数: 调用函数的参数(tuple)  
    '''  
    Timer(5, task, ()).start()  
while True:  
    timedTask()  
    time.sleep(5) 

7行代码,是不是很优雅?优不优雅的主要是代码少,不费劲对吧。

2020-06-05 14:06:39  
2020-06-05 14:06:44  
2020-06-05 14:06:49  
2020-06-05 14:06:54  
2020-06-05 14:06:59  
2020-06-05 14:07:04  
2020-06-05 14:07:09  
2020-06-05 14:07:14  
2020-06-05 14:07:19  
2020-06-05 14:07:24 

3. 方法三、sched模块

这次直接上模块——sched模块

代码如下:

from datetime import datetime  
import sched  
import time  
def timedTask():  
    # 初始化 sched 模块的 scheduler 类,传入(time.time, time.sleep)这两个参数  
    schedscheduler = sched.scheduler(time.time, time.sleep)  
    # 增加调度任务,enter(睡眠时间,执行级别,执行函数)  
    scheduler.enter(5, 1, task)  
    # 运行任务  
    scheduler.run()  
# 定时任务  
def task():  
    print(datetime.now().strftime("%Y-%m-%d %H:%M:%S"))  
if __name__ == '__main__':  
    timedTask() 

这个模块也很容易上手,需要注意,scheduler()只会执行一次就结束程序,可以在mian下面添加while Ture或者直接添加调度任务在timeTask中就可以,另外除了这样的写法外,还有另外一种写法,上代码:

import schedule  
import time 
def hellow():  
    print('hellow')  
def Timer():  
    schedule.every().day.at("09:00").do(hellow)  
    schedule.every().day.at("18:00").do(hellow)  
    while True:  
        schedule.run_pending()  
        time.sleep('需要睡眠的周期')  
Timer() 

在这里可以看到,有day-hour-minute,定时任务非常的方便,在while True里添加需要睡眠的时间,在函数模块内添加需要执行的次数即可。

python定时任务1_windows计划任务 定时任务 阅读详情

相关推荐

【Python实战】Python采集二手车数据——超详细讲解

今天,我们将采集某二手车数据,通过这个案例,加深我们对xpath的理解。通过爬取数据后数据分析能够直观的看到二手车市场中某一品牌的相对数据,能够了解到现在的二手车市场情况,通过分析数据看到二手车的走势,车商就可以利用这些数据进行定价,让想买二手车却不了解市场的人了解到大概的价格走势,到了店里不会被骗。我们在采集数据的时候,遇到各种问题,自己在尝试解决问题,也是在一种学习,本次实战,我们明白如何使用xpath解析数据。

爱吃饼干的小白鼠的博客 6967

2023.6.6 python爬虫小项目 定时自动爬取

注意:如果您的 Python 脚本需要特定的库或依赖项,请确保它们安装在将运行计划任务的环境中。确保您的计算机已打开,并且在计划的时间未处于睡眠或休眠模式,以使脚本成功运行。在任务计划程序窗口中,单击右侧窗格中的“创建基本任务”或“创建任务”。要每天在Windows系统上自动执行Python代码,您可以使用Windows中的任务计划程序功能。在“添加参数”字段中,指定要执行的 Python 脚本的路径。打开任务计划程序:按 Windows 键,键入“任务计划程序”,然后从搜索结果中选择任务计划程序应用。

m0_56366541的博客 1136

Python实时显示数据

实时显示数据对于数据采集,分析系统都是非常必要的。Python作为一种非常常用的语言,能够在各种不同平台上方便的使用。 在这个例子中,我使用简单的基础函数实现数据的实时显示。

超实用 !9种Python定时任务解决方案详解

定时任务是编程中常见的需求,它可以按照预定的时间表执行特定的任务或操作。在Python中,有多种方法可以实现定时任务。本文将介绍九种常见的Python定时任务解决方案,包括使用标准库、第三方库和操作系统工具。文末领取全套最新Python学习资源!Python所有方向的学习路线图,清楚各个方向要学什么东西600多节Python课程视频,涵盖必备基础、爬虫和数据分析100多个Python实战案例,含50个超大型项目详解,学习不再是只会理论爬虫与反爬虫攻防教程包,含15个大型网站迫解。

python03012的博客 2674

Habitat-baselines v0.1.7防踩坑手把手带你跑通(全网唯一)

Habitat-baselines v0.1.7防踩坑手把手带你跑通(全网唯一)

shannanshouyin的博客 1275

ISO15118-20协议测试实战:用Efficient XML库验证26条命令编解码(附完整代码)

本文分享了ISO15118-20协议测试实战经验,重点探讨了使用Efficient XML库对26条命令进行EXI编解码验证的过程。通过搭建测试环境、编写自动化程序并与官方工具链进行交叉比对,文章深入分析了4条命令编码结果不一致的原因,并提供了完整的排查思路与C代码示例,旨在帮助开发者确保电动汽车充电通信的协议一致性。

weixin_29284657的博客 108

一篇文章让你轻松学会python爬取的数据保存到MySQL中,有案例哦

一篇文章让你轻松学会python爬取的数据保存到MySQL中,有案例哦,还有pymysql详细用法解析

qq_63713328的博客 6940

Eplan设计师必会—伺服安全回路的设计方法

本文介绍了在EPLAN中设计伺服STO安全回路的方法。首先需查阅伺服驱动器说明书确定STO接线端子,重点关注双通道配置。设计步骤包括:使用黑盒子功能绘制驱动器外形,正确标注STO接线点,并连接安全继电器或PLC的安全输出。关键注意事项有:必须采用双通道独立布线,确保同步动作,遵循故障安全原则,使用常闭触点串联回路。文中以西门子V90和汇川伺服为例说明具体接线要求,并附有项目实例参考。

Qinmingyue13的博客 436

用Python Requests库轻松实现网络爬虫,学会抓取数据!

Requests是一个Python库,用于发起HTTP请求。它是在Python社区中广泛使用的库之一,因其简单的API和强大的功能而备受欢迎。通过Requests,可以轻松地与Web服务器进行通信,发送HTTP请求并处理响应。Requests库是Python爬虫中不可或缺的工具之一。它简化了与Web服务器的通信,提供了丰富的功能,可以轻松地发送HTTP请求、处理响应以及处理异常情况。无论是要爬取网页内容、调用API接口还是进行其他网络数据收集工作,Requests都能满足需求。

aobulaien001的博客 1574

【Settings随记:二】一级菜单,二级菜单的添加与隐藏,添加辅助功能

首先会去调用父类的onCreatePreferences(Bundle savedInstanceState, String rootKey)方法,然后调用addPreferencesFromResource(R.xml.assistant_function)方法(这个方法是父类的)加载二级菜单的xml配置文件,实现创建二级菜单,这个配置文件路径在res/xml/assistant_function.xml。controller:该item的控制器,控制它的内容展示,是否可用,也可以控制它的点击事件等。

镇元子的博客 1594

x2-DFD:A framework for explainable and explainable deepfake detection

该文章提出了X2-DFD框架,用于可解释和可扩展的深度伪造检测。通过评估大型多模态语言模型(MLLMs)在深度伪造检测中的内在能力,发现它们在不同伪造相关特征上的有效性各异。基于此,实施了针对性的微调策略,显著提高了MLLMs的解释能力,并整合了外部深度伪造检测器(EDDs),以结合MLLMs和传统检测器的互补优势,实现更好的检测和解释。

志在山顶的人,不会贪念山腰的风景 509

5分钟教会你用Python采集优快云的热榜

上次发了一篇《热榜标题词云实时更新词云上线,给标题起名提供参观建议》,今天突然上热榜一一段时间,还被范博at了。虽然对上热榜本身已经无感,但是被范博at还非常让我高兴的。 这到晚上后,有人在评论区问到热榜数据怎么爬。 热心的我,现在就花几分钟时间教会大家。 首先,打开热榜页面并打开开发者工具,监控xhr类型的请求: 然后复制为curl(bash)类型的请求: 然后我们在jupyte中执行: !curl2py 注意:该命令需要安装filestools 安装命令:pip install filest

小小明-代码实体的专栏 3万+

YOLOv5源码逐行超详细注释与解读(1)——项目目录结构解析

全网最全YOLOv5项目目录结构超详细分析。逐个文件注释,小白上手必备

路人贾的博客 9万+

5步学会网站文章自动化采集,轻松捕捉海量信息

网站文章自动化采集乃高效获取大量信息之途径。以下论述如何运用采集工具以迅速捕捉网站文章,同时强调操作要点与经验分享。1.选择合适的采集工具在众多采集工具中,建议优先考虑Python开发的BeautifulSoup库或者Scrapy框架。这两者不仅具备卓越解析效能,还提供了丰富多样的配置选项

nFUnEP4X的博客 539

FlexSim:FlexSim软件介绍与安装

在开始安装FlexSim之前,首先需要从FlexSim官方网站下载安装包。FlexSim提供不同版本的软件,包括教育版、专业版等,确保选择适合您需求的版本。下载页面通常会列出系统要求,包括操作系统、处理器、内存和硬盘空间,确保您的计算机满足这些要求。访问FlexSim官方网站。导航至下载页面。选择适合您需求的FlexSim版本。点击下载按钮,开始下载安装包。在开始构建模型之前,首先需要明确模型的目标。模型目标是指导模型设计和分析的核心,它定义了你希望通过模型解决的问题或探索的系统行为。

kkchenjj的博客 5802

ChatGPT辅助课题申报书研究背景部分的写作全过程指南

ChatGPT辅助课题申报书研究背景部分的写作全过程指南

智能AI让学术科研更容易 2554

8招教你如何轻松批量采集百度文章评论

这篇文章将会详细分享如何更有效地收集百度文章的批量化反馈信息,包括8种便捷且实用的操作技巧。1.确定采集目标:在进行采集工作前,请先明确您的目标内容。是专注于某一特定领域的文章评论呢,还是想要获取更广泛意义上的用户反馈呢?依据理想结果的不同,我们将为您提供相应的采集方法与便捷工具。2

Xgvafdj54的博客 1487

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

学会这4个爬虫神器,三分钟就能搞定数据采集!

选择一款最适合你的软件,动手实践,让数据成为你探索世界、创造价值的强大武器。当然,记得,合法合规是使用爬虫的前提,尊重网站的使用条款,保护数据隐私,很重要!

测试开发技术 4596

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

技术小白也能轻松采集网站文章?揭秘高效方法

想要从茫茫网海中捞出几条有用的文章,光靠手动点鼠标肯定不靠谱。所以,今天咱们就来聊聊怎么用技术手段实现网站文章采集。别担心,就算你是个技术小白,也能轻松上手。明确目标。你是要采集啥样的文章?新闻、论坛、博客,还是特定领域的内容?目标明确了,才能有的放矢。选个合适的工具。市面上现成的采集软件不少

CMWTbVEa的博客 639

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

【Python 采集亚马逊公开数据】轻松过验证,无需分布式,大量采集,高效简单

【Python 采集亚马逊公开数据】轻松过验证,无需分布式,无需IP池,无需自动化模拟,大量采集,高效简单,速度很快

₰₯₮ 的博客 2434

一篇文章教你如何在一个月内学会爬取大规模数据

Python爬虫为什么受欢迎 如果你仔细观察,就不难发现,懂爬虫、学习爬虫的人越来越多,一方面,互联网可以获取的数据越来越多,另一方面,像 Python这样的编程语言提供越来越多的优秀工具,让爬虫变得简单、容易上手。 利用爬虫我们可以获取大量的价值数据,从而获得感性认识中不能得到的信息,比如: 知乎:爬取优质答案,为你筛选出各话题下最优质的内容。 淘宝、京东:抓取商品、评论及销量数据,...

程序之道的博客 2156

AI 编程如何让你轻松采集网站数据?

摘要:AI工具让网页内容采集变得简单高效。通过开发者工具获取目标HTML代码,使用通义灵码等AI编程助手自动生成Python采集脚本,无需专业编程知识。AI还能优化代码、实现多页采集等复杂需求,整个过程仅需5分钟。未来结合MCP协议可开发智能分析工具,实现全自动数据采集。AI编程极大降低了技术门槛,让普通人也能轻松完成数据采集任务。

wxaiway的博客 1172

如何用批量采集工具轻松获取海量博客文章?

今天咱们来聊聊一个高科技话题——博客文章的批量采集。别一听批量采集就觉得是啥高大上的操作,其实就是用点小聪明,省点力气,让电脑帮你干点活。啥是批量采集?简单来说,就是你一次性从一堆博客里抓取一堆文章,不用一个个点进去看,省时省力。这活儿,说白了就是用一个小软件或者一些小工具实现的,网上一搜一大把

JPcFxBvW的博客 944

Python编写的高效文章采集神器,助你轻松爬取优质内容

我是一名资深的数据分析师,经过多年的工作经验和实践,我为大家推荐几款优秀的文章采集爬虫工具。这些工具可以帮助你快速、高效地收集各种领域的文章,为你的研究和学习提供强有力的支持。1. ScrapyScrapy是Python语言编写的一个开源网络爬虫框架,它功能强大且易于使用。通过Scrapy

wanghui19880909的博客 962

新式爬虫利器!直接采集百万级复杂数据

这里的snapshot id先不用管,你发送数据请求后爬下来的数据就会临时存储到亮数据平台上,然后会生成一个snapshot id(用于下载数据),接着你可以通过snapshot id再提取你想要的数据,snapshot id是唯一的,不用担心数据丢失。Scraper APIs是亮数据专门为批量采集数据而开发的接口,支持上百个网站,200多个专门API采集器,例如Linkedin的职位、公司、人员数据采集器,Tiktok的商品、短视频数据采集器,当然这些数据都是公开可抓取的,不会涉及任何隐私安全问题。

分享Python、数据分析、人工智能前沿知识 3166
上一篇: Python爬虫之字体解密 | 以滑雪为例演示大众点评商铺信息采集
下一篇: 5 个无聊 Python 程序,用 Python 整蛊你的朋友们吧
Python_sn
博客等级 码龄6年 324粉丝 290原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值