爬虫
文章平均质量分 77
爱喝水的木子
小时候把光借给了迪迦,现在前途一片黑暗
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
MiMo-V2-Flash
小米开源大语言模型MiMo-V2-Flash采用创新的混合专家架构(MoE)和混合滑动窗口注意力机制,显著提升推理效率。该模型具备3090亿参数,支持256k上下文窗口,在数学竞赛、编程测试等多项基准中表现优异。通过轻量级多Token预测技术,推理速度提升2-2.6倍,成本仅为同类产品的2.5%。目前提供2周免费试用,开发者可通过GitHub获取完整开源代码和权重。原创 2025-12-17 16:40:58 · 1871 阅读 · 0 评论 -
python备份mongodb数据库全量备份
本文介绍了一个Python脚本,用于实现MongoDB数据库的全量备份功能。该脚本通过pymongo库连接MongoDB,使用自定义的JSON编码器处理MongoDB特殊数据类型(如ObjectId、datetime等),将数据库中的所有非系统集合批量导出为JSON文件。脚本支持分批导出以避免内存溢出,可配置连接参数、输出目录和导出批次大小。执行后会创建按数据库名分类的文件夹结构,每个集合保存为一个格式化的JSON文件。最后提供了配置示例和调用方法,适用于本地或远程MongoDB的备份需求。原创 2025-12-02 19:48:30 · 254 阅读 · 0 评论 -
scrapy核心组件工作流程
Scrapy框架的工作流程包括8个核心步骤:1.Spider生成初始请求;2.Engine将请求传递给Scheduler;3.Scheduler调度请求;4.Engine通过Downloader Middleware处理请求;5.Downloader获取网页响应;6.Engine通过Spider Middleware传递响应给Spider;7.Spider解析响应生成Item或新请求;8.Engine将Item送至Item Pipeline处理。各组件分工明确:Spider负责规则定义,Engine协调调度原创 2025-09-08 10:55:58 · 1747 阅读 · 0 评论 -
Python爬虫面试求生指南:从‘Hello World’到‘法官,我冤枉啊!’的超长灵魂拷问
Python 并发爬虫优化方案 Python 的 concurrent.futures 模块可通过以下方式优化爬虫任务: 线程池优化 I/O 任务 使用 ThreadPoolExecutor 处理网络请求等 I/O 密集型操作 典型应用:批量请求网页时避免阻塞主线程 进程池处理 CPU 任务 使用 ProcessPoolExecutor 处理数据解析等 CPU 密集型操作 绕过 GIL 限制,充分利用多核性能 任务批量提交 通过 submit() 或 map() 方法批量提交任务 示例:同时发起多个 URL原创 2025-08-21 15:10:30 · 2084 阅读 · 0 评论
分享