模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容

实战大项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容----爬取第二步 接着上一步模拟登录操作。学了两天的session 了没有搞定登录。还是回到selenium模拟登录爬取。但是验证码这一块,没有搞定,在文中用的人工辅助登录成功。代码太丑,实在是无言面对同行。 import time from selenium import webdriver import csv from lxml import etree browser = webdriver.Fire... 阅读详情

丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626

import time
from selenium import webdriver
from selenium.common.exceptions import TimeoutException, NoSuchElementException

def login(browser, username, password):
    try:
        # 点击“登录”
        browser.find_element_by_link_text('登录').click()
        # 点击“电脑登录”
        browser.find_element_by_class_name('ico_pc').click()
        # 输入账号
        element = browser.find_element_by_name('username')
        element.clear()
        element.send_keys(username)
        # 输入密码
        element = browser.find_element_by_name('password')
        element.clear()
        element.send_keys(password)
        # 点击“登录按钮”
        browser.find_element_by_class_name('button').click()
    except TimeoutException:
        print('Time out')
    except NoSuchElementException:
        print('No Element')

def get_content(browser):
    print("success login")
    time.sleep(5)
    auth = browser.find_elements_by_class_name('auth')  # 昵称
    level = browser.find_elements_by_class_name('info') # 等级
    user_atten = browser.find_elements_by_class_name('user_atten')  # 用户属性
    content = browser.find_elements_by_class_name('postbody')   # 内容
    sfile = open('data.txt','a',encoding='utf-8')
    for i in range(len(content)):
        num = user_atten[i].find_elements_by_tag_name('a')
        data = str({'num':i+1,'name':auth[i].text,'level':level[i].text,'score':num[0].text,'vote':num[2].text,'dingdang':num[4].text,'content':content[i].text.replace(" ", "").replace("\n", "")}) +"\n" 
        sfile.writelines(data)
    print("success write")
    sfile.close()

if __name__ == '__main__':
    browser = webdriver.Firefox()
    browser.get('http://www.dxy.cn/bbs/thread/626626#626626')
    login(browser, 'username', 'password')
    get_content(browser)
    browser.quit()

实战大项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容----登录第一步 哎呀呀,先一步一步的来吧,我们知道要先登录才能查看全部的信息。好吧先去注册,记住账号和密码。 2、注册好了之后,先解决登录问题,可以看到有两个登录的地方,编号1、2. 打开网页,f12,先看看登录节点在哪里 看看第一个登录节点,登录节点和注册节点,名称一样的,但是登录在注册之前,第二个登录在注册之后。在定位节点的时候,1号的登录节点比较好找。因此查看属性,用xpath定位。 import t... 阅读详情

相关推荐

python爬虫(四)——模拟登录丁香园

实战 实战小项目:模拟登录丁香园,抓取论坛页面人员基本信息与回复帖子。丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626 思路 首先把登陆方式由扫码切换为账号密码登陆 js1 = 'document.querySelector("#j_loginTab1").style.display="none";' browser.execute_script...

weixin_41388063的博客 438

python爬取论坛的数据,包括标题,作者,点击量和回复量

1.数据的爬取和清洗 (1)标题和作者的获取以及数据整理 from bs4 import BeautifulSoup data_all =[] for i in range(0,10): url = 'http://bbs.tianya.cn/list-no02-1.shtml' douban_data = requests.get(url) soup = Beautifu...

new_buff_007的博客 4699

python爬虫-----学习bs,爬取丁香园特定帖子的所有回复内容

beautifsoup----爬虫数据挖掘又一大利器 – 安装: conda install beautifulsoup4 或者 pip install beautifulsoup4(这个4代表着bs的版本) 这里我用了conda安装: – beautiful soup: BeautifulSoup 是一个可以从HTML或XML文件中提取数据的Python库. 官方文档:Beautiful...

weixin_40734650的博客 653

【BBS】BBS论坛项目各个页面的工作流程图

1论坛整体结构 2数据库结构 3登录页面 4论坛首页(显示各个板块) 5显示板块对应的内容 6文章内容页 7新增板块、发表文章、回复 8版面管理、用户管理、发帖排行 转载于:https://www.cnblogs.com/yujihang/p/7118430.html...

weixin_34238642的博客 3647

在Ubuntu 18下安装SIMULIA Abaqus 2020

参考资料: https://github.com/imirzov/Install-Abaqus-2019-on-Ubuntu-18.04-LTS 安装环境: Ubuntu 18.4 LTS 软件版本: SIMULIA for Linux 2020 1 准备 安装光盘及破解文件 解压光盘至一目录,不能挂载,因为要修改文件内容 /home/sunwk/Downloads/abaqus2020 更改文件权限为最大 sudo chmod -R 777 abaqus2020/ * 复制libpng12

oak619的博客 1万+

熵编码(五)-CABAC(一) 基础篇

前两篇算术编码文章介绍了算术编码原理和步骤。本篇文章介绍CABAC,基于上下文自适应的二进制算术编码。本文对CABAC的基本原理进行了详细的介绍和分析,下篇文章将会对H264编码中的CABAC熵编码的实际应用进行介绍。

尹佑壮的博客 3889

一周爬虫集训任务四:实战大项目

一周爬虫集训任务四:实战大项目1 任务2 实战大项目3 参考 1 任务 Task4(2天) 实战大项目 1. 实战大项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 2. 丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626 。 2 实战大项目 要求:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 首先使用Se...

qq_30006749的博客 308

STM32H743 ADC校准失败排查:HAL_ADCEx_Calibration_Start()的正确调用时机

本文深入剖析了STM32H743 ADC校准失败的核心原因,即错误地在ADC使能状态下调用HAL_ADCEx_Calibration_Start()函数,导致读数漂移。文章详细解释了校准必须在ADC禁用状态下进行的硬件原理,列举了典型错误场景,并提供了上电初始化与周期性重校准的正确代码实践,帮助开发者彻底解决ADC精度问题。

ik678901的博客 1178

爬虫入门学习(八)模拟登录丁香园论坛爬取用户信息

爬虫入门学习(八)实战大项目模拟登录丁香园爬取信息 1 目标2 思路3 主要的技术点3.1 模拟登录3.2 抓取用户个人主页4 完整代码5 一些尚待解决的问题 1 目标 模拟登录丁香园,并抓取页面所有人员的基本信息和回复贴子内容。 2 思路 模拟登录丁香园论坛 抓取评论和用户的个人主页链接 抓取用户个人主页信息 数据存储 3 主要的技术点 3.1 模拟登录 模拟登录元素定位基本问题不大。遇到的...

Jock2018的博客 1740

CTF实战:从ECDSA签名漏洞到flag获取

本文详细解析了ECDSA签名算法在CTF比赛中的实战应用,重点探讨了随机数重用和参数泄露等常见漏洞。通过PWNHUB六月赛的例题,展示了如何从签名数据中恢复私钥并获取flag,同时提供了防御措施和实战技巧,帮助参赛者提升解题能力。

weixin_42706667的博客 278

【实战指南】RF-DETR多场景部署:从工业质检到自动驾驶的SOTA模型应用

本文深入解析了SOTA目标检测模型RF-DETR在工业质检与自动驾驶等多场景下的实战部署指南。该模型基于Transformer架构,在COCO数据集上实现了实时检测与高精度的突破,并凭借其强大的泛化能力,在RF100-VL等复杂数据集上表现出色。文章提供了从快速Demo、工业缺陷检测微调、车载自适应部署到多硬件平台性能优化的完整解决方案,帮助开发者高效应用这一先进模型。

weixin_29070861的博客 476

网络爬虫 学习日志(四)

Task4(2天) **4.1 ** 实战大项目 实战大项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626。 参考资料:https://blog.youkuaiyun.com/nao77/article/details/88316754 import re...

behrends的博客 297

基于matlab不变矩的数字验证码识别系统

随着互联网技术的快速发展和应用,网络给人们提供了丰富的资源和极大的便利,但随之而来的是互联网系统的安全性问题,而验证码正是加强 Web 系统安全性的产物。全自动区分计算机和人类的图灵测试(Completely Automated Public Turing test to tell Computers and Humans Apart,CAPTCHA)也是验证码的一个应用程序,可以区分用户是人类还是计算机智能单击对象。

在职AI算法工程师,擅长计算机视觉,YOLO目标检测、分割等,擅长web、pyqt界面可视化,好内容持续更新中,来这里跟大家一起学习,共同进步 917

python爬虫(五)

实战 实战大项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626 。 解析 默认的登录方式是扫码登录,所以要切换成账号密码登录: 通过selenium定位元素登录链接 login_link = driver.find_element_by_link_text(‘登录’) 把login...

weixin_42927719的博客 393

Docker 环境 Playwright MCP 部署全流程指南

Docker部署Playwright MCP全流程指南 本文详细介绍了使用Docker容器化部署Playwright MCP的完整流程,涵盖镜像拉取、容器启动、配置优化和问题排查。主要内容包括: 核心部署步骤:通过官方镜像快速搭建环境,支持自定义端口和数据持久化 关键配置要点:详解网络设置、持久化目录挂载和环境变量配置 服务验证方法:通过日志检查和服务连通性测试确保部署成功 客户端集成:提供VS Code等IDE的配置示例 常见问题解决:针对浏览器启动超时、跨域限制等问题给出解决方案 实战案例:演示自动化爬

勤奋的码农 1474

如何选择深度强化学习算法:MuZero/SAC/PPO/TD3/DDPG/DQN/等算法

如何选择深度强化学习算法:MuZero/SAC/PPO/TD3/DDPG/DQN/等算法

丨汀、的博客 5224

爬虫学习Day7:实战项目

文章目录任务 任务 【Task7 实战大项目】:(1天) 实战大项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626 。 ...

weixin_43720396的博客 407

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

爬虫学习第三部分

本次学习内容session和cookie,ip代理知识,selenium的使用,拔高:实现丁香园的模拟登录爬取留言板。 挑战项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626。 以下实现selenium模拟登录 import requests, json, re, ran...

lulin1991的专栏 396

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

whaledata爬虫task-4之爬虫实战

4.1 Task7 实战大项目 实战大项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626 。 思路 模拟登录丁香园论坛 抓取评论和用户的个人主页链接 抓取用户个人主页信息 数据存储 #!/usr/bin/env python # -*- coding: u...

whalefall 505

爬虫学习笔记(四)

任务: 模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 一 首先利用selenium登录网站 1.切换到账号密码表单登录,我采用了利用style将display值变为block,代码如下: from selenium import webdriver import time browser = webdriver.Chrome() # 此处请选择您的浏览器 js1 = ...

Atticus Johnson 的博客 389

Python爬虫(四)

实战大项目 目标:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626 。 思路: 模拟登陆 首先使用Selenium模拟登陆丁香园论坛。这里先模拟点击登陆按钮,然后模拟点击返回电脑登陆按钮,然后定位账号输入框和密码登录框,并输入相应的账户及密码。 代码如下: def login_de...

weixin_43212500的博客 208

爬虫4

Task4 4.1 Task7 实战大项目 实战大项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 丁香园论坛:http://www.dxy.cn/bbs/thread/626626#626626 # 实战大项目:模拟登录丁香园,并抓取论坛页面所有的人员基本信息与回复帖子内容。 from selenium import webdriver import time from...

weixin_44150147的博客 232
上一篇: 达观杯linghtgbm
下一篇: PyTorch实现L1,L2正则化以及Dropout
程序员椰子橙
博客等级 码龄9年 46粉丝 163原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值