信用中国公司信用数据爬取

最近在爬取信用中国的时候,有个参数,encryStr,始终找不到,最后发现,只要拿到请求的网页,再从网页中取出来,encryStr,最后再拼到需要的地方就可以了

这是,搜索页url,https://www.creditchina.gov.cn/xinyongxinxi/index.html?index=0&keyword=%E5%B0%8F%E7%B1%B3%E7%A7%91%E6%8A%80

点击公司名称,跳转到新的网页

跳转过后的url,看到,有个参数,encryStr=MjE5LHI5dyx9UXQ%3D%0A,找了好久,没能找出生成 的方法,最后还是放弃。

用selenium,本身有个方法,browser.current_url,可以获得请求页面的url,从url 里面取出生成好的参数,再拼接到需要 的地方,完美解决。。。

### 使用 Python 爬取中国统一社会信用代码数据 为了有效爬取中国的统一社会信用代码数据,可以采用基于 Python 的 Web 抓取框架 Scrapy 或 BeautifulSoup 结合 requests 库来完成这一任务[^2]。 #### 准备工作 安装必要的库可以通过 pip 完成。确保已安装最新版本的 Python 后,在命令行输入如下指令: ```bash pip install scrapy beautifulsoup4 lxml requests ``` #### 数据源定位 选择合适的数据源至关重要。政府官方网站、企业信用信息公开网等都是可靠的公开资源。例如全国企业信用信息公示系统提供了企业的基本信息查询服务,其中包含了统一社会信用代码字段[^3]。 #### 编写 Spider 脚本 下面是一个简单的例子展示如何利用 Scrapy 构建一个 spider 来抓取网页上的特定信息: ```python import scrapy from bs4 import BeautifulSoup class CreditCodeSpider(scrapy.Spider): name = 'credit_code_spider' start_urls = ['http://example.com/list_of_companies'] # 替换成实际网址 def parse(self, response): soup = BeautifulSoup(response.text,'lxml') companies = soup.find_all('div', class_='company-entry') # 假设公司条目位于此类 div 中 for company in companies: credit_code = company.select_one('.social-credit-code').text.strip() # 获取统一社会信用代码 yield { 'name': company.h2.a.get_text(), 'credit_code': credit_code, } next_page = response.css('a.next-page::attr(href)').get() if next_page is not None: yield response.follow(next_page, self.parse) ``` 此脚本会遍历指定 URL 页面中的所有公司记录,并提取每家公司的名称及其对应的统一社会信用代码。注意要根据实际情况调整 HTML 解析逻辑以匹配目标站点结构[^1]。 #### 遵守法律与道德准则 在执行任何网络虫活动之前,请务必确认该行为符合当地法律法规以及网站的服务条款。尊重版权和个人隐私权是非常重要的原则之一[^4]。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值