- 博客(6)
- 收藏
- 关注
原创 Python数据分析模块:Numpy,Pandas,Matplotlib
1、数据分析流程1.1、基本流程1、明确需求与目的2、数据收集(1)内部数据(2)购买数据(3)爬取数据(4)调查问卷(5)其他收集3、数据预处理(1)数据整合:横向整合、纵向整合(2)数据清洗:缺失值、异常值、重复值(3)数据转换4、数据分析(1)描述分析(2)推断分析(3)数据建模:特征工程、超参数调整(4)数据可视化5、编写报告2、读取数据2.1、导入相关的库import numpy as npimport pandas as pdimport mat
2021-04-17 22:44:48
1182
原创 CentOS 安装 python3 超详细无脑流程(亲测有效)
come oncome onturn the redio on ~~点我!!超强无脑指示!绝绝子!!
2021-04-13 23:59:22
211
1
原创 Django中间件——实现登陆验证
目录中间件(MiddleWare)定义内置的六个切点(钩子函数)自定义中间件规则实例之——登录验证中间件(MiddleWare)定义面向切面编程(IoC), 为开发者提供了一种无侵入式的开发方式,增强了Django框架的健壮性,其它的MVC框架也有这个功能。内置的六个切点(钩子函数)项目1项目2项目3项目1项目2项目3自定义中间件规则实例之——登录验证...
2021-04-03 19:31:31
1007
2
原创 使用urllib爬取数据,lxml、bs4、正则解析数据合集,pymysql存储数据
根据输入的类别和页数来爬取糗事百科,基于练习,分别使用xpath匹配段子模块、正则匹配视频模块、bs4 匹配热图模块。# 连接数据库类class SQL_connect: conn = "" cur = "" def __init__(self): self.conn = pymysql.connect( host='localhost', port=3306, user='root',
2021-03-08 00:23:37
280
2
原创 scrapy-单线程爬取并存入mwsql
scrapy基本结构、爬取流程、定义随机请求头、抓取异步网页请参考:scrapy框架–基础结构加爬取异步加载数据的网址项目完整实例items.pyclass BooksItem(scrapy.Item): # define the fields for your item here like: # name = scrapy.Field() book_name = scrapy.Field() # 图书名 book_star = scrapy.Field() #
2021-03-05 15:39:22
630
1
原创 scrapy框架–基础结构加爬取异步加载数据的网址项目完整实例
scrapy框架–基础加实例为了提取网站数据,提取结构型数据而编写的应用框架,使用twisted高效异步网络框架来处理网络通信。Twisted 是用python实现的 基于事件驱动的网络引擎框架诞生于2000年初,网络游戏开发者发现无论用什么语言都有 可兼容 扩展性 及 跨平台 的网络库,支持常见的传输和应用层协议,兼容这些协议Ssl /tls、tcp udp http imap……和Python一样 具有内置电池,所支持的协议都带有客户端和服务器端实现(client-sever)目录scr
2021-03-05 14:37:05
988
8
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人