
python
花和尚也有春天
会收集一些不错的文章,时常品读,也学着自己总结一些东西,坚持努力的方向!
展开
-
python:爬虫:技术路线
如果想处理javaScript表单提交等相关功能,可以用第三方库PhantomJS(非常优秀的轻量级的浏览器库 ,可以很好的解析 javaScript,并从其解析中获取相关数据)对于scripe爬虫,我们可以在pypi网站上看到一批以scripe-开头的第三方库,他们 都是完善scrape框架相关功能的单元可以尝试在scrape框架中配置这些单元参考视...原创 2019-12-13 02:02:15 · 861 阅读 · 0 评论 -
python:爬虫:框架:scrapy:实现抓取股票信息(实例编写)
实例应用:建立工程和spider模板:执行以下步骤命令:代码最终写完后如下:文件1:stocks.py# -*- coding: utf-8 -*-import scrapyimport reclass StocksSpider(scrapy.Spider): name =...原创 2019-12-13 00:11:12 · 1047 阅读 · 0 评论 -
python:爬虫:Scrapy爬虫的使用步骤
Request类 向网络上提交请求内容Response类 从网络中爬取内容的封装类item类 由spider产生的信息封装的类原创 2019-12-12 23:56:04 · 220 阅读 · 0 评论 -
python:爬虫:yield关键字
# 生成器写法def gen(n): for i in range(n): yield i**2 # 执行到这里会被冻结,然后将值返回# for循环调用生成器,每次都生成一个值,这个值被打印出来,最后执行的是小于5的整数的平方值for i in gen(5): print(i," ",end="")结果:0 1 4 9 16但...原创 2019-12-12 23:36:45 · 339 阅读 · 0 评论 -
python:爬虫:Scrapy框架实例(详细步骤)
目标:爬取以下网页内容,并存取到文件:实现步骤:产生步骤步骤1:建立一个Scrapy工程新建一个目录D:\pythontest\scrapy\pycodes,进入 目录,然后执行 命令 scrapy startproject python123demo以上检测出并未安装 scrapy框架 :D:\pythontest\scrapy\pyco...原创 2019-12-12 02:34:34 · 2098 阅读 · 0 评论 -
python:爬虫:request库和Scrapy框架比较
原创 2019-12-12 01:00:10 · 1003 阅读 · 0 评论 -
python:爬虫:Scrapy框架
原创 2019-12-12 00:46:25 · 179 阅读 · 0 评论 -
python:爬虫 :爬取股票信息应用实例并入库mysql,进而实现可视化
候选数据网站的选择选取原则:股票信息静态存在于HTML页面中,非js代码生成,没有Robots协议限制选取方法:浏览器F12,源代码查看等程序的结构设计:步骤1:从东方财富网获取股票列表步骤2:根据股票列表 逐个到百度股票获取个股信息步骤3:将结果存储到文件参考视频:https://www.bilibili.com/video/av9784617?p=47代码:imp...原创 2019-12-11 23:46:07 · 1848 阅读 · 0 评论 -
python:requests库
打开cmd输入:pip install requests然后测试:requests库的主要7个方法:支持 6种常用的连接异常Requests库的7个主要方法:请求时传的是字典,默认将返回数据放到表单下form:请求时传的是字符串,默认将返...原创 2019-11-29 00:18:07 · 490 阅读 · 0 评论 -
python:私有变量和私有方法
默认情况下,Python中的成员函数和成员变量都是公开的(public),在python中没有类似public,private等关键词来修饰成员函数和成员变量。在python中定义私有变量只需要在变量名或函数名前加上 ”__“两个下划线,那么这个函数或变量就是私有的了。在内部,python使用一种 name mangling 技术,将 __membername替换成 _classname__...转载 2019-11-28 23:18:03 · 936 阅读 · 0 评论 -
python:if __name__ == '__main__',__init__和self 的解析
1 if __name__ == '__main__'1.1 摘要通俗的理解__name__ == '__main__':假如你叫小明.py,在朋友眼中,你是小明(__name__ == '小明');在你自己眼中,你是你自己(__name__ == '__main__')。if __name__ == '__main__'的意思是:当.py文件被直接运行时,if __name__ == '...转载 2019-11-24 23:42:48 · 261 阅读 · 0 评论 -
hive:python:脚本基础用法(含与Hive交互demo)
一:日期相关 Date:1.获取昨天日期yesterday = datetime.date.today() - datetime.timedelta(days=1)2.获取本月1号日期firstdayofmonth = datetime.datetime.strptime(yesterday.strftime('%Y-%m')+'-01', '%Y-%m-%d').date()3.获...原创 2019-10-24 11:20:03 · 1300 阅读 · 0 评论 -
python:linux服务器怎么安装pip
1、先说一下什么是pippip 是“A tool for installing and managing Python packages.”,也就是说pip是python的软件安装工具2、下面介绍怎么在linux下安装pip下载pip到/usr/local/src# cd /usr/local/src# wget "https://pypi.python.org/packages/sou...转载 2019-05-18 20:15:12 · 1967 阅读 · 0 评论 -
Python:01、Python介绍
一种面向对象,面向函数的解释型计算机程序设计语言,由荷兰人Guido van Rossum于1989年发明,第一个公开发行版发行于1991年。 Python是纯粹的自由软件, 源代码和解释器CPython遵循 GPL(GNU General Public License)协议[2] 。 Python语法简洁清晰,特色之一是强制用空白符(white space)作为语句缩进。...转载 2018-09-29 00:41:48 · 246 阅读 · 0 评论 -
Python:02、第一个Python程序——hello world
.在linux下编写python程序方法1在centos下默认的python版本是2.6.6。我们使用3.6的版本。ln -s /usr/python3.5/bin/python3 /usr/bin/python<1>编写python程序方法1 使用文本编辑器来编写一个Python程序 ,保存为一个后缀为.py的文件。vim编辑 <2>编写p...转载 2018-09-29 00:52:24 · 203 阅读 · 0 评论 -
Python:03、注释和中文编码
1、注释的分类<1> 单行注释以#开头,#右边的所有东西当做说明,而不是真正要执行的程序,起辅助说明作用# 我是注释,可以在里写一些功能说明之类的哦 print('hello world')<2> 多行注释'''我是多行注释,可以写很多很多行的功能说明 这就是我牛X指出 哈哈哈。。。 ''' 2. python程序中,中文编码问题 ...转载 2018-09-29 01:00:59 · 247 阅读 · 0 评论 -
Python:04、变量以及类型
变量以及类型<1>变量的定义在程序中,有时我们需要对2个数据进行求和,那么该怎样做呢?大家类比一下现实生活中,比如去超市买东西,往往咱们需要一个菜篮子,用来进行存储物品,等到所有的物品都购买完成后,在收银台进行结账即可如果在程序中,需要把2个数据,或者多个数据进行求和的话,那么就需要把这些数据先存储起来,然后把它们累加起来即可在Python中,存储一个数据,需要一个...转载 2018-09-29 01:05:36 · 152 阅读 · 0 评论 -
Python:05、标示符和关键字
<1>标示符什么是标示符?开发人员在程序中自定义的一些符号和名称标示符是自己定义的,如变量名 、函数名等 <2>标示符的规则标示符由字母、下划线和数字组成,且数字不能开头。不能有特殊符号:\,/,;,#思考:下面的标示符哪些是正确的,哪些不正确为什么fromNo12 from#12 my_Boolean my-Boolean Obj2 2...转载 2018-09-29 01:06:51 · 134 阅读 · 0 评论 -
Python:06、输出和输出格式
输出1. 普通的输出 # 打印提示 print('hello world') System.out.println用print()在括号中加上字符串,就可以向屏幕上输出指定的文字。比如输出'hello, world',用代码实现如下:>>> print('hello, world')print()函数也可以接受多个字符串,用逗号“,”隔开,就可以连成一串输...转载 2018-09-29 01:08:34 · 810 阅读 · 0 评论 -
Python:07、输入 和 运算符
输入如果要让用户从电脑输入一些字符怎么办?Python提供了一个input(),可以让用户输入字符串,并存放到一个变量里1. python2版本中1.1 raw_input()在Python中,获取键盘输入的数据的方法是采用 raw_input 函数。看如下示例:注意:raw_input()的小括号中放入的是,提示信息,用来在获取数据之前给用户的一个简单提示 raw_...转载 2018-09-29 01:45:23 · 245 阅读 · 0 评论 -
Python:08、条件判断
条件判断计算机之所以能做很多自动化的任务,因为它可以自己做条件判断。elif是else if的缩写,完全可以有多个elif,所以if语句的完整形式就是:if <条件判断1>: <执行1> elif <条件判断2>: <执行2> elif <条件判断3>: <执行3> else: <执行4> 比如转载 2018-09-29 01:46:23 · 283 阅读 · 0 评论 -
python:Anaconda安装python3后再安装2.7
Anaconda安装python3后再安装2.7 ,两者是共存的。执行图中命令:conda create -n py27 python=2.7-n是指定目录,py27是自定义的一个名字,为了把两个版本的python.exe分开,以作区分,用哪个版本python.exe指定哪个。执行命令后: 安装完毕: 安装到默认的目录:我们在安装的时候最好指定目录:...原创 2018-09-29 01:34:02 · 26939 阅读 · 4 评论