
爬虫
文章平均质量分 67
pysrc
这个作者很懒,什么都没留下…
展开
-
Py3异步爬虫浅涉
Py3.x异步网络爬虫浅涉异步的概念举个例子,A正在玩游戏,B去叫A一起吃饭,这个时候B有两种选择,一是等A玩完游戏一起去吃饭,二是去干其他事情,并告诉A玩完通知他。是的,前一种选择就是单线程,后一种是多线程,但是,如果使用多线程做这件事就会出现B为了得到A的通知不得不隔一段时间停下手中的活看看A是否通知,而使用while循环似乎又不太恰当,降低程序性能,这个时候就可用异步处理。异步示例异步是py3原创 2017-09-06 21:41:34 · 315 阅读 · 0 评论 -
Golang 的类Scrapy爬虫实现
核心部分N0.1 Request/Responsetype Response struct { Url string Body string Meta *map[string]string}type Request struct { Url string Parse func(response *Response) Meta *map[str原创 2017-12-10 10:57:14 · 1523 阅读 · 0 评论 -
Go语言解析Html
思想来源:BeautifulSoup4原则:简单、快、省内存特点:自造轮子随心用,不规则html照样干结构体及其接口定义package bstype SelFunc interface { Sel(tag string, attrs *map[string]string) (nodes []*Node) // 只提供给user此方法}type Node struct { // 基本节点结构原创 2017-12-12 14:11:46 · 2888 阅读 · 0 评论