scrapy yield Request

转载于 2015-05-03 18:46:00 发布 · 250 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/feika/p/4474466.html

文章标签：

#python

本文介绍了一个使用Python Scrapy框架的爬虫实例，通过定义Spider类抓取example.com网站的页面内容，并解析其中的标题信息。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import scrapy
from myproject.items import MyItem
class MySpider(scrapy.Spider):
name = ’example.com’ allowed_domains = [’example.com’] start_urls = [
        ’http://www.example.com/1.html’,
        ’http://www.example.com/2.html’,
        ’http://www.example.com/3.html’,
]
def parse(self, response):
　　for h3 in response.xpath(’//h3’).extract():
　　　　yield MyItem(title=h3)

　　for url in response.xpath(’//a/@href’).extract(): 
　　　　yield scrapy.Request(url, callback=self.parse)