码迷,mamicode.com
首页 > 其他好文 > 详细

四、Item Pipeline

时间:2020-05-11 20:23:00      阅读:71      评论:0      收藏:0      [点我收藏+]

标签:img   优先级   topic   return   lin   可选参数   bsp   顺序   对象   

1、官方文档

  https://scrapy-chs.readthedocs.io/zh_CN/latest/topics/item-pipeline.html

2、简介

  当item在Spider中被收集之后,它会将被传递到Item Pipeline,这些Item Pipeline组件按定义的顺序处理Item。

3、编写item pipeline组件

  item pipeline组件是一个独立的Python类,其中process_item()方法必须实现。

class SomethingPipeline(object):
    def __init__(self):
        # 可选实现,做参数初始化等
        pass
    def process_item(self,item,spider):
        #item(Item对象)---被爬取的item
        #spider(Spider对象)---爬取该item的spider
        # 这个方法必须实现,每个item pipeline组件都需要调用该方法
        # 这个方法必须返回一个Item对象,被丢弃的item将不会被之后的pipeline组件所处理
        return item
    def open_spider(self,spier):
        # spider(Spider对象)---被开启的spider
        # 可选参数,当spider被开启时,这个方法被调用
        pass
    def close_spider(self,spider):
        # spider(Spider对象)---被关闭的spider
        # 可选实现,当spider被关闭时,这个方法被调用
        pass

4、启动一个item pipeline组件

  为了启用Item Pipeline组件,必须将它的类添加到settings.py文件ITEM_PIPELINES配置

  技术图片

 

   分配给每个类的整型值,确定了它们运行的顺序,item按数字从低到高的顺序,通过pipeline,通常将这些数字定义在0-1000范围内(0-1000随意设置,数值越低,组件的优先级越高)

5、启动爬虫验证

  `scrapy crawl projectName`

 

四、Item Pipeline

标签:img   优先级   topic   return   lin   可选参数   bsp   顺序   对象   

原文地址:https://www.cnblogs.com/nuochengze/p/12871440.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!