码迷,mamicode.com
首页 > 其他好文 > 详细

爬虫例子及知识点(scrapy知识点)

时间:2016-12-17 19:24:29      阅读:120      评论:0      收藏:0      [点我收藏+]

标签:project   技术分享   例子   pipe   目录   ide   log   lin   爬虫   

新知识:
新建一个scrapy项目:scrapy startproject xxx(项目名称)
运行一个scrapy项目:scrapy crawl xxx(项目名称)

项目文件说明:
技术分享
文件说明:
? scrapy.cfg 项目的配置信息,主要为Scrapy命令行工具提供一个基础的配置信息。(真正爬虫相关的配置信息在settings.py文件中)
? items.py 设置数据存储模板,用于结构化数据,如:Django的Model
? pipelines 数据处理行为,如:一般结构化的数据持久化
? settings.py 配置文件,如:递归的层数、并发数,延迟下载等
? spiders 爬虫目录,如:创建文件,编写爬虫规则

代码如下:
技术分享技术分享




爬虫例子及知识点(scrapy知识点)

标签:project   技术分享   例子   pipe   目录   ide   log   lin   爬虫   

原文地址:http://www.cnblogs.com/Yemilice/p/6192676.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!