码迷,mamicode.com
首页 > 其他好文 > 详细

scrapy练习1

时间:2019-05-16 17:43:39      阅读:134      评论:0      收藏:0      [点我收藏+]

标签:当前目录   new   fir   lib   记录   module   添加   python   start   

1.建立项目:

#建立名为tuto的项目
scrapy startproject tuto

技术图片

2.进入项目目录:

cd tuto

3.建立域名任务:

#minyan任务名;后面是任务对应的域名
scrapy genspider minyan quotes.toscrape.com

技术图片

cmd全程记录:

E:\a\scrapy_test>scrapy startproject tuto
New Scrapy project tuto, using template directory c:\python\python37\lib\site
-packages\scrapy\templates\project, created in:
    E:\a\scrapy_test\tuto

You can start your first spider with:
    cd tuto
    scrapy genspider example example.com

E:\a\scrapy_test>cd tuto

E:\a\scrapy_test\tuto>scrapy genspider minyan quotes.toscrape.com
Created spider minyan using template basic in module:
  tuto.spiders.minyan

E:\a\scrapy_test\tuto>

4.pycharm打开项目,建立用于调试的文件:main.py

技术图片

用到的函数解析:https://www.cnblogs.com/chenxi188/p/10876690.html

 main.py:

# -*- coding: utf-8 -*-
__author__=pasaulis
import sys,os
from scrapy.cmdline import execute

#获取到当前目录,添加到环境变量,方便运行cmd不必再去找目录
#.append()添加到环境变量;.dirname()输出不含文件名的路径;.abspath(__file__)得到当前文件的绝对路径
sys.path.append(os.path.dirname(os.path.abspath(__file__)))

#调用命令运行爬虫scrapy crawl 爬虫名minyan.py中(name的值)
execute(["scrapy","crawl","minyan"])

 

scrapy练习1

标签:当前目录   new   fir   lib   记录   module   添加   python   start   

原文地址:https://www.cnblogs.com/chenxi188/p/10876901.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!