码迷,mamicode.com
首页 > 其他好文 > 详细

pycharm下虚拟环境执行并调试scrapy爬虫程序(一)

时间:2017-10-14 16:50:54      阅读:275      评论:0      收藏:0      [点我收藏+]

标签:str   open   分享   data-   imageview   har   awl   raw   方式   

 

配置scrapy环境

分别pip install Zope.Interface、Twisted、w3lib、lxml、pyOpenSSL、Scrapy

新建爬虫项目,pycharm运行

我的项目名称为RadioCrawl
文件夹为

技术分享
Paste_Image.png


新建main.py
from scrapy import cmdline

cmdline.execute("scrapy crawl playlist".split())
表示用命令行的方式执行我的名为playlist的爬虫程序

用pycharm打开项目

技术分享
Paste_Image.png
打开Edit Configurations
技术分享
Paste_Image.png
调试

可以在其他代码中设置断点,debug运行

技术分享
Paste_Image.png
技术分享

pycharm下虚拟环境执行并调试scrapy爬虫程序(一)

标签:str   open   分享   data-   imageview   har   awl   raw   方式   

原文地址:http://www.cnblogs.com/Huangsh2017Come-on/p/7667020.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!