码迷,mamicode.com
首页 > 其他好文 > 详细

关于scrapy 使用代理相关问题

时间:2018-01-17 01:23:07      阅读:173      评论:0      收藏:0      [点我收藏+]

标签:set   post   log   led   span   相关   设置   保存   ret   

在scrapy中使用代理时,我们不能保证每个代理都可用,难免出现代理ip错误的情况,如果代理ip出现错误设置一个请求超时和重新发送这个链接

在yield scrapy.Request时候加上一个参数:

meta={download_timeout: 10}

代表请求超时为10秒

然后在settings中设置如下:

RETRY_ENABLED = True
RETRY_TIMES = 5

保存即可

关于scrapy 使用代理相关问题

标签:set   post   log   led   span   相关   设置   保存   ret   

原文地址:https://www.cnblogs.com/lilinpging/p/8298331.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!