标签:更改 方法 http tps scrapy ide ext python3 class
导致request失效的原因有两个,下面是解决方法
第一,更改代码 allowe_domains 内容
class XXSpider(scrapy.Spider): name = ‘xxspider‘ allowed_domains = [‘www.xx.com‘] #一定不要带有https://开头 start_urls = [‘https://www.xx.com/xxxyyy/‘]
第二,更改Request函数过滤器
yield scrapy.Request(next_url, call_back=self.parse, dont_filter=True)
#增加代码,不过滤为真
标签:更改 方法 http tps scrapy ide ext python3 class
原文地址:https://www.cnblogs.com/passagain/p/10822352.html