码迷,mamicode.com
首页 > 其他好文 > 详细

scrapy发送post请求

时间:2020-04-19 11:05:42      阅读:78      评论:0      收藏:0      [点我收藏+]

标签:code   百度   post   port   spi   发送post请求   一个   dom   res   

重写父类中的一个方法(start_requests):该方法默认可以对start_urls列表中的元素进行get请求的发送
1.将Request方法中method参数赋值成post
2.FormRequest()可以发起post请求(推荐)

实例:发送post请求抓取百度翻译
spider文件
import scrapy
import json


class PostdemoSpider(scrapy.Spider):
    name = postDemo
    # allowed_domains = [‘www.baidu.com‘]
    start_urls = [https://fanyi.baidu.com/sug]

    # 该方法其实是父类中的一个方法:该方法可以对start_urls列表中的元素进行get请求的发送
    # 发起post:
    # 1.将Request方法中method参数赋值成post
    # 2.FormRequest()可以发起post请求(推荐)
    def start_requests(self):
        # for url in self.start_urls:
        #     yield scrapy.Request(url,callback=self.parse)
        print(start_requests())
        # post请求的参数
        data = {
            kw: dog,
        }
        for url in self.start_urls:
            yield scrapy.FormRequest(url,callback=self.parse,formdata=data)

    def parse(self, response):
        jsobj = json.loads(response.body) # json处理
        fanyi_data = jsobj[data]
        print(fanyi_data)

 



scrapy发送post请求

标签:code   百度   post   port   spi   发送post请求   一个   dom   res   

原文地址:https://www.cnblogs.com/xiao-apple36/p/12730210.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!