码迷,mamicode.com
首页 > 其他好文 > 详细

一、爬虫之基础

时间:2019-07-27 18:42:52      阅读:90      评论:0      收藏:0      [点我收藏+]

标签:request   情况下   服务器   提交数据   两种   形式   网址   情况   常用   

一、爬虫之基本原理

发起请求
通过HTTP库向目标站点发起请求,也就是发送一个Request,请求可以包含额外的header等信息,等待服务器响应

获取响应内容
如果服务器能正常响应,会得到一个Response,Response的内容便是所要获取的页面内容,类型可能是HTML,Json字符串,二进制数据(图片或者视频)等类型

解析内容
得到的内容可能是HTML,可以用正则表达式,页面解析库进行解析,可能是Json,可以直接转换为Json对象解析,可能是二进制数据,可以做保存或者进一步的处理

保存数据
保存形式多样,可以存为文本,也可以保存到数据库,或者保存特定格式的文件

二、Request请求

  2.1 请求方式

    主要有GET/POST两种类型常用类型,另外还有HEAD/PUT/DELETE/OPTIONS

    GET和POST的区别是:GET请求的数据放在url中,POST则在则是刚在头部

    GET:指向的资源发出“显示”请求,使用GET的方法应该只用在读取数据;

    POST:指向资源提交数据,请求服务器进行处理(提交表单或者上传文件),数据被包含在请求本文中;

    HEAD:与GET方法一样,都是向服务器发出指定的资源请求,只不过服务器将不传回资源的本文部分,好处在于:使用这个方法可以在不必传输全部内容的情况下,就可以获取其中关键资源信息(元信息,元数据)

    PUT:向指定资源位置上传其最新的内容

    OPTIONS:这个方法可使服务器传回该资源支持的所有HTTP请求方法,用“*”来代替资源名称,向Web服务器发送OPTIONS请求,可以ice 是服务器功能是否正常运作;

    DELETE:请求服务器删除Request-URI所标识的资源。

  2.2 请求URL

    URL,统一资源定位符,即网址,

一、爬虫之基础

标签:request   情况下   服务器   提交数据   两种   形式   网址   情况   常用   

原文地址:https://www.cnblogs.com/chushujin/p/11028315.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!