码迷,mamicode.com
首页 > Web开发 > 详细

HTTP Error 403: Forbidden

时间:2017-08-05 21:12:26      阅读:262      评论:0      收藏:0      [点我收藏+]

标签:error   user   pytho   webkit   uil   build   地方   下载   forbidden   

在写网页爬虫的时候,有的网站会有反爬取措施,所以有可能出现上面所示bug

出现bug的地方可能有两处:

1. requests请求时

  requests.get(url),返回结果是403。

  解决方法:

  headers= {

      ‘User-Ageent‘:‘一些字符‘,

      ‘Cookie‘:‘一些字符‘

   }

  requests.get(url, headers=headers),

  此时返回结果应该就是200,正常。加入headers的目的是,模拟人的行为,让服务器认为是人在操作,

  User-Agent, Cookie可以查看网页requests,即可查明,不同网页,Cookie不同

2. urlretrieve下载东西时

  解决方法:

 import urllib.request

opener=urllib.request.build_opener()
opener.addheaders=[(‘User-Agent‘,‘Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/36.0.1941.0 Safari/537.36‘)]
urllib.request.install_opener(opener)

url=‘‘
local=‘‘
urllib.request.urlretrieve(url,local)

  原理还不是很清楚,在stackoverflow上找到的,结果正确。

HTTP Error 403: Forbidden

标签:error   user   pytho   webkit   uil   build   地方   下载   forbidden   

原文地址:http://www.cnblogs.com/fenglj/p/7291343.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!