码迷,mamicode.com
首页 > Web开发 > 详细

正则爬取某段子网站前20页段子(request库)

时间:2019-06-30 17:17:37      阅读:161      评论:0      收藏:0      [点我收藏+]

标签:mamicode   init   false   sci   detail   响应   with   name   ensure   

首先还是谷歌浏览器抓包对该网站数据进行分析,结果如下:

  • 该网站地址:http://www.budejie.com/text
  • 该网站数据都是通过html页面进行展示,网站url默认为第一页,http://www.budejie.com/text/2为第二页,以此类推
  • 对网站的内容段子所处位置进行分析,发现段子内容都是在一个 a 标签中

技术图片

  • 坑还是有的,这是我第一次写的正则:
content_list = re.findall(r<a href="/detail-.*">(.+?)</a>, html_str) 
  • 之后发现竟然匹配到了一些推荐的内容,最后我把正则改变下面这样,发现没有问题了,关于正则的知识这里就不做过多解释了
content_list = re.findall(r<div class="j-r-list-c-desc">\s*<a href="/detail-.*">(.+?)</a>, html_str) 
  • 现在要的是爬取前20页的段子并保存到本地,已经知道翻页的规律和匹配内容的正则,就直接可以写代码了

 

代码如下,整体思路还是和前两排爬虫博客一样,面向对象的写法:

 1 import requests
 2 import re
 3 import json
 4 
 5 class NeihanSpider(object):
 6     """内涵段子,百思不得其姐,正则爬取一页的数据"""
 7     def __init__(self):
 8         self.temp_url = http://www.budejie.com/text/{}  # 网站地址,给页码留个可替换的{}
 9         self.headers = {
10             User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36,
11         }
12 
13     def pass_url(self, url):  # 发送请求,获取响应
14         print(url)
15         response = requests.get(url, headers=self.headers)
16         return response.content.decode()
17 
18     def get_first_page_content_list(self, html_str):  # 提取第一页的数据
19         content_list = re.findall(r<div class="j-r-list-c-desc">\s*<a href="/detail-.*">(.+?)</a>, html_str)  # 非贪婪匹配
20         return content_list
21 
22     def save_content_list(self, content_list):
23         with open(neihan.txt, a, encoding=utf-8) as f:
24             for content in content_list:
25                 f.write(json.dumps(content, ensure_ascii=False))
26                 f.write(\n)  # 换行
27             print(成功保存一页!)
28 
29     def run(self):  # 实现主要逻辑
30         for i in range(20):  # 只爬取前20页数据
31             # 1. 构造url
32             # 2. 发送请求,获取响应
33             html_str = self.pass_url(self.temp_url.format(i+1))
34             # 3. 提取数据
35             content_list = self.get_first_page_content_list(html_str)
36             # 4. 保存
37             self.save_content_list(content_list)
38 
39 if __name__ == __main__:
40     neihan = NeihanSpider()
41     neihan.run()

 

正则爬取某段子网站前20页段子(request库)

标签:mamicode   init   false   sci   detail   响应   with   name   ensure   

原文地址:https://www.cnblogs.com/springionic/p/11110314.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!