码迷,mamicode.com
首页 > 其他好文 > 详细

小白的第一个爬虫程序(糗事百科)

时间:2017-05-29 18:28:17      阅读:176      评论:0      收藏:0      [点我收藏+]

标签:logs   print   port   程序   windows   nbsp   class   com   pat   

import urllib.request

import re


for page in range(1, 10):
    url = "https://www.qiushibaike.com/8hr/page/"+str(page)+"/"
    headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64; rv:53.0) Gecko/20100101 Firefox/53.0"}

    pattern = re.compile(<div\sclass="content">(.*?)</div>, re.S)

    request = urllib.request.Request(url, headers=headers)
    response = urllib.request.urlopen(request)
    html = response.read().decode("utf-8")

    count_list = pattern.findall(html)
    for i in count_list:
        print(i.replace("<span>", "").replace("</span>", "").replace("<br/>", ""))

 

小白的第一个爬虫程序(糗事百科)

标签:logs   print   port   程序   windows   nbsp   class   com   pat   

原文地址:http://www.cnblogs.com/xunidianfeng/p/6918445.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!