码迷,mamicode.com
首页 > 编程语言 > 详细

Python:黑板课爬虫闯关第一关

时间:2018-09-15 15:18:44      阅读:179      评论:0      收藏:0      [点我收藏+]

标签:awl   ext   src   iba   数字   int   def   闯关   less   

近日发现了【黑板课爬虫闯关】这个神奇的网页,练手爬虫非常的合适

第一关非常的简单

技术分享图片

get 请求网址,在响应的 html 中用正则获取需要在网址后面输入的数字,生成新的 url,继续请求,直到通关。

代码如下:

import re
import requests
import time


def main():
    url = http://www.heibanke.com/lesson/crawler_ex00/
    get_next(url)


def get_next(url):
    print(url)
    html = requests.get(url).text
    m = re.search((你需要在网址后输入数字|下一个你需要输入的数字是)(\d+), html)
    if m:
        num = m.group(2)
        next_url = http://www.heibanke.com/lesson/crawler_ex00/ + num
        time.sleep(1)
        get_next(next_url)
    else:
        m = re.search((?<=\<h3\>).*?(?=\</h3\>), html)
        print(m.group())
        m = re.search((\<).*?href="([^"]*?)".*?(\>下一关\</a\>), html)
        print(f下一关 http://www.heibanke.com{m.group(2)})


if __name__ == __main__:
    main()

 

Python:黑板课爬虫闯关第一关

标签:awl   ext   src   iba   数字   int   def   闯关   less   

原文地址:https://www.cnblogs.com/gl1573/p/9650887.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!