码迷,mamicode.com
首页 > 其他好文 > 详细

《Forward团队-爬虫豆瓣top250项目-开发文档》

时间:2017-11-03 21:46:37      阅读:133      评论:0      收藏:0      [点我收藏+]

标签:_for   int   .text   ade   eth   失败   color   url   star   

码云地址:https://技术分享github.com/xyhcq/top250 

模块功能:获取豆瓣top250网页的源代码,并分析。

def getHTMLText(url,k):
    # 获取网页源代码
    try:
        if(k==0):
            kw={}
        else:
            kw={start:k,filter:‘‘}
        # 保存获取的网页
        read = requests.get(url,params=kw,headers={User-Agent: Mozilla/4.0})
        read.raise_for_status()
        read.encoding = read.apparent_encoding
        return read.text
    except:
        print("获取失败!")

def getData(html):
    # 分析代码信息,提取数据
    soup = BeautifulSoup(html, "html.parser")

    # 找到第一个class属性值为grid_view的ol标签
    movieList=soup.find(ol,attrs={class:grid_view})


    # 找到所有的li标签
    for movieLi in movieList.find_all(li):    
        # 找到第一个class属性值为hd的div标签
        movieHd=movieLi.find(div,attrs={class:hd})

 

《Forward团队-爬虫豆瓣top250项目-开发文档》

标签:_for   int   .text   ade   eth   失败   color   url   star   

原文地址:http://www.cnblogs.com/mazhuangmz/p/7780196.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!