码迷,mamicode.com
首页 > 其他好文 > 详细

获取广州商学院各页新闻标题及点击次数

时间:2017-10-11 12:42:33      阅读:102      评论:0      收藏:0      [点我收藏+]

标签:sea   div   广州   php   点击   odi   range   parse   model   

import requests
import re
from bs4 import BeautifulSoup
url=http://news.gzcc.cn/html/xiaoyuanxinwen/
res=requests.get(url)
res.encoding=utf-8
soup=BeautifulSoup(res.text,html.parser)

#获取点击次数
def getclick(newurl):
    id=re.search(_(.*).html,newurl).group(1).split(/)[1]
    clickurl=http://oa.gzcc.cn/api.php?op=count&id={}&modelid=80.format(id)
    click=int(requests.get(clickurl).text.split(".")[-1].lstrip("html(‘").rstrip("‘);"))
    return click

#获取内容
def getonpages(listurl):
    res=requests.get(listurl)
    res.encoding=utf-8
    soup=BeautifulSoup(res.text,html.parser)
    
    for news in soup.select(li):
        if len(news.select(.news-list-title))>0:
            title=news.select(.news-list-title)[0].text #标题
            time=news.select(.news-list-info)[0].contents[0].text#时间
            url1=news.select(a)[0][href] #url
            bumen=news.select(.news-list-info)[0].contents[1].text#部门
            description=news.select(.news-list-description)[0].text #描述

            resd=requests.get(url1)
            resd.encoding=utf-8
            soupd=BeautifulSoup(resd.text,html.parser)
            detail=soupd.select(.show-content)[0].text

            click=getclick(url1) #调用点击次数
            print(title,click)


count=int(soup.select(.a1)[0].text.rstrip(""))
pages=count//10+1
for i in range(2,4):
    pagesurl="http://news.gzcc.cn/html/xiaoyuanxinwen/{}.html".format(i)
    getonpages(pagesurl)

    
    

 

获取广州商学院各页新闻标题及点击次数

标签:sea   div   广州   php   点击   odi   range   parse   model   

原文地址:http://www.cnblogs.com/garxiu/p/7649788.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!