码迷,mamicode.com
首页 > 其他好文 > 详细

爬取校园新闻首页的新闻

时间:2018-04-04 15:08:58      阅读:184      评论:0      收藏:0      [点我收藏+]

标签:[1]   str   html   链接   字符串   div   beautiful   strip   9.png   

1. 用requests库和BeautifulSoup库,爬取校园新闻首页新闻的标题、链接、正文。


import requests
newsurl = ‘http://news.gzcc.cn/html/xiaoyuanxinwen/‘
res = requests.get(newsurl) # 返回response对象
res.encoding = ‘utf-8‘
from bs4 import BeautifulSoup
soup = BeautifulSoup(res.text, ‘html.parser‘)
for news in soup.select("li"):

if(len(news.select(‘.news-list-info‘))>0):
print(news.select(‘a‘)[0].attrs[‘href‘])
print(news.select(‘.news-list-title‘)[0].text)
a = news.select(‘a‘)[0].attrs[‘href‘]
rq = requests.get(a)
rq.encoding="utf-8"
soup2 = BeautifulSoup(rq.text, ‘html.parser‘)
print(soup2.select("#content")[0].text)
 

 技术分享图片

2. 分析字符串,获取每篇新闻的发布时间,作者,来源,摄影等信息。

show = soup2.select(".show-info")[0].text.split()
dt = show[0].lstrip(‘发布时间:‘) + " " + show[1]
writer = show[2].lstrip(‘作者:‘)
sh = show[3].lstrip(‘审核:‘)
ly = show[4].lstrip(‘来源:‘)

print(dt,"\t", writer,"\t", sh, "\t",ly)

 


3. 将其中的发布时间由str转换成datetime类型。

        from datetime import datetime
        da = datetime.strptime(dt,"%Y-%m-%d %H:%M:%S")
        print(type(da))
        print(da,writer,sh,ly)
        break;

 技术分享图片

爬取校园新闻首页的新闻

标签:[1]   str   html   链接   字符串   div   beautiful   strip   9.png   

原文地址:https://www.cnblogs.com/Ming-jay/p/8710042.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!