码迷,mamicode.com
首页 > 其他好文 > 详细

网络爬虫基本练习

时间:2018-03-29 17:25:19      阅读:82      评论:0      收藏:0      [点我收藏+]

标签:from   nbsp   requests   bsp   beautiful   bs4   imp   class   list   

1:取出hi标签的文本

import requests
url = ‘http://news.gzcc.cn/html/2018/xiaoyuanxinwen_0328/9113.html‘
res = requests.get(url)
res.encoding=‘utf-8‘
from bs4 import BeautifulSoup
soup = BeautifulSoup(res.text,‘html.parser‘)
soup.h1.text

 2、取出a标签链接

soup.a.attrs.get(‘href‘)

 3、取出li标签的所有内容

soup=BeautifulSoup(res.text,‘html‘)
for i in soup.select(‘li‘):
    print(i)

 4、取出新闻链接,发布时间,来源,标题

print(soup.select(‘.news-list-title‘)[0].text)
print(soup.select(‘li‘)[1].a.attrs[‘href‘])
print(soup.select(‘.news-list-info‘)[0].contents[0].text)
print(soup.select(‘.news-list-info‘)[0].contents[1].text)

 

网络爬虫基本练习

标签:from   nbsp   requests   bsp   beautiful   bs4   imp   class   list   

原文地址:https://www.cnblogs.com/byyl/p/8670929.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!