码迷,mamicode.com
首页 > 其他好文 > 详细

第一个爬虫程序

时间:2020-12-18 13:11:18      阅读:3      评论:0      收藏:0      [点我收藏+]

标签:bs4   请求   bsp   lib   程序   http   request   需要   观察   

使用的库

urllib、bs4——代码如下:

from urllib.request import urlopen
from bs4 import BeautifulSoup as bf

 

发出请求,获取html(获取到的是字节,需要转换)
 

html=urlopen("http://www.baidu.com")
 
 

用beautifulsoup将获取的内容转换为结构化内容
 
obj=bf(html.read(),‘html.parser‘)

 
 
find_all方法可以找出所有的对应标签
 
logo_pic_info=obj.findall(‘img‘,class="index-logo-src")
 
 

最后注意观察获取到的url,缺啥补啥!

 
logo_url="http:"+logo_pic_info[1][‘src‘]
 
 

心得:

 
用find_all获取的标签是一个数组,可以用数组的访问方法访问。

第一个爬虫程序

标签:bs4   请求   bsp   lib   程序   http   request   需要   观察   

原文地址:https://blog.51cto.com/15052789/2563577

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!