码迷,mamicode.com
首页 > 编程语言 > 详细

路飞学成-Python爬虫实战密训-第1章

时间:2018-07-05 23:42:58      阅读:255      评论:0      收藏:0      [点我收藏+]

标签:因此   news   导入   app   jquer   返回   报错   parent   get   

1,本节学习体会、心得 :

  经过几个月的努力学完了django。因此才选择了这个爬虫课程。经过第一章的学习,再次体会到了python的强大。之前一直为正则发愁,每次都要修改好几次,才能匹配到。严重影响效率。然而,在这节中学到了新的技能 beautifulsoup4模块。用起来太爽了,简直就像是在写jquery 。大大提高了匹配的效率。

武老师讲的非常通俗易懂,但是如果只听的话,过后就忘了。在去写已经学过的代码,仍然不知道怎么写。但是照着笔记,举一反三的去爬取几个站之后。再来写的话就可以抛弃笔记了。哈哈 ,也算是一点小心得了。

2,本节的知识点总结:

  一、爬虫入门

  安装requests模块 :pip3 install requests  

  安装bs4 模块 :pip3 install beautifulstoup4 

  导入request模块: import requests

  导入bs4模块 :from  bst import BeautifulSoup    

import requests
from  bst import BeautifulSoup

# 通过get方式获取要爬取的页面的内容 
ret = requests.get(url=https://www.autohome.com.cn/news/)

# 给获取到的内容设置编码  (apparent_encoding 获取当前内容的编码)
ret.encoding = ret.apparent_encoding
 
# 用beautifulsoup模块解析 获取到的内容
soup = ret.Beautifulsoup(ret.text,html.parser)  #html.parser 是解析的方式
 
# find 找第一个对象  find_all 找到所有的对象 返回一个对象列表
div = soup.find(name=div,id="auto-channel-lazyload-article")
# div = soup.find(name=‘div‘,attrs=[‘id‘:"auto-channel-lazyload-article",‘class‘:‘btn‘])
# div.text
# div.attrs
# div.get(‘href‘)
# 获取所有的li标签对象 find_all
list = div.find_all(name=li)
#list = div.find_all(name=‘li‘,_class=‘li‘)
# list = div.find_all(name=‘li‘,attrs=[‘href‘:‘xxx.xxx.com‘])
#遍历list对象列表 打印出每个li下的h3标签里的内容 a标签的href属性值  p标签的内容
for i in list:
  h3 = i.find(name=h3)
  a = i.find(name=a)
  try:  #由于h3的可能会是空 print会报错 这里可以用if判断跳出循环 这里我用try不让它报错
    print(h3.text,a.get(href))
    print(i.find(p).text)
  except:
    pass

 

入门知识到此结束 

 

----------- end  --------------

 

  

   

  

  

路飞学成-Python爬虫实战密训-第1章

标签:因此   news   导入   app   jquer   返回   报错   parent   get   

原文地址:https://www.cnblogs.com/iamdi/p/9270620.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!