码迷,mamicode.com
首页 > 其他好文 > 详细

pyspider中内容选择器常用方法汇总

时间:2018-01-29 22:33:38      阅读:222      评论:0      收藏:0      [点我收藏+]

标签:tps   没有   pid   html   test   选择器   选择   post   doc   

pyspider 的内容选择器默认已经实例化一个pyquery对象,可以直接使用pyquery的api来获取自己需要的内容。

如果你英文基础好可以直接查看pyquery的官方文档。https://pythonhosted.org/pyquery/

在pyspider中常用案例:

 

1.在pyquery中使用response.doc就可以直接实例化一个pyquery对象,就可以直接在里面使用pyquery方法了,

 

2.html()和text() ——获取相应的HTML块或文本块,

例:html:"<head><title>hello</title></head>"
response.doc(‘head‘).html()#返回<title>hello</title>
response.doc(‘head‘).text()#返回hello

 

3.根据HTML标签来获取元素,

例:html:‘<div><p>test 1</p><p>test 2</p></div>‘

response.doc(‘p‘)#返回[<p>,<p>]

print response.doc(‘p‘)#返回<p>test 1</p><p>test 2</p>

print response.doc(‘p‘).html()#返回test 1

注意:当获取到的元素不只一个时,html()、text()方法只返回首个元素的相应内容块

 

4.eq(index) ——根据给定的索引号得到指定元素
接上例,若想得到第二个p标签内的内容,则可以:
print response.doc(‘p‘).eq(1).html() #返回test 2

 

5.filter() ——根据类名、id名得到指定元素,

例:html:"<div><p id=‘1‘>test 1</p><p class=‘2‘>test 2</p></div>"
response.doc(‘p‘).filter(‘#1‘) #返回[<p#1>]
response.doc(‘p‘).filter(‘.2‘) #返回[<p.2>]

 

6.find() ——查找嵌套元素,

例:html:"<div><p id=‘1‘>test 1</p><p class=‘2‘>test 2</p></div>"
response.doc(‘div‘).find(‘p‘)#返回[<p#1>, <p.2>]
response.doc(‘div‘).find(‘p‘).eq(0)#返回[<p#1>]

 

7.直接根据类名、id名获取元素,

例:html:"<div><p id=‘1‘>test 1</p><p class=‘2‘>test 2</p></div>"
response.doc(‘#1‘).html()#返回test 1
response.doc(‘.2‘).html()#返回test 2

 

8.获取属性值,

例:html:"<p id=‘my_id‘><a href=‘http://hello.com‘>hello</a></p>"
response.doc(‘a‘).attr(‘href‘)#返回http://hello.com
response.doc(‘p‘).attr(‘id‘)#返回my_id

 

9.获取内容的一部分可以用分割字符串法:

例:html:"<p id=‘my_tel‘>姓名 电话</p>"

response.doc(‘#my_tel‘).text().split(‘ ‘)[0]用来取“姓名” response.doc(‘#my_tel‘).text().split(‘ ‘)[0]用来取“电话”

 

pyquery还有其他一些用法,这里没有一一整理出来,更多更全的方法可以直接去看它的文档。

pyspider中内容选择器常用方法汇总

标签:tps   没有   pid   html   test   选择器   选择   post   doc   

原文地址:https://www.cnblogs.com/shiluoliming/p/8379533.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!