标签:
做一个简单的spider用来获取python selenium实战教程的一些基本信息。因为python selenium每年滚动开课,所以做这样一个爬虫随时更新最新的开课信息是很有必要的。
这个简单的spider任务可以进行进一步的分解:
1 import re 2 from robobrowser import RoboBrowser 3 4 # 访问python selenium自动化测试班的页面 5 6 url = ‘http://itest.info/courses/2‘ 7 b = RoboBrowser(history=True) 8 b.open(url) 9 10 # 获取这个班的名称--python selenium自动化测试班 11 class_name = b.select(‘.headline h2‘) 12 print class_name[0].text 13 14 # 获取这个班的描述--独一无二的超低价培训-口碑之选 15 class_desc = b.select(‘.tag-box‘) 16 print class_desc[0].text 17 18 # 获取开班的时间--**第五期报名截止2015年1月17日,开课时间1月17日 19 class_time = b.select(‘h4‘) 20 print class_time[0].text 21 22 # 获取授课老师信息--虫师 23 teacher = b.select(‘.thumbnail-style h3‘) 24 print teacher[0].text 25 26 # 获取报名方式--**课程咨询请联系QQ:12079456 27 qq = b.find(text=re.compile(‘QQ‘)) 28 print qq 29 30 # 获取selenium进阶群的群号--**技术交流+selenium 进阶群:189116036 31 qq_group = b.find(text=re.compile(‘\+selenium‘)) 32 print qq_group
如果你对上面的例子不甚理解那也没什么关系,后面几节会按照场景进行分析讲解。
文本版权归乙醇所有,欢迎转载,但请标明出处。
下一节:robobrowser抓取网页内容
还没被玩坏的robobrowser(3)——简单的spider
标签:
原文地址:http://www.cnblogs.com/nbkhic/p/4213668.html