码迷,mamicode.com
首页 > 其他好文 > 详细

爬虫抓取表格中的数据

时间:2017-08-18 20:03:33      阅读:151      评论:0      收藏:0      [点我收藏+]

标签:lib   开头   window   tar   需求   web   页面   get   比较   

有时候因为某些需求需要爬取某个网页中某个表格里的数据,这时候如果这个页面只有这一个表格的时候,那么抓取就比较容易了,但是当这个页面中有大量的表格的时候,再使用之前的方法,就会发现虽然也能抓取到要的数据,但是还有一大堆冗余。

这时候,就可以使用下面这种方法

就以这个网页里的表格为例

#coding:utf-8

import re
import urllib2

url=http://58921.com/
header={User-Agent:Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.90 Safari/537.36}

request=urllib2.Request(url,headers=header)
page_code=urllib2.urlopen(request).read()

# 从网页源码中找到你要抓取表格的下列信息

# 表格开头
start_code=<table class="table table table-bordered table-condensed">
# 表格结尾
end_code=</tbody>
# 表格中要抓取的数据
find_code=<td><a href=".*?" title=".*?">(.*?)</a></td><td>(.*?)</td><td>(.*?)</td><td>(.*?)</td><td>(.*?)</td>

# 这里通过 start和end指定在整个页面中你所寻找的表格
start=page_code.find(start_code)
end=page_code.find(end_code)
find=page_code[start:end]

final_find=re.findall(find_code,find)

for x in final_find:
    print ,.join(x)

print finish

 

爬虫抓取表格中的数据

标签:lib   开头   window   tar   需求   web   页面   get   比较   

原文地址:http://www.cnblogs.com/HapyyHao1314/p/7391213.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!