码迷,mamicode.com
首页 > 其他好文 > 详细

我是一只百度贴吧的小爬虫

时间:2015-08-01 19:04:56      阅读:251      评论:0      收藏:0      [点我收藏+]

标签:python   正则表达式   爬虫   

总体功能:查看特定帖子楼主的发言(不包含图片)

前段时间大概看了python的语法,但是确实第一次用python来写东西。很久之前就想学python,学爬虫了,现在终于开始了!谢了自己的第一个爬虫,很开心O(∩_∩)O 觉得学东西兴趣很重要,爬虫真的好玩!

整个功能的实现含有两个类,一个是工具类Tool,另一个是百度贴吧的爬虫类BaiduTieba,提取网页的内容主要还是正则表达式。代码如下:

# -*- coding:utf-8 -*-
import urllib
import urllib2
import re

#工具类,用于去除一些链接之类的特殊标签
class Tool:
    #去除图片链接
    removeImage = re.compile(‘<img class="BDE_Image".*?>‘)
    #去除<br>
    removeBR = re.compile(‘<br>‘)
    #去除超链接
    removeHref = re.compile(‘<a href=.*?</a>‘)

    def replaceStrange(self,x):
        x = re.sub(self.removeImage,"",x)
        x = re.sub(self.removeBR,"\n",x)
        x = re.sub(self.removeHref,"",x)
        return x.strip()

#百度贴吧爬虫类
class BaiduTieba:
    def __init__(self,baseUrl,seeLZ):
        #帖子基址
        self.baseUrl = baseUrl
        #只看楼主seeLZ=1
        self.seeLZ = ‘?see_lz=‘+str(seeLZ)
        self.tool = Tool()

    def getPage(self,pageNum):
        try:
            url = self.baseUrl + self.seeLZ + ‘&pn=‘ + str(pageNum)
            request = urllib2.Request(url)
            response = urllib2.urlopen(request)
            #print response.read()
            return response.read().decode(‘utf-8‘)
        except urllib2.URLError,e:
            if hasattr(e,"reason"):
                print e.reason
                return None

    def getTitle(self):
        page = self.getPage(1)
        pattern = re.compile(‘<h1 class="core_title_txt.*?>(.*?)</h1>‘,re.S)
        result = re.search(pattern,page)
        if result:
            print "success!"
            print result.group()
        else:
            print "failed!"

    def getContent(self,page):
        #正则表达式匹配
        pattern = re.compile(‘<div id="post_content_.*?>(.*?)</div>‘,re.S)
        items = re.findall(pattern,page)
        floor = 1
        for item in items:
            print ‘\n‘,floor,u"楼-----------------------------------------------------------------------------------"
            print self.tool.replaceStrange(item)
            floor += 1

print u"请输入帖子编号:"
baseURL = ‘http://tieba.baidu.com/p/‘ + str(raw_input(u‘http://tieba.baidu.com/p/‘))
baidu = BaiduTieba(baseURL,1)
baidu.getContent(baidu.getPage(1))

效果如图(扒一扒这些年朋友之上恋人未满的逗逼):
技术分享

版权声明:本文为博主原创文章,未经博主允许不得转载。

我是一只百度贴吧的小爬虫

标签:python   正则表达式   爬虫   

原文地址:http://blog.csdn.net/andrewseu/article/details/47188281

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!