1 #!/usr/bin/env python 2 3 import cStringIO # 4 import formatter # 5 from htmllib import HTMLParser ...
分类：
编程语言 时间：
2014-07-22 22:58:15
阅读次数：
284
所谓网络爬虫，就是一个在网上到处或定向抓取数据的程序，当然，这种说法不够专业，更专业的描述就是，抓取特定网站网页的HTML数据。不过由于一个网站的网页很多，而我们又不可能事先知道所有网页的URL地址，所以，如何保证我们抓取到了网站的所有HTML页面就是一个有待考究的问题了。一般的方法是，定义一个入口...
分类：
其他好文 时间：
2014-07-19 15:13:58
阅读次数：
241
官方文档地址：http://www.crummy.com/software/BeautifulSoup/bs4/doc/index.zh.htmlBeautiful Soup 相比其他的html解析有个非常重要的优势。html会被拆解为对象处理。全篇转化为字典和数组。相比正则解析的爬虫，省略了学习正...
分类：
编程语言 时间：
2014-07-18 11:35:42
阅读次数：
287
运用python抓取博客园首页的全部数据，并且定时持续抓取新发布的内容存入mongodb中...
分类：
数据库 时间：
2014-07-17 17:14:21
阅读次数：
292
案例一：trackinfo，基础表处理常用的低性能UDF背景描述：日志信息10分钟加载一次到实时日志表trackreal中（按小时分区），为了保证实时性，在加载的过程中并没有做任何的过滤处理，加载到trackreal表后再过滤非法数据、爬虫数据等，生成按天增量日志表trackinfo，然后根据不同的...
分类：
其他好文 时间：
2014-07-17 13:09:44
阅读次数：
226
python抓取伯乐在线的所有文章，对标题分词后存入mongodb中...
分类：
数据库 时间：
2014-07-16 17:09:20
阅读次数：
289
最近，有个朋友说，想在一些页面上获取一些关键性得信息。比如，电话，地址等等。一个个页面去找 又很麻烦。这时候，想起了 何不去用“爬虫”去抓取一些想要得东西。省事，省里。好，今天 我们就讲讲，关于爬虫得一些东西。
这里 自己也是，看了一些关于爬虫得知识，正好，这几日闲来没事。做了一个功能小得爬虫。
这里是使用 java来进行编写得 首先 我们来介绍下。使用得框架，jdk1.6，...
分类：
其他好文 时间：
2014-07-16 10:08:54
阅读次数：
267
（原创，转载请注明） 不久前接手一个java web开发的活，网站是一个学术期刊的发布和共享平台。支持在线搜索网站内部期刊。以前没接触过搜索引擎，觉得搜索是一门高深的学问，后来折腾了两天写了一个简单的，不包含权重排序、爬虫和大型数据库和全文搜索（貌似中文不支持全文搜索），不涉及自然语言处理相关...
分类：
Web程序 时间：
2014-07-15 23:08:41
阅读次数：
330
主要作用是告诉蜘蛛爬虫该网站下哪些内容能抓取，哪些内容不能抓取。虽然可以没有robots.txt这个文件，默认就抓取该网站的所有文件，对搜索引擎爬虫没有任何的影响，但是如果你想控制蜘蛛的检索间隔，你就必须用robots.txt来控制。robots.txt不是一种规范，是约定俗成的，主流的搜索引擎都是...
分类：
其他好文 时间：
2014-07-15 08:01:58
阅读次数：
189
我们如果在公司或家里使用网络爬虫去抓取自己索要的一些数据的时候，常常对方的网站有defence机制，会给你的http请求返回500错误，只要是相同IP就请求不到数据，这时候我们只能去重启路由器，这样IP地址会改变，网络爬虫就能正常工作了
下面是通过发送Socket请求来模拟路由器的重启指令:
protected void rebotadsl() {
try {
BufferedO...
分类：
编程语言 时间：
2014-07-14 13:00:50
阅读次数：
274
